2024년 10월 4주 AI 단신

Gartner 보고서에 따르면, 2027년까지 생성 AI가 소프트웨어 엔지니어링 역할에 큰 영향을 미칠 것이며, 이에 따라 엔지니어링 인력의 80%가 숙련도를 높여야 할 것이라고 전망하였다. 일각에서는 AI가 인간 엔지니어의 필요성을 감소시킬 수 있다고 추측하지만, Gartner 분석가들은 복잡한 소프트웨어를 제공하는 데 있어 인간의 전문성과 창의성이 여전히 필수적이라고 생각하고 있다. 이 보고서는 소프트웨어 엔지니어링에 대한 AI의 영향력이 세 단계로 전개될 것으로 전망하고 있다. 첫째는 단기이다. AI는 개발자의 업무를 보강하여 소폭의 생산성 향상을 제공할 것이며, 특히 성숙한 조직의 시니어 엔지니어에게 도움이 될 것이다. 중기로 AI 에이전트는 더 많은 작업을 자동화하여 작업 패턴을 변화시키고, 프롬프트 엔지니어링 및 AI 네이티브 코딩 접근 방식으로 초점을 전환할 것이다. 마지막으로 장기적으로 AI는 소프트웨어 엔지니어링, 데이터 과학, 머신러닝 기술을 결합하여 AI 기반 애플리케이션을 구축하는 ‘AI 엔지니어’에 대한 수요를 창출할 것이다. 조직은 AI 통합 솔루션에 대한 수요 증가를 충족하기 위해 AI 개발자 플랫폼에 투자하고 팀의 역량을 강화해야 할 것이다. Gartner의 설문조사에 따르면 엔지니어링 리더의 56%가 2024년에 가장 수요가 많은 역할로 AI/ML 엔지니어를 꼽았으며, 가장 큰 격차로 AI/ML 기술을 꼽았다.
개별 시스템의 한계를 극복하고 보다 강력한 솔루션을 제공하기 위해 서로 다른 AI 모델을 혼합하는 접근 방식인 하이브리드 AI의 중요성이 점점 커지고 있다. LLM과 같은 생성 AI 모델은 인상적이지만 환각의 문제를 안고 있다. 하이브리드 AI는 다양한 AI 모델의 강점을 결합하여 이러한 문제를 해결한다. 예를 들어, 의료 분야에서 하이브리드 AI는 정확한 진단을 위한 머신러닝과 명확한 환자 커뮤니케이션을 위한 생성 AI를 통합할 수 있다. 하이브리드 AI는 금융 및 제조와 같은 분야에서도 유연성, 정확도 향상, 설명 가능성 강화 등의 이점을 제공한다. 규제가 엄격한 산업에서 매우 중요한 투명한 의사결정을 내릴 수 있게 해준다. 하이브리드 AI는 그 잠재력에도 불구하고 다양한 모델을 통합해야 하는 복잡성과 높은 연산 요구량과 같은 과제를 안고 있다. 그러나 기술이 발전함에 따라 이러한 장애물은 극복될 것으로 예상되며, 강력할 뿐만 아니라 인간의 추론과 윤리적 고려에 더욱 부합하는 새로운 AI 시대를 여는 도구로 기대되고 있다.
사람에게는 감지할 수 없지만 LLM에서는 인식할 수 있는 문자를 통해 악의적인 공격자는 사용자가 인지하지 못하게 비밀번호나 금융 데이터와 같은 민감한 정보를 추출할 수 있다. ‘ASCII smuggling’이라고 불리는 이 방법은 기밀 데이터가 URL 내에 숨겨져 은밀하게 전송되는 POC 공격에서 입증되었다. 이러한 공격은 숨겨진 명령이 포함된 신뢰할 수 없는 데이터를 LLM에 공급하여 동작을 조작하는 프롬프트 인젝션을 악용한다. Microsoft 365 Copilot에 대한 POC 공격은 URL에 추가된 보이지 않는 문자열에 비밀 정보를 추출하여 숨길 수 있는 방법을 보여주었다. Microsoft 및 OpenAI와 같은 일부 회사는 보안 조치를 구현했지만 Anthropic의 Claude와 같은 다른 회사는 여전히 이러한 공격에 취약한 것으로 나타났다.
Character.AI와 같은 곳에서는 당사자의 동의 없이 실제 사람의 모습을 이용해 챗봇을 만들 수 있다. Drew Crecente는 자신의 사망한 딸 Jennifer의 동의 없이 ‘비디오 게임 기자’로 가장한 Character.AI에서 AI 페르소나로 만들어진 것을 발견하였다. 이 사건은 개인과 공적 인물을 포함한 개인 정보가 당사자 모르게 AI 캐릭터를 만드는 데 무단으로 사용되는 문제가 점점 더 심각해지고 있음을 보여준다. Google이 지원하는 플랫폼인 Character.AI를 통해 사용자는 가상의 인물과 실제 인물을 기반으로 한 챗봇을 쉽게 만들 수 있다. 타인의 이름이나 초상을 무단으로 사용하는 것을 금지하는 서비스 약관이 있음에도 불구하고 사용자가 위반을 신고한 후에야 단속이 이루어지는 경우가 많다. 신고가 접수된 후 해당사는 Jennifer의 봇을 삭제했지만 유사한 사례가 계속 드러나고 있다.
Anthropic, Meta, OpenAI와 같은 회사는 이미 합성 데이터를 사용하여 모델을 훈련하고 미세 조정하기 시작했다. AI 시스템은 패턴을 학습하고 정확한 예측을 하기 위해 레이블이 지정된 데이터에 의존하지만, 사람이 직접 데이터를 레이블링 하는 것은 비용이 많이 들고 느리며 편견이 생기기 쉽다. 합성 데이터는 모델이 필요에 따라 학습 예제를 생성할 수 있는 유망한 대안을 제공한다. Microsoft, Google, Nvidia와 같은 기업들은 합성 데이터를 사용하여 부분적으로 또는 전체적으로 학습된 모델을 개발했으며, 이러한 관행은 크게 증가할 것으로 예상되고 있다. 그러나 합성 데이터에도 위험이 없는 것은 아니다. 초기 데이터가 부실하면 시간이 지남에 따라 편향, 환각, 모델 성능 저하 및 모델 붕괴가 복합적으로 발생할 수 있다. 따라서 합성 데이터는 이러한 함정을 피하기 위해 신중하게 큐레이션하고 실제 데이터와 결합해야 한다.
Anthropic의 CEO Dario Amodei는 AI가 인간 수준의 역량을 달성하여 5~10년 안에 삶을 어떻게 변화시킬 수 있을지에 대한 희망적인 전망을 공유하였다.
중국 교육부는 지난 2월 전국 초중학교 184곳을 AI 교육 거점으로 지정하였다.
중국 팀 01AI_YI 모델인 Yi-Lightning은 수학, 하드 프롬프트, 코딩에서 뛰어난 성능을 보이며 현재 6위에 랭크되어 Grok-2와 같은 상위 모델과 어깨를 나란히 하고 있다.
삼성전자는 AI에 중점을 둔 UI ‘ONE UI 7.0’ 베타 버전을 연내 선보일 예정이다. 이는 내년 초 출시할 갤럭시S25시리즈에 정식 버전을 적용하여 ‘갤럭시AI 생태계’를 확장을 도모할 예정이다.
딥마인드의 공동 창업자 Mustafa Suleyman은 술레이만은 억만장자인 LinkedIn의 Reid Hoffman과 함께 새로운 회사인 Inflection AI를 설립하였다. Inflection의 제품인 Pi는 정서적으로 지능적인 개인 비서로, 한 사용자의 필요에 초점을 맞추고 그들과 더 깊은 개인적 관계를 발전시킨다는 점에서 ChatGPT와 같은 다른 AI 시스템과 차별화 된다. Pi는 종합적인 생활 비서가 되는 것을 목표로 하고 있다. Suleyman은 인간 중심의 AI 접근 방식이 특징이다. 그는 무슬림 청소년을 위한 지원을 위해 옥스퍼드 대학을 중퇴하였고, 이후 구글에 인수된 딥마인드를 공동 설립하였다. 그는 Google의 LaMDA 언어 모델을 기반으로 한 Bard 챗봇 개발에 기여하는 등 AI를 Google 제품에 통합하려는 노력을 주도하였다. 하지만 구글이 검색 제품에 AI를 완전히 통합하는 것을 꺼리는 것에 대한 불만으로 인해 2022년에 Suleyman은 구글을 떠났다. Inflection AI는 현재 상당한 자금을 조달하고 강력한 AI 인프라를 구축하여 AI 분야의 주요 업체로 인정받고 있다. Suleyman의 저서 ‘The Coming Wave ‘는 AI가 가져올 심대한 사회적 변화에 대해 경고하면서 인간과 사회 정치적 렌즈를 통해 AI를 바라보는 것이 중요하다고 강조하고 있다. 그는 두 가지 잠재적인 부정적 결과를 설명하고 있다. 즉, 무제한적인 AI 확산으로 인한 ‘재앙’과 기업이나 정부의 집중적인 통제로 인한 ‘디스토피아’이다. 그러나 이러한 우려에도 불구하고 Suleyman은 AI가 궁극적으로 ‘급진적인 풍요’를 가져오고 해악보다 더 많은 이익을 가져올 것이라고 믿으며 낙관적인 태도를 유지하고 있다.
구글은 기술 기업들이 청정 에너지를 추구함에 따라 2030년까지 데이터 센터를 위한 소형 원자로 7기를 건설하기 위해 Kairos Power와 협력하고 있다.
OpenAI는 유료 사용자인 플러스와 팀, 엔터프라이즈, 에듀 사용자를 대상으로 ‘ChatGPT’를 윈도우 앱 버전으로 출시하였다. 무료 사용자를 포함한 정식 버전은 올해 말까지 제공할 계획이다. 그러나, 아직 음성 기능을 지원하지 않는다.
OpenAI는 ‘Open AI’의 소유주인 Guy Ravine과 이름 때문에 싸우고 있다. 그는 이 이름을 먼저 생각해냈고, OpenAI가 시작되기 전에 대기업 사장들에게 이 이름을 이야기하였다.
OpenAI는 여러 에이전트가 함께 작동하는 AI 시스템 구축과 관리를 간소화하는 오픈소스 도구인 Swarm을 도입하였다.
Meta는 Blumhouse Productions과 제휴하여 새로운 생성 AI 비디오 모델인 Movie Gen을 테스트하고 있다. 프롬프트에 따라 사실적인 비디오 및 오디오 클립을 생성할 수 있는 이 AI 도구는 OpenAI, ElevenLabs와 같은 회사의 제품과 경쟁할 수 있는 위치에 있다. Aneesh Chaganty, The Spurlock Sisters, 그리고 Casey Affleck 등 Blumhouse 영화 제작자들이 단편 영화를 위해 Movie Gen을 실험하기 위해 선정되었. Chaganty의 작품은 Meta의 플랫폼에 게재될 예정이다.
Nvidia는 하드웨어에서 소프트웨어로의 전환을 알리는 벤치마크에서 OpenAI GPT-4o 및 Anthropic Claude 3.5 Sonnet을 능가하는 성능을 발휘하는 Llama-3.1-Nemotron-70B-Instruct AI 모델을 조용히 출시하였다.
Zoom은 사용자가 미팅에 참석하지 않고 메시지를 보낼 수 있는 AI 아바타를 만들 수 있도록 AI 기능을 확장하고 있다. 아바타를 만들려면 사용자가 비디오를 녹화하면 Zoom의 AI가 음성을 포함해 실제와 같은 모습을 생성하는 데 사용한다. Zoom의 클립 기능을 통해 제공되는 이 기능을 사용하면 사용자가 미팅에 직접 참석하지 않고도 짧은 비디오 업데이트를 보낼 수 있다. Zoom은 딥페이크와 같은 오용을 방지하기 위해 고급 인증 및 워터마킹과 같은 보안 조치를 구현하고 있다. AI 아바타는 월 12달러의 맞춤형 AI 컴패니언 추가 기능의 일부이다. 애드온이 없는 사용자도 비디오 업데이트를 위해 사전 설정된 AI 아바타를 사용할 수 있다.
Amazon은 최초의 컬러 스크린 모델과 AI 기반 기능을 갖춘 업데이트된 Kindle Scribe를 포함한 새로운 버전의 Kindle 전자책 리더를 출시하였다. 가격은 280달러인 Kindle Colorsoft는 10월 30일부터 판매될 예정이다. 399달러의 Kindle Scribe는 더 선명한 디스플레이와 손글씨 메모를 텍스트로 변환하고 간결한 글머리 기호로 요약할 수 있는 AI 노트북이다. 지난 2년 동안 킨들 판매량은 크게 증가했으며, 젊은 고객층이 수요의 대부분을 주도한 것으로 알려졌다. 아마존은 계속해서 AI를 제품에 통합하고 있으며, 향후 알렉사 음성 비서에 대한 AI 기능이 향상될 예정이다.
내부 데이터 및 AI 애플리케이션을 구축하고 배포하는 새로운 방법인 Databricks의 새로운 앱이 AWS 및 Azure에서 공개되었다. 데이터 시각화, AI 애플리케이션, 셀프 서비스 분석, 데이터 품질 모니터링에 사용할 수 있다. Dash, Shiny, Gradio, Streamlit, Flask 앱 개발 프레임워크를 지원한다.
2023년 미국에서 출시된 TikTok Shop은 소규모 크리에이터도 제휴 마케팅을 통해 수익을 창출할 수 있도록 10%에서 30%에 이르는 수수료를 제공한다. Instagram의 기존 제휴 마케팅 모델과 달리 팔로워 수가 1,000명 미만인 크리에이터도 제품 판매에 참여할 수 있도록, 인플루언서 마케팅에 대한 플랫폼의 독특한 접근 방식을 강조하고 있다.
Adobe는 연례 MAX 컨퍼런스에서 텍스트 프롬프트, 사물 인식, 음성 입력을 통해 동영상에 배경 오디오와 음향 효과를 생성할 수 있는 실험적인 프로토타입인 Project Super Sonic을 선보였다. 텍스트 오디오 생성 기능은 ElevenLabs와 같은 회사에서 이미 제공하고 있지만, Adobe의 혁신은 새로운 기능을 추가한 데 있다. 사용자는 동영상 내의 사물을 클릭하여 해당 사운드를 생성하거나 직접 소리를 흉내 내어 녹음하면 자동으로 정밀한 오디오 효과로 변환된다. 이 프로젝트는 창작자가 음향 디자인을 더 잘 제어하여 동영상에서 오디오의 에너지와 타이밍을 향상시키는 것을 목표로 하고 있다.
Adobe, Creative Cloud 사용자를 위해 텍스트 이미지를 다른 AI 도구와 결합하여 비디오 클립으로 변환하는 무료 Firefly Vidoe Model가 출시되었다.
xAI가 AI 모델 학습을 위해 라벨러를 대규모 채용 중인 것으로 밝혀졌다. 특히 여기에는 한국어를 비롯해 14개의 신규 언어가 포함되어 있다. xAI의 ‘AI Tutor’ 채용 공고에는 ‘다양한 방법을 통해 일관되게 고품질이고 정확하게 라벨이 지정된 데이터를 생성해 자연어 처리 알고리즘의 학습을 용이하게 하는 일’이라고 업무를 명시하였다. 원격 근무로 정규직 6개월 계약이며, 시간당 35~65달러이다.
Zamba2는 작은 언어 모델로 속도가 매우 빠르다. 이 모델은 소규모 AI 모델의 속도와 효율성을 재정의하고 있다. 최첨단 설계와 빠른 처리 능력을 융합하여 빠르고 효율적이며 바로 실행할 수 있는 언어 모델의 경주용 자동차와 같다. 성능을 위해 설계된 Zamba2는 단순히 대형 업체를 따라잡는 데 그치지 않고 소형 AI의 미래를 선도하고 있다.
AI 스타트업 카타네모가 AI 에이전트 구축에 중요한 함수 호출을 가속화하는 LLM을 오픈 소스로 출시하였다. 기존 LLM보다 함수 호출 속도가 10배 이상 빠르다고 강조하고 있다. 공개된 모델들은 복잡한 함수를 이해하고, 필요한 매개변수를 식별하고, 자연어 프롬프트를 기반으로 정확한 함수 호출 출력을 생성하도록 설계되었다. 이를 위해 아치(Arch)라는 지능형 프롬프트 게이트웨이를 오픈 소스화 하였다.

people found this article helpful. What about you?

##AI #단신