OpenAI, 안전, 정확성 에 주목한 추론 AI 출시

ChatGPT 제작자 OpenAI는 목요일 생성형 AI 챗봇이 더 정확하고 유익한 응답을 제공하기를 희망하며 생각하는 데 더 많은 시간을 할애하도록 설계된 새로운 인공 지능 모델 시리즈를 출시했다.

OpenAI o1-Preview로 알려진 새로운 모델은 복잡한 작업을 처리하고 과학, 코딩 및 수학에서 더 어려운 문제를 해결하도록 설계되었다.

이전 모델과 달리 이러한 모델은 사고 과정을 개선하고, 다른 방법을 시도하고, 최종 답변을 배포하기 전에 실수를 인식하도록 훈련되었다. 미국 언론에 따르면 이번 출시는 오픈AI가 약 1,500억 달러의 가치를 지닌 자금을 모으고 있는 가운데 나온 것으로, 이는 오픈AI를 세계에서 가장 가치 있는 민간 기업 중 하나로 만들 것이다.

투자자에는 마이크로소프트(Microsoft)와 엔비디아(Nvidia)가 포함되며 아랍에미리트(UAE)의 지원을 받는 투자 펀드인 MGX의 70억 달러 투자도 포함될 수 있다고 더 인포메이션은 보도했다.

오픈AI CEO 샘 알트먼(Sam Altman)은 이 모델을 "새로운 패러다임, 즉 범용 복합 추론을 수행할 수 있는 AI"라고 환영했다. 그러나 그는 이 기술이 "여전히 결함이 있고 여전히 제한적이며, 더 많은 시간을 보낸 후보다 처음 사용할 때 여전히 더 인상적으로 보인다"고 경고했다.

OpenAI가 모델에서 "사고"를 개선하려는 노력은 AI 챗봇의 "환각"이라는 고질적인 문제에 대한 응답이다. 이는 설득력 있지만 잘못된 콘텐츠를 생성하는 경향을 나타내며 기업 고객들 사이에서 ChatGPT 스타일의 AI 기능에 대한 흥분을 다소 식혔다.

"우리는 이 모델이 환각을 덜 일으킨다는 것을 알아차렸다"고 OpenAI 연구원 Jerry Tworek은 The Verge에 말했다. 그러나 "우리가 환각을 해결했다고 말할 수는 없다"고 그는 덧붙였다.

마이크로소프트의 지원을 받는 이 회사는 테스트에서 모델들이 물리학, 화학, 생물학의 어려운 과제에 대해 박사 과정 학생들과 비슷한 성능을 보였다고 말했다.

또한 수학과 코딩 분야에서도 두각을 나타냈는데, 국제 수학 올림피아드 자격 시험에서 83%의 성공률을 기록한 반면, 가장 진보된 범용 모델인 GPT-4o는 13%를 기록했다. 오픈AI는 새로운 추론 기능을 이용해 의료 연구원이 세포 염기서열 분석 데이터에 주석을 달거나, 물리학자가 복잡한 공식을 생성하거나, 컴퓨터 개발자가 다단계 설계를 구축하고 실행하는 데 사용할 수 있다고 밝혔다.

회사는 또한 모델이 엄격한 탈옥 테스트를 견뎌냈고 가드레일을 우회하려는 시도를 더 잘 견딜 수 있다고 말했다. 오픈AI는 강화된 안전 조치에는 평가 및 테스트를 위한 모델에 대한 조기 접근 권한을 부여한 미국 및 영국 AI 안전 연구소(AI Safety Institutes)와의 최근 계약도 포함됐다고 밝혔다.