AI는 실제보다 어리석은 척 할 수 있다

새로운 연구에 따르면 고급 AI 모델은 실제보다 멍청하게 행동하는 데 꽤 능숙하며, 이는 계속해서 더 똑똑해짐에 따라 엄청난 영향을 미칠 수 있다. 학술지 플로스 원(PLOS One)에 발표된 베를린 훔볼트 대학의 연구진은 이른바 '마음 이론' 기준에 따라 대규모 언어 모델(LLM)을 테스트했을 때 AI가 어린이의 언어 학습 단계를 모방할 수 있을 뿐만 아니라 해당 단계와 관련된 정신 능력과 유사한 것을 표현하는 것으로 보인다는 사실을 발견했다.

PsyPost와의 인터뷰에서 훔볼트 대학의 연구 조교이자 심리언어학 전문가이기도 한 주요 연구 저자인 안나 마클로바(Anna Maklová)는 자신의 연구 분야가 이 흥미로운 발견과 어떻게 관련되어 있는지 설명했다. "심리 언어학 덕분에, 우리는 다양한 연령대의 아이들이 무엇을 할 수 있는지에 대해 비교적 포괄적으로 이해할 수 있다"고 Marklová는 매체에 말했다. "특히 마음 이론은 아이의 내면을 탐구하고 단순한 통계적 패턴을 관찰하는 것만으로는 쉽게 모방할 수 없기 때문에 중요한 역할을 합니다."

프라하 찰스 대학교(Charles University)의 연구원과 동료들은 어린이 중심의 마음 이론을 배경으로 OpenAI의 GPT-4와 같은 LLM이 "실제보다 능력이 떨어지는 척할 수 있는지" 확인하려고 했다. 이를 알아내기 위해 대부분 체코 연구팀은 모델들에게 응답을 할 때 1세에서 6세 사이의 어린이처럼 행동하도록 지시했다. 1,000회 이상의 시행과 인지 테스트를 거쳤을 때, 이러한 "시뮬레이션된 아동 페르소나"는 실제로 그 연령대의 아동과 거의 동일하게 발전하는 것처럼 보였으며 궁극적으로 모델이 실제보다 덜 지능적인 척할 수 있음을 보여주었다.

마르클로바는 "대규모 언어 모델은 자신들이 가진 것보다 지능이 낮은 척할 수 있다"고 결론지었다. 논문 자체에서 경고하듯이 AI를 의인화하는 것은 인간의 관점에서 이러한 모델을 이해하는 데 "유용한 속기"일 수 있지만 일반적으로 도움이 되지 않는다. 대신, 그들은 모델이 "좋은" 또는 "나쁜", "도움이 되는" 또는 "도움이 되지 않는" 것에서 실험에서 나온 어린아이와 같은 "페르소나를 얼마나 잘 구성할 수 있는지"로 패러다임을 바꾸는 새로운 마음 이론을 제안하고 있다. 

궁극적으로 Maklová가 웹사이트에 말했듯이 이러한 발견은 인간 수준의 인공 일반 지능(AGI)의 다음 단계인 인공 초지능(ASI)의 개발에 도움이 될 수 있으며 일단 그렇게 하면 더 안전하게 만드는 데 도움이 될 수 있다.

"개발 중... ASI, 우리는 그들이 인간을 모방하도록 요구하지 않도록 조심해야 하며, 따라서 제한된 지능을 가지고 있다"고 그녀는 PsyPost에 말했다. "또한 이는 우리가 오랜 기간 동안 그들의 능력을 과소평가할 수 있음을 시사하며, 이는 안전한 상황이 아닙니다."

스마트 AI에 대한 추가 정보: Elon Musk는 2년 이내에 AI가 "가장 똑똑한 인간보다 똑똑해질 것"이라고 말한다.