AI의 대부의 주장, AI가 곧 인간 지능을 능가한다.

임박한 우울함

AI의 "대부" 중 한 명인 제프리 힌튼(Geoffrey Hinton)은 AI가 인간 지능을 능가할 것이라고 단호히 주장하며, 우리가 AI 개발에 대해 충분히 안전하지 않다고 우려한다.

이것은 단지 그의 의견이 아니지만 확실히 그 자체로 무게를 지닌다. BBC의 Newsnight 프로그램과의 인터뷰에서 힌튼은 AI가 인간 지능을 능가한다는 생각은 불가피하다고 주장했으며 실제로 해당 분야 리더들의 합의라고 주장했다.

힌튼은 BBC에 "이에 대해 의심하는 전문가는 거의 없다"라고 말했다. "내가 아는 AI 전문가인 거의 모든 사람들은 자신들이 인간 지능을 뛰어넘을 것이라고 믿는다. 단지 언젠가 문제일 뿐이다."

불량 로봇

힌튼은 몬트리올 대학교의 요슈아 벤지오(Yoshua Bengio) 및 Meta의 얀 르쿤(Yann LeCun)과 공유하는 AI의 세 "대부" 중 한 명이다. 힌튼은 인터뷰에서 AI 초지능이 "문제 없음"이라고 생각하는 것으로 후자를 특징지었다.

2023년에 힌튼은 Google에서 직위를 그만두고 업계의 오펜하이머로서 새로 찾은 역할의 특징이 된 발언에서 기술로 인해 발생하는 실존적 위험을 경고하면서 평생의 일을 후회한다고 말했다. 그는 그 선을 두 배로 줄였다.

힌튼은 "이렇게 다양한 의견을 고려할 때 AI 개발 및 규제에 대해 조심하는 것이 현명하다고 생각한다"라고 말했다. "나는 그들이 통제할 가능성이 있다고 생각한다. 그리고 그것은 상당한 기회이다. 1%가 아니라 훨씬 더 많은 것이다."라고 그는 덧붙였다. "AI가 불량하게 행동하여 장악하려고 시도하는 것은 우리가 통제할 수 있는 것인지, 아니면 통제할 수 없는 것인지는 알 수 없다."

현재 상태로는 가자지구의 공습 표적을 찾아내기 위해 AI 시스템을 사용하는 이스라엘 방위군과 같은 이 기술의 군사적 적용이 힌튼을 가장 걱정하게 만드는 것 같다.

그는 BBC와의 인터뷰에서 "내가 가장 걱정하는 것은 AI가 자율적으로 사람을 죽이는 결정을 내릴 수 있느냐는 것"이라며 세계 정부가 이 분야를 규제하려는 의지가 부족하다고 경고했다.

제대로 수행되지 않은 작업

보편적 기본 소득을 믿는 힌튼은 또한 "AI가 일상적인 일자리를 대신할까봐 걱정된다"고 말했다. 이는 생산성을 향상시킬 것이지만 부의 증가는 일자리를 잃은 사람들이 아닌 부유한 사람들에게 불균형적으로 돌아갈 것이라고 힌튼은 덧붙였다.

위안이 된다면, 힌튼은 불량 AI가 인류를 장악하는 것이 완전히 기피된 결론이라고 생각하지 않는다. 다만 AI가 결국 우리보다 더 똑똑해질 것이라고 생각한다. 그럼에도 불구하고 AI 모델을 개발하는 이익 중심 기업이 기술의 안전한 개발을 가장 신뢰할 수 있는 청지기가 아니라고 주장할 수도 있다.

윤리적 반전의 역사를 갖고 있는 오픈AI(OpenAI)는 최근 자사가 책임감 있게 초지능 AI를 개발할 것이라는 믿음을 잃은 전직 안전직 종사자로부터 비난을 받았다. 그러므로 힌튼이 운명과 우울에 대해 약간의 죄책감을 갖고 있다고 해도 그는 확실히 혼자가 아니다.