[어떤 AI를 만들어야 하나?] OPENAI 수석과학자: 우리는 우리를 사랑하는 신과 같은 AI를 만들어야 할까, 아니면 AI는 우리에게 순종해야 할까?

AI 도발사

최고의 인공지능 전문가가 비밀스러운 Twitter 설문조사에서 놀라운 견해를 발표했다.

설문조사에서 OpenAI 수석 과학자 Ilya Sutskever는 추종자들에게  고급슈퍼AI가 인간 창조자에게 "깊은 순종"을 해야 하는지 또는 이러한 신과 같은 알고리즘이 "진정으로 인류를 사랑해야 하는지"를 물었다.

즉, 초지능 AI를 애완동물로 취급해야 할지, 그 반대여야 할지 고민하는 것 같다. 오늘날 사용 가능한 가장 인상적인 기계학습시스템인 GPT-3 및 DALL-E 뒤에 있는 회사의 수석연구원이 말했다.

저주받은 타임라인

이러한 종류의 도발적인 질문은 Google 엔지니어가 회사의 알고리즘 중 하나가 지각력을 얻었다고 주장하여 인터넷을 잠시 중단하기 몇 달 전이었고, 그로인해 올해의 지각있는 AI토론을 촉발시킨 것으로 잘 알려진 연구원인 Sutskever의 말에서 알려졌다.

지난 2월 OpenAI의 수석과학자이자 공동설립자는 후속 조치나 영수증 없이 "오늘날의 대규모 신경망이 약간 의식이 있는 것일 수 있다" 고 주장하여 동료들을 화나게 했다.

그 이후로 Sutskever의 토론은 과열되었다. 이 논쟁은 Google이 거대기업이 지각있는 AI를 만들었다는 믿음으로 공개적으로 공개된 것이고, 그래서 구글은 엔지니어 Blake Lemoine를 해고하는 결정하는 등 급속도로 그 사건을 덮었다.

그럴 수도 있고 아닐 수도 있고

대체로 기계학습 커뮤니티의 대부분의 사람들은 AI가 곧 지각을 갖게 된다는 개념을 일축했지만 Google에서 인공지능이 약간의 의식을 가진다고 하는 의견을 급히 덮는 상황을 비방하는 사람들도 있었다.

잠재적 신자이거나 최소한 불가지론자 중에는 Sutskever의 동료 OpenAI 공동창립자 Elon Musk가 있다. 그는 1월에 Tesla의 분명히 출시될 휴머노이드 로봇이 인공일반지능(AGI)을 가져오는 물결의 일부가 될 수 있다고 주장했지만 다른 사람들이 지적했듯이 세계에서 가장 부유한 사람이 지각이 있는 로봇이든 아니든 조만간 의식을 가진 로봇을 판매할 가능성은 없어보인다.

우리는 Sutskever와 연락할 수 없었기 때문에 그가 정말로 생각하고 있는 것에 대한 단서를 얻기 위해 그의 Twitter 피드에 의존할 수 밖에 없었다.

AGI에 대한 추가 정보: Google은 인간 수준의 인공지능에 가까워지고 있다고 말한다.