영화 메간(M3GAN)에서 장난감 개발자는 최근에 고아가 된 그녀의 조카인 캐디에게 캐디를 보호한다는 한 가지 목표를 가진 어린이 크기의 AI 로봇을 제공한다. 로봇 메간(M3GAN)은 캐디의 트라우마에 공감한다. 그러나 파인트 크기의 로봇이 캐디에게 위협이 된다고 생각하는 모든 사람을 공격하면서 상황은 곧 악화된다.
메간(M3GAN)은 악의적이지 않았다. 프로그램을 따랐지만 궁극적으로 캐디를 포함한 다른 존재에 대한 관심이나 존중은 없었다. 어떤 의미에서 메간은 물리적 세계와 연결되면서 AI 소시오패스가 되었다.
소시오패스 AI는 할리우드에서만 탐구되는 주제가 아니다. 서던캘리포니아대학교의 레오나르도 크리스토프-무어 박사와 동료들에게 AI에 인공 공감을 구축하고 모든 반사회적 행동을 싹에서 제거해야 할 때이다.
지난 주 사이언스 로보틱스(Science Robotics)에 발표된 에세이에서 팀은 코드 라인에 공감을 포함하는 신경과학 관점을 주장했다. 핵심은 생존을 위한 "직감 본능"을 추가하는 것이다. 예를 들어 신체적 고통을 피해야 할 필요성이 있다. 그것이 어떻게 "상처"를 받을 수 있는지에 대한 감각으로 AI 에이전트는 그 지식을 다른 사람들에게 매핑할 수 있다. 그것은 인간이 서로의 감정을 측정하는 방식과 비슷하다. 나는 전에 거기에 가봤기 때문에 당신의 고통을 이해하고 느낀다.
크리스토프-무어 박사는 공감을 기반으로 하는 AI 에이전트가 "돌이킬 수 없는 중대한 피해를 방지"하는 보호 난간을 추가한다고 말했다. 디지털 방식으로 모방하여 결과를 "경험"하는 경우 다른 사람에게 해를 입히는 것은 매우 어렵다.
디지털 다빈치
ChatGPT 및 기타 대규모 생성 모델의 급속한 증가는 모든 사람들을 놀라게 했으며 즉시 이러한 모델이 우리 세계에 어떻게 통합될 수 있는지에 대한 질문을 제기했다. 일부 국가에서는 사이버 보안 위험 및 개인 정보 보호로 인해 이미 기술을 금지하고 있다. AI 전문가들은 또한 올해 초 공개 서한에서 이 기술이 "사회에 대한 심각한 위험"에 대해 경고하는 경종을 울렸다.
우리는 여전히 AI 기반 세상에 적응하고 있다. 그러나 이러한 알고리즘이 사회 구조에 점점 더 많이 침투함에 따라 잠재적인 결과를 미리 내다봐야 할 때이다. AI 에이전트가 해를 끼치지 않고 대신 인류와 협력하고 사회를 돕도록 어떻게 안내해야 할까?
이것은 어려운 문제이다. 대부분의 AI 알고리즘은 블랙박스로 남아 있다. 우리는 많은 알고리즘이 결정을 내리는 방법과 이유를 모른다.
그러나 에이전트는 인간의 직관에 반하는 "놀랍고 또한 신비한" 솔루션을 제시하는 묘한 능력을 가지고 있다고 크리스토프-무어 박사는 말했다. 예를 들어 가능한 한 많은 치료용 단백질을 만드는 방법을 찾는 것과 같이 그들에게 도전을 주면 그들은 종종 인간이 고려조차 하지 않은 해결책을 상상할 것이다.
자유로운 창의성에는 대가가 따른다. "문제는 그들이 생명체, 특히 인간에게 치명적인 돌이킬 수 없는 해를 끼칠 수 있는 해결책을 선택할 수 있다는 것이다."라고 크리스토프-무어 박사는 말했다.
AI에 인공적인 공감을 추가하는 것이 현 시점에서 우리가 가진 가장 강력한 보호책일 수 있다.
감정을 이야기하자
공감은 동정이 아니다.
예를 들어, 나는 최근에 3인치 너비의 신선한 상처에 과산화수소를 부었다. 동정심은 그것이 고통스러웠다는 것을 이해하고 돌봄과 연민을 보일 때이다. 공감은 고통이 당신에게 어떻게 느껴질지(그리고 움츠러들게 될지) 생생하게 상상하는 것이다.
신경 과학의 이전 연구에 따르면 공감은 크게 두 가지 주요 구성 요소로 나눌 수 있다. 하나는 순전히 논리적이다. 누군가의 행동을 관찰하고, 그들의 경험을 해독하고, 그들에게 무슨 일이 일어나고 있는지 추론한다.
대부분의 기존 인공 공감 방법은 이 경로를 따르지만 소시오패스 AI로 가는 지름길이다. 악명 높은 인간 상대와 유사하게, 이러한 에이전트는 감정을 흉내낼 수 있지만 경험하지는 않으므로 피해나 고통을 피하기 위한 도덕적 이유 없이 다른 사람의 감정을 예측하고 조작할 수 있다.
두 번째 구성 요소는 그림을 완성한다. 여기에서 AI는 인간과 다른 시스템에서 공유되는 취약성을 부여받는다.
크리스토프-무어는 "당신이 어떤 상태에 있는지 알고 있지만 전혀 공유하지 않는다면 내가 개발한 매우 강력한 도덕 규범이 없다면 그것이 나를 감동시킬 이유가 없다."라고 크리스토프-무어는 말했다.
취약한 AI
취약점을 코딩하는 한 가지 방법은 AI에 살아 있다는 느낌을 불어넣는 것이다.
인간은 배고프고. 과열되고. 냉담하고. 의기 양양하고. 우울한 진화 덕분에 우리는 항상성이라고 하는 전반적인 신체적, 정신적 건강을 유지하는 데 도움이 되는 각각의 생물학적 측정에 대한 좁지만 유연한 창을 갖게 되었다. 우리 몸과 마음의 능력을 알면 예상치 못한 역동적인 환경에 처했을 때 가능한 모든 해결책을 찾을 수 있다.
이러한 생물학적 제약은 버그가 아니라 AI에서 공감을 생성하기 위한 기능이라고 저자는 말했다.
AI에 인공 공감을 프로그래밍하기 위한 이전 아이디어 중 하나는 옳고 그름에 대한 명확한 규칙을 작성하는 것이다. 명백한 문제가 있다. 규칙 기반 시스템은 엄격하고 도덕적으로 회색 영역을 탐색하기 어렵다. 또한 서로 다른 문화가 수용할 수 있는 프레임워크가 매우 다양하기 때문에 확립하기 어렵다.
반대로 생존에 대한 욕구는 보편적이며 취약한 AI를 구축하기 위한 출발점이다.
크리스토프-무어는 "결국 가장 중요한 것은 당신의 두뇌이다... 세상에서 취약한 신체를 유지하는 방법과 당신이 얼마나 잘하고 있는지에 대한 평가를 처리해야 한다."고 말했다.
이러한 데이터는 우리의 선택에 영향을 미치는 느낌으로 의식에 나타난다. 편안함, 불편함, 여기 가거나 저기서 먹는다. 크리스토프-무어는 이러한 추진력이 "우리 삶의 영화에 대한 기본 점수이며 [일이] 잘 진행되고 있는지 아닌지에 대한 감각을 제공한다"고 말했다. 로봇처럼 디지털 방식이든 물리적 방식이든 유지해야 하는 취약한 신체가 없으면 AI 에이전트는 특정 행동을 지향하거나 특정 행동에서 멀어지게 하는 협업 생활을 위한 게임에서 피부를 가질 수 없다.
그렇다면 취약한 AI를 구축하는 방법은 무엇일까?
크리스토프-무어는 “고통과 같은 것을 경험할 필요가 있다”고 말한다.
팀은 실용적인 청사진을 제시했다. 주요 목표는 항상성을 유지하는 것이다. 첫 번째 단계에서 AI "키드"는 장애물로 가득 찬 환경을 돌아다니면서 유익한 보상을 찾고 스스로를 유지한다. 다음으로, 다른 사람들을 관찰함으로써 그들이 생각하는 것에 대한 아이디어를 개발하기 시작한다. 그것은 첫 데이트와 같다. AI 아이는 다른 AI가 "생각"하는 것을 상상하려고 시도하고 (신선한 꽃은 어떨까?), 그것이 틀렸을 때 (다른 AI는 꽃을 싫어함) 일종의 슬픔을 겪고 기대치를 조정한다. 여러 번의 시도를 통해 AI는 결국 상대방의 선호도를 학습하고 적응한다.
마지막으로 AI는 자신의 무결성을 유지하면서 상대방의 내부 모델을 자신에게 매핑한다. 결정을 내릴 때 단일 결정에 대한 각 입력에 가중치를 두어 여러 관점을 동시에 고려할 수 있으므로 더 스마트하고 협력적으로 만들 수 있다.
현재로서는 이론적인 시나리오일 뿐이다. 인간과 마찬가지로 이러한 AI 에이전트는 완벽하지 않다. 그들은 제 시간에 스트레스를 받을 때 나쁜 결정을 내리고 장기적인 결과를 무시한다.
즉, AI는 "자신뿐만 아니라 다른 살아있는 에이전트에 해를 끼칠 수 있는 결정을 내리는 결정을 저지하는 매우 지능적인 억지력을 생성한다."라고 크리스토프-무어는 말했다. “AI는 이 세상의 여러 상충되는 시나리오에서 피해, 복지 및 번영의 균형을 유지함으로써 우리가 생각조차 하지 못한 긴급한 문명 수준의 문제에 대한 반 직관적인 솔루션에 도달할 수 있다. 이 다음 장애물을 통과할 수 있다면… AI는 문명 수준의 위험에서 우리가 가진 가장 큰 동맹이 될 수 있다.”
이미지 출처: Mohamed Hassan, Pixabay
글쓴이: 셸리 팬Shelly Xuelai Fan
https://neurofantastic.com/
Shelly Xuelai Fan은 신경과학자에서 과학 작가로 변신했다. 브리티시컬럼비아대학교에서 신경퇴행에 대한 새로운 치료법을 개발하여 신경과학 박사 학위를 취득했다. 생물학적 뇌를 연구하는 동안 그녀는 AI와 모든 생명 공학에 매료되었다. 졸업 후 그녀는 UCSF로 옮겨 노화된 뇌를 젊어지게 하는 혈액 기반 요인을 연구했다. 그녀는 텍스트와 비디오를 통해 과학 이야기를 탐구하는 미디어 벤처인 Vantastic Media의 공동 창립자이며 수상 경력에 빛나는 블로그 NeuroFantastic.com을 운영한다. 그녀의 첫 번째 책인 "AI가 우리를 대체할까요?" (Thames & Hudson)은 2019년에 출판되었다.
