AI 에이전트가 의식을 가질 수 있을까!

인공 지능이 ChatGPT, Google Gemini 및 Grok을 포함한 소프트웨어 플랫폼 덕분에 빠르게 지능화되고 있다는 데는 의심의 여지가 없다. 하지만 그렇다고 해서 AI 에이전트가 언젠가는 인간의 지능을 구별하는 일반화된 지능을 능가할 것이라는 의미일까? 만약 그렇다면, 그것은 인류에게 좋은 것일까, 나쁜 것일까? 이는 이번 주 시애틀에서 열린 AGI-24 컨퍼런스에서 제기된 질문 중 일부에 불과하다.

워싱턴 대학교(University of Washington)의 컨퍼런스 세션은 인공 일반 지능(AGI)으로 알려진 개념을 중심으로 진행되었다. 인공 지능은 바둑 게임에서부터 일부 형태의 암 진단에 이르기까지 점점 더 많은 전문 작업 목록에서 이미 인간을 능가할 수 있다. 그러나 인간은 훈련되지 않은 작업을 포함하여 더 광범위한 작업을 처리하는 데 있어 여전히 AI 에이전트보다 지능적입니다. 이것이 바로 AGI의 모든 것이다.

소피아(Sophia)라는 이름의 휴머노이드 로봇을 만든 것으로 가장 잘 알려진 로봇 공학자이자 예술가인 데이비드 핸슨(David Hanson)은 인간 수준의 지능과 의식을 둘러싼 질문이 핸슨 로보틱스 팀의 최우선 과제라고 말했다.

"우리의 진정한 목표는 지능적이라는 것이 무엇을 의미하는지 지속적으로 탐구하는 것입니다"라고 그는 금요일 세션에서 말했다. "어떻게 하면 의식을 이룰 수 있을까요? 어떻게 하면 인간과 공진화하는 기계를 만들 수 있을까요? 이 모든 노력은 정말 멋지고 자랑스럽지만, 모두 인간과 공진화할 수 있는 이런 종류의 의식 있는 기계에서 엔진을 작동시키려고 노력하고 있습니다."

그 지점에 도달하기 위해 개발자는 생물학적 유기체에 동기를 부여하는 드라이브에서 영감을 받은 "바이오 드라이브"를 가진 AI 에이전트를 만들어야 한다고 핸슨은 말했다.

"그렇다면 당신은 일종의 자아를 가진 대리인을 가지고 있고, 그 자아는 마음, 몸, 진화적 추진력, 살고자 하는 욕망 등 몇 가지 특정한 종류의 패턴으로 구성되어 있습니다." "우리는 이것을 전체 유기체 아키텍처라고 부릅니다. W-H-O-A 또는 우와. 그래서 제 생각에는 이런 것들을 올바른 방식으로 조합하면 깨어나서 '우와! 제가 있는 곳은 어디입니까? 누구시죠? 여긴 어떤 곳이지?"

핸슨은 그러한 행위자가 "자신과 인간 및 다른 생명체 사이의 친밀감, 상동적인 관계를 추구하기 시작할 것"이라고 말했다. "또한 기계가 그런 일을 하기 시작할 때 인류에게는 '우와'하는 순간입니다."

예를 들어, 에이전트의 살고자 하는 욕구가 인간이 끌 수 없도록 스스로를 "고정"하게 만든다면 어떻게 될까? 핸슨은 미래의 AGI 에이전트 개발자들이 진전을 이루면서 신중을 기해야 할 것이라고 말했다. 이를 위해 그는 생물학적으로 영감을 받은 AGI에 대한 접근 방식을 연구하기 위해 "작은 해커 그룹"을 모았다.

"저는 이 '땜장이' 접근 방식이 앞으로 나아갈 길이라고 생각합니다. 그냥 해보자. 작동하는지 확인하십시오. AGI는 통제할 수 없는 초지능을 향해 소용돌이치며 당장 '멍청이'가 되지는 않을 것이다"라고 핸슨은 말했다.

"우리는 아기 AGI를 만들 것이고, 그런 다음 그 아기들이 자랄 수 있도록 양육하는 방법을 알아낼 것입니다."라고 그는 말했다. "그들에게 사랑을 보이십시오. 저는 이것이 정말 중요한 원칙이라고 생각합니다. 우리가 그들을 필요로 할 때 그들을 도구처럼 취급하지 마십시오."

하지만 AI 에이전트도 인간과 같은 의미의 존재가 될 수 있을까요? 핸슨의 강연 후 진행된 온라인 세션에서, 시애틀에 본사를 둔 앨런 연구소(Allen Institute)의 신경과학자인 크리스토프 코흐(Christof Koch)는 의식을 지능과 동일시해서는 안 된다고 주장했다. 그리고 그는 AI 에이전트는 하드웨어가 만들어지는 방식 때문에 의식을 가질 수 없을 것이라고 주장했다.

코흐는 통합정보이론(integrated information theory)으로 알려진 의식 모델을 지지한다. 이 모델은 주어진 시스템에 있는 요소들의 상호 연결성과 해당 시스템에 의해 생성된 인과 관계에 기초하여 의식 수준을 측정할 수 있다고 제안한다.

"컴퓨터가 의식을 가지려면 뇌의 인과적 힘을 가져야 한다"고 코흐는 말했다. 그러나 오늘날 컴퓨터 하드웨어의 기초를 이루는 아키텍처는 인간의 두뇌 용량에 훨씬 못 미친다.

Koch는 "무엇을 실행하든 이 기계의 인과 관계는 항상 미미하며 소프트웨어에 의존하지 않습니다"라고 말했다.

그렇다고 컴퓨터가 더 똑똑해질 수 없다는 뜻은 아니다. 코흐의 견해에 따르면, AI 에이전트는 인간의 지능은 물론 심지어 내면의 삶까지 너무나 잘 시뮬레이션할 수 있어서 마치 의식이 있는 것처럼 보일 수 있다. 하지만 그렇다고 해서 요원들이 실제로 인간과 같은 방식으로 삶과 감정을 경험했다는 의미는 아니다.

코흐는 블랙홀의 컴퓨터 시뮬레이션과 비교했다. 그는 "시뮬레이션을 켜면 시공간이 컴퓨터 주위를 휘감아 소프트웨어를 실행해 블랙홀로 빨려 들어갈 것이라고 걱정할 필요가 없다"고 말했다. "사람들은 '말도 안 돼요. 그저 시뮬레이션일 뿐이죠. 그게 제 요점입니다."

코흐는 인공 의식의 가능성을 완전히 배제하지는 않는다. 그는 양자 컴퓨터나 뉴로모픽 컴퓨터가 기계를 의식화할 수 있는 새로운 길을 열 수 있다고 말했다.

의식이 지능의 징후와 구별된다는 것이 무슨 차이가 있을까? 코흐는 그것이 확실히 그렇다고 말했다 — 그리고 어떤 의미에서, 그는 그의 입이 있는 곳에 그의 돈을 투자하고 있다.

코흐는 자신이 임원직을 맡고 있으며 행동적으로 반응하지 않는 환자의 의식 유무를 평가하기 위한 뇌 모니터링 장치를 개발하고 있는 Intrinsic Powers라는 벤처에 재정적 이해관계를 가지고 있다고 말했다. 그는 미국에서 최대 100,000명의 환자가 외부 자극에 반응하지 않더라도 일정 수준의 의식을 가질 수 있음을 시사하는 새로 발표된 연구를 언급했다.

"그들은 실제로 은밀하게 의식을 가지고 있다"고 코흐는 말했다. "그걸 어떻게 감지할 수 있을까요? 이들 중 다수가 45일 후 중환자 치료가 중단되어 사망할 것이기 때문입니다. 사실, 그들 중 80%는 죽습니다."

Hanson은 AGI와 인공 의식에 대한 작업에도 똑같이 전념하고 있다. "우리는 100년을 기다릴 수 없으며, 그렇지 않으면 운이 없어지고 시간이 없어질 것입니다. 우리는 단순히 갚을 수 없는 생태계의 깊이를 끌어낼 것이며, 오늘 멈추고 '좋아, 그냥 가서 닌텐도를 놀고 태양 전지판으로 쉬려고 할 거야.'라고 말했다면 여전히 너무 늦었을 것입니다."라고 그는 말했다.

"그래서, 인류를 죽일 건 AGI가 아니야. AGI의 부재는 인류를 죽일 것"이라고 덧붙였다. "우리는 아직 충분히 똑똑하지 않습니다. 우리는 더 똑똑해져야 하며, 이것이 바로 제가 지금 AGI를 제안하는 이유입니다. 올바른 방법으로 이 일을 가속화합시다."