깨어 있는 삶의 모든 순간과 꿈을 꿀 때마다“당신”이라는 뚜렷한 내면의 느낌이 있다. 일출의 따뜻한 색조를 보거나 모닝 커피의 향기를 맡거나 새로운 아이디어를 떠올리면 의식적인 경험을 하고 있는 것이다. 하지만 인공지능(AI)이 TV 프로그램 Westworld and Humans에 묘사된 일부 안드로이드나 상징적인 영화 Blade Runner의 합성 존재와 같은 경험을 할 수 있을까?

 

그 질문은 그리 어렵지 않다. 현재 원자로 내부에서 일하고 전쟁과 싸우며 노인을 돌보기 위해 로봇이 개발되고 있다. AI가 더욱 정교해짐에 따라 향후 수십 년 내에 많은 인간의 일자리를 인수할 것으로 예상된다. 따라서 우리는 질문을 숙고해야 한다. AI가 의식적인 경험을 개발할 수 있을까?

 

이 문제는 여러 가지 이유로 시급하다. 첫째, 윤리학자들은 AI가 다양한 감정을 겪고 느낄 수 있다면 AI가 우리에게 봉사하도록 강요하는 것이 잘못이라고 걱정한다. 둘째, 의식은 AI를 불안정하게 만들거나 예측할 수 없게 만들어 안전 문제를 제기할 수 있다 (또는 반대로 AI의 공감을 높일 수 있다. 자체 주관적 경험을 바탕으로 우리의 의식을 인식하고 우리를 연민으로 대할 수 있다).

 

셋째, 기계의식은 일론 머스크(Elon Musk)의 새로운 회사인 Neuralink가 개발하는 것과 같은 뇌 이식 기술의 실행 가능성에 영향을 미칠 수 있다. 인공지능이 의식을 가질 수 없다면 의식을 담당하는 뇌의 일부를 의식 상실없이 칩으로 대체할 수 없다. 그리고 비슷한 맥락에서 사람은 죽음을 피하기 위해 자신의 뇌를 컴퓨터에 업로드 할 수 없다. 그 업로드는 의식적인 존재가 아니기 때문이다.

 

또한 AI가 결국 우리를 능가하지만 의식이 부족하다면 우리 인간이 기계보다 우월하다는 중요한 감각이 여전히 존재한다. 우리가 되는 것처럼 느껴진다. 하지만 지구상에서 가장 똑똑한 존재는 의식이 없거나 지각이 없을 것이다.

 

그렇다면 기계 의식 문제에 많은 것이 달려 있다. 그러나 신경 과학자들은 뇌에 있는 의식의 기초를 이해하는 것과는 거리가 멀고, 철학자들은 적어도 의식의 본질에 대한 완전한 설명과 똑같이 멀리 떨어져 있다.

 

— 기계 의식 테스트 —

 

그래서 무엇을 할 수 있을까? 우리는 의식을 공식적으로 정의하거나, 그 철학적 본질을 이해하거나, 인공지능의 의식 표시를 인식하기 위해 그 신경 기반을 알 필요가 없다고 믿는다. 우리 각자는 자기 성찰만으로 의식에 필수적인 것을 파악할 수 있다. 우리는 모두 내부에서 존재하는 느낌을 경험할 수 있다.

 

이러한 의식의 본질적인 특성을 바탕으로 우리는 우리가 만든 합성 마음이 내부에서 느끼는 방식에 대한 경험 기반 이해를 가지고 있는지를 살펴보는 기계 의식 테스트인 AI 의식 테스트(ACT)를 제안한다. 의식하라!

 

일반적으로 기능하는 인간이 의식을 경험한다는 가장 강력한 징후 중 하나는 자주 언급되지는 않지만 거의 모든 성인이 이러한 펠트 의식의 품질에 따라 개념을 빠르고 쉽게 파악할 수 있다는 것이다. 이러한 아이디어에는 정신이 몸을 바꾸는 시나리오(영화 Freaky Friday)와 같은 시나리오가 포함된다. 사후의 삶 (환생 포함); 그리고 "그들의"육체를 떠나는 마음 (예: 아스트랄 투영 또는 유령). 그러한 시나리오에 현실이 있든 없든, 의식적 경험이 전혀 없는 독립체라면 이해하기가 매우 어려울 것이다. 마치 태어날 때부터 완전히 청각 장애가 있는 사람이 바흐 협주곡을 감상하기를 기대하는 것과 같다.

 

따라서 ACT는 우리가 의식과 관련된 내부 경험을 기반으로 개념과 시나리오를 얼마나 빠르고 쉽게 파악하고 사용할 수 있는지 확인하기 위해 점점 더 까다로워지는 자연어 상호 작용을 통해 AI에 도전한다. 가장 기본적인 수준에서 우리는 기계가 자신을 물리적인 자아가 아닌 다른 것으로 인식하는지 간단히 물을 수 있다.

 

보다 고급 수준에서는 이전 단락에서 언급한 것과 같은 아이디어와 시나리오를 어떻게 처리하는지 볼 수 있다. 고급 수준에서는“의식의 어려운 문제”와 같은 철학적 질문에 대해 추론하고 토론하는 능력이 평가된다. 가장 까다로운 수준에서 우리는 기계가 인간의 아이디어와 입력에 의존하지 않고 자체적으로 그러한 의식 기반 개념을 발명하고 사용하는지 볼 수 있다.

 

아이디어를 설명하는 다음 예를 고려하라. 매우 정교한 실리콘 기반 생명체 (“Zetas”라고 함)를 가진 행성을 발견했다고 가정해보자. 과학자들은 그것들을 관찰하고 그들이 의식적인 존재인지 숙고한다. 이 종족의 확신을 증명하는 것은 무엇일까? Zetas가 내세가 있는지에 대한 호기심을 표현하거나 그들이 단순히 육체 이상인지 숙고한다면 의식을 판단하는 것이 합리적이다. Zetas가 의식에 대한 철학적 질문을 제기하기까지 했다면 그 사건은 여전히 ​​더 강할 것이다.

 

또한 죽은 자를 애도하거나 종교적 활동을 하거나 감정적 도전과 관련된 상황에서 색을 바꾸는 것과 같은 제타 의식을 나타낼 수 있는 비언어적 행동도 있다. 이러한 행동은 그것이 제타처럼 느껴진다는 것을 나타낼 수 있다.

 

Stanley Kubrick의 2001년: A Space Odyssey에서 가상의 HAL 9000 AI 컴퓨터의 정신의 죽음은 또 다른 예시를 제공한다. 이 경우 기계는 의식적인 기계에 대한 대부분의 공상 과학 소설에서처럼 인간형 로봇이 아니다. 인간처럼 보이거나 들리지도 않는다 (인간이 HAL의 음성을 제공했지만 어리석게 평평하게). 그럼에도 불구하고 우주비행사에 의해 비활성화 된 내용의 내용, 특히 임박한“죽음”으로부터 보호해 달라는 간청은 자신에게 일어나는 일에 대한 주관적인 경험을 가진 의식적인 존재라는 강력한 인상을 전달한다.

 

그러한 지표가 지구의 의식적인 AI를 식별하는 데 도움이 될 수 있을까? 여기서 잠재적인 문제가 발생한다. 오늘날의 로봇조차도 의식에 대해 설득력 있는 발화를 하도록 프로그래밍 할 수 있으며, 진정한 초 지능 기계는 인간의 의식 존재를 추론하기 위해 신경 생리학에 대한 정보를 사용할 수도 있다. 정교하지만 무의식적인 AI가 우리가 어떤 이유로 의식이 있다고 믿도록 오도하려는 경우, 인간 의식에 대한 지식이 그렇게 하는 데 도움이 될 수 있다.

 

그래도 이 문제를 해결할 수 있다. AI 안전에서 제안된 한 가지 기술은 AI를 "박스"로 묶어 세계에 대한 정보를 얻거나 제한된 도메인, 즉 "박스"외부에서 행동할 수 없도록 만드는 것이다. 우리는 인공지능이 인터넷에 접근하는 것을 거할 수 있고 실제로 그것이 세계에 대한 지식, 특히 의식적 경험과 신경 과학에 대한 정보를 얻는 것을 금지할 수 있다.

 

어떤 사람들은 초 지능 기계가 효과적으로 상자에 들어갈 수 있을지 의심한다. 영리한 탈출구를 찾을 수 있다. 그러나 우리는 향후 10년 동안 초 지능의 발전을 기대하지 않는다. 또한 ACT가 효과적 이려면 AI가 상자에 오래 머 무르지 않아도 되며 테스트를 수행할 수 있는 시간만 있으면 된다.

 

ACT는 또한 다양한 종류의 AI를 개발하는 동안 "의식 공학"에 유용할 수 있으며, 의식적인 기계를 비 윤리적인 방식으로 사용하는 것을 피하거나 적절한 경우 합성 의식을 생성하는 데 도움이 될 수 있다.

 

 

 

-튜링 테스트를 넘어서-

 

ACT는 전적으로 행동에 기반을 두고 있기 때문에 Alan Turing의 유명한 지능 테스트와 유사하며 Turing과 마찬가지로 공식화된 질의 응답 형식으로 구현할 수 있다. (ACT는 AI의 행동이나 AI 그룹의 행동을 기반으로 할 수도 있다.)

 

그러나 ACT는 기계 내부에서 어떤 일이 일어나고 있는지 알 필요가없는 튜링 테스트 와도 매우 다르다. 대조적으로, ACT는 정확히 반대를 수행하기위한 것이다. 그것은 기계의 정신의 미묘하고 애매한 속성을 드러내려고 한다. 실제로 기계는 인간에게는 통과할 수 없기 때문에 Turing 테스트에 실패할 수 있지만 의식의 행동 지표를 보여주기 때문에 ACT를 통과할 수 있다.

 

이것이 우리 ACT 제안의 기본 기반이다. 그러나 ACT의 적용 가능성은 본질적으로 제한되어 있다. AI는 인간이 아닌 동물이나 유아처럼 테스트를 통과할 수 있는 언어적 또는 개념적 능력이 부족할 수 있지만 여전히 경험할 수 있다. 따라서 ACT를 통과하는 것만으로도 충분하지만 AI 의식에 필요한 증거는 아니다. 현재로서는 할 수 있는 최선의 방법이다. 객관적인 조사에 접근할 수 있는 기계 의식을 만들기위한 첫 번째 단계이다.

 

그래서 "상자"의 초 지능 AI로 돌아가서 우리는 보고 기다린다. 데카르트와 같이 육체 외에 존재하는 마음에 대한 철학을 시작하겠는가? Isaac Asimov의 Robot Dreams처럼 꿈을 꾸는가? Blade Runner의 Rachel처럼 감정을 표현할까? 영혼이나 아트만의 것과 같은 우리의 내적 의식적 경험에 기반을 둔 인간 개념을 쉽게 이해할 수 있을까?

 

AI의 시대는 우리와 그들의 모두를 위한 영혼 탐구의 시대가 된다.

 

작성자: Susan Schneider PhD + Edwin Turner PhD