광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

유투브 책[인공지능, 마음 읽기 기술] AI 기반 생각 디코더는 단지 우리의 마음을 읽고 우리의 생각을 표현할 뿐만 아니라 이를 통해 우리의 생각을 형성하고 변화시킨다. 이러한 우려는 우리가 AI를 훈련시키는 데이터에 민감해야 하며 이를 올바르게 이해하는 것이 특히 중요하다.

JM Kim | 기사입력 2023/09/27 [00:00]

유투브 책[인공지능, 마음 읽기 기술] AI 기반 생각 디코더는 단지 우리의 마음을 읽고 우리의 생각을 표현할 뿐만 아니라 이를 통해 우리의 생각을 형성하고 변화시킨다. 이러한 우려는 우리가 AI를 훈련시키는 데이터에 민감해야 하며 이를 올바르게 이해하는 것이 특히 중요하다.

JM Kim | 입력 : 2023/09/27 [00:00]

 

 

마음 읽는 기술은 뇌의 활동을 측정하여 사람의 생각이나 의도를 파악하는 기술이다. 뇌파, fMRI, EEG 등 다양한 방법을 사용하여 뇌의 활동을 측정하고, 그 데이터를 분석하여 특정 생각이나 의도를 나타내는 패턴을 찾아낸다.

최근 몇 년 동안 마음 읽는 기술은 빠르게 발전하고 있다. 2023년 9월 16일, 미국 에모리대학 연구팀은 개의 뇌를 fMRI로 스캔하여 시각적 자극을 받았을 때의 뇌 활동을 해독하는 데 성공했다. 이 기술을 사용하면 개가 어떤 이미지를 보고 있는지 알아낼 수 있다.

그러나 마음읽는 기술은 아직까지 실용적인 수준에 도달하지 못했다. 에모리대학 연구팀의 연구에서도 개가 비디오를 시청할 때의 뇌 활동을 100% 정확하게 해독하지는 못했다. 또한, 마음 읽는 기술을 사용하기 위해서는 피험자가 fMRI 스캔이나 EEG 측정에 오랜 시간을 할애해야 한다.

다음은 마음 읽는 기술의 현재 상태와 발전 가능성에 대해 살펴보자.

마음 읽는 기술의 현재 상태. 마음 읽는 기술은 크게 두 가지 방법으로 구분할 수 있다.

  • 침습형: 두개골에 구멍을 뚫고 뇌에 센서를 삽입하는 방식이다. 뇌의 전기신호를 직접 측정할 수 있기 때문에 정확도가 높지만, 시술이 필요하고 부작용의 위험이 있다.
  • 비침습형: 머리에 센서를 부착하여 뇌파나 fMRI를 측정하는 방식이다. 침습형에 비해 시술이 필요 없고 부작용의 위험이 적지만, 정확도가 떨어진다.

현재까지 개발된 마음 읽는 기술은 대부분 비침습형이다. 침습형은 정확도가 높지만, 시술이 필요하고 부작용의 위험이 있기 때문에 실용화되기 위해서는 더 많은 연구가 필요하다.

마음 읽는 기술의 발전 가능성

마음 읽는 기술은 다양한 분야에서 활용될 수 있는 잠재력이 있다.

  • BCI(Brain-Computer Interface): 뇌와 컴퓨터를 직접 연결하여 생각만으로 컴퓨터를 제어하는 기술. 마음 읽는 기술을 사용하면 BCI의 정확도를 높일 수 있다.
  • 정신질환 치료: 마음 읽는 기술을 사용하여 정신질환의 원인을 파악하고 치료 효과를 모니터링할 수 있다.
  • 시장 조사: 소비자의 마음을 읽어서 제품이나 서비스에 대한 선호도를 파악할 수 있다.

마음 읽는 기술은 아직까지 실용적인 수준에 도달하지 못했지만, 앞으로의 발전 가능성은 매우 높다. 다양한 분야에서 활용될 수 있는 잠재력이 있기 때문에, 앞으로도 활발한 연구가 이루어질 것으로 예상된다.

성급한 발표에 대한 비판

2023년 9월 16일, 미국 에모리 대학 연구팀은 개의 뇌를 fMRI로 스캔하여 시각적 자극을 받았을 때의 뇌 활동을 해독하는 데 성공했다고 발표했다. 이 연구는 마음 읽는 기술의 발전에 큰 진전을 가져왔다는 평가를 받았지만, 일부 전문가들은 성급한 발표라는 비판을 제기했다.

연구팀은 이 기술을 사용하여 개의 뇌에서 시각적 자극을 받았을 때의 뇌 활동을 89%의 정확도로 해독할 수 있었다고 밝혔다. 그러나 이 수치는 아직까지 실험실 수준의 결과이며, 실제 환경에서의 성능은 더 낮을 것으로 예상된다. 또한, 연구팀은 이 기술을 사용하여 개의 의도를 정확하게 파악할 수 있는지에 대해서는 언급하지 않았다.

따라서 에모리 대학 연구팀의 발표는 마음 읽는 기술의 발전에 중요한 진전임에는 분명하지만, 아직까지 실용적인 수준에 도달하지는 못했다는 평가가 지배적이다.

 

 

여러 세기 동안 유심론자들은 청중의 기억, 욕망, 생각을 쉽게 찾아내 영혼의 깊이를 측정하는 것처럼 보여서 군중을 놀라게 했다. 이제 신경과학자들이 우리의 생각을 "해독"하고 우리 마음의 숨겨진 내용을 드러낼 수 있는 기술을 개발함으로써 동일한 작업을 수행할 수 있다는 우려가 있다. 신경 해독은 수십 년 동안 개발되어 왔지만, 수많은 주목할만한 논문 덕분에 올해 초 대중 문화에 등장했다.

 

한 연구에서 연구자들은 참가자들이 듣고 있던 핑크 플로이드 노래를 재구성하기 위해 이식된 전극의 데이터를 사용했다. 네이쳐에 발표된 또 다른 논문에서 과학자들은 뇌 스캔을 AI 기반 언어 생성기(ChatGPT 및 유사한 도구를 뒷받침하는 것과 같은)와 결합하여 뇌 활동을 일관되고 연속적인 문장으로 변환했다. 이 방법에는 침습적 수술이 필요하지 않았지만 말하거나 들은 것이 아닌 순전히 상상한 것에서 이야기의 의미를 재구성할 수 있었다.

 

드라마틱한 헤드라인에서는 "마음을 읽는 기술이 도래했다"고 과감하고 성급하게 발표했다. 이러한 방법론에서는 현재 참가자가 fMRI에서 과도한 시간을 소비해야 디코더가 특정 뇌 데이터에 대해 훈련될 수 있다. 네이쳐 연구에서는 피험자들이 기계 속에서 이야기를 듣는 데 최대 16시간을 보냈으며, 그 후에도 피험자들은 원할 경우 디코더의 방향을 잘못 지정할 수 있었다.

 

수석 연구원 중 한 명인 제리 탕(Jerry Tang)이 말했듯이, 현 단계에서 이러한 기술은 "뇌 활동 패턴과 정신 내용 설명 사이의 사전"만큼 우리의 잠재된 신념을 해독할 수 있는 전능한 마음 판독기가 아니다.” 뇌 활동을 제공하는 자발적이고 적극적인 참가자가 없으면 그 사전은 거의 쓸모가 없다.

 

그럼에도 불구하고 비평가들은 이러한 기술이 사려 깊은 감독없이 발전하도록 허용한다면 "개인 정보 보호의 마지막 개척지"를 잃을 수 있다고 주장한다. 이러한 기술-디스토피아적 비관주의에 동의하지 않더라도 일반적인 회의주의가 나쁜 생각인 경우는 거의 없다. 홍보의 아버지인 에드워드 L. 버네이스(Edward L. Bernays)는 프로이트의 조카일 뿐만 아니라 광고에 대한 접근 방식에 정신분석학을 적극적으로 활용했다. 오늘날 다양한 회사에서는 제품 경험을 "최적화"하고 사용자의 관심을 끌기 위해 인지 과학자를 고용한다. 역사는 금융 계산이 이루어지자마자 몇 달러를 벌고자 하는 기업이 이러한 도구를 운영에 기꺼이 통합할 것이라고 확신한다.

 

그러나 개인 정보 보호에만 초점을 맞추다 보니 이러한 도구의 전체 의미를 오해하게 되었다. 담론은 이러한 새로운 종류의 기술을 최악의 경우 침습적 마음 판독기, 기껏해야 중립적인 번역 메커니즘으로 자리매김했다. 그러나 이 그림은 인간 마음의 진실로 구멍이 많고 얽혀 있는 본성을 무시하고 있다. 이 도구를 인지 장치의 일부로 재구성하는 방법을 배우기 전까지는 이 도구의 기능과 위험의 전체 범위를 이해하지 못할 것이다.

 

대부분의 역사에서 마음은 일종의 내부적이고 사적인 책이나 데이터베이스로 개념화되어 왔다. , 우리 자신만이 직접 친밀하게 접근할 수 있는 고정된 생각으로 채워져 있는 우리 내부 어딘가에 존재하는 독립적인 영역이다. 일단 우리가 마음을 명확하게 정의된 생각(또는 때때로 "내면주의"라고도 함)이 포함된 개인적으로 접근 가능한 일기장으로 가정하면 이 일기장을 외부 세계에 어떻게 열 수 있는지, 즉 외부에 있는 누군가가 어떻게 열릴 수 있는지 묻는 것은 별 도약이 아니다. 이 내면의 성소를 꿰뚫기 위해 마음의 숨겨진 언어를 해독할 수도 있다.

 

신학자들은 이러한 접근이 우리의 가장 깊은 생각을 읽을 수 있는 하나님을 통해 신성으로부터 올 것이라고 생각했다. 프로이트는 훈련받은 정신분석가가 꿈 해석과 같은 해석학적 방법을 통해 마음의 진정한 내용을 알아낼 수 있다고 생각했다. 계몽주의의 사람이었던 데카르트는 좀 더 물리학적인 가설을 가지고 있었다. 그는 우리의 영혼과 정신이 송과선에 밀접하게 붙어 있다고 주장하고 그 의지를 표현했다. 그렇게 함으로써 그는 우리가 생각과 신체 움직임 사이의 올바른 대응을 확립할 수 있다면 정신적 내용 자체로 거꾸로 작업할 수 있다는 생각을 갖게 되었다.

 

이러한 발자취를 따라 보다 현대적인 접근 방식이 이어졌다. 거짓말 탐지기는 생리적 변화를 사용하여 우리의 믿음의 내용을 읽으려고 시도한다. 뇌 스캔과 정신적 내용 사이의 "사전"으로서의 사고 디코더에 대한 탕(Tang) 자신의 진술은 우리가 신경체를 통해 마음을 해독할 수 있다는 이 개념의 현대 버전을 표현한다. 프라이버시에 대한 우려로 사고 해독을 비판하는 사람들조차도 이러한 내부주의적 마음 이론을 당연하게 여긴다. 외부 접근의 위협이 그토록 심오한 불안을 안겨주는 것은 바로 우리 생각의 숨겨진 본질 때문이다.

 

하지만 마음이 우리가 생각했던 것만큼 벽으로 막혀 있지 않다면 어떨까? 지난 세기에 걸쳐 이론가들은 유아론적 의식이 어떻게 역설로 이어지는지 보여줌으로써 이러한 유아론적 의식에 맞서는 마음에 대한 대안적 개념을 명료화하기 시작했다.

 

이와 관련하여 보다 급진적인 주장 중 하나는 고() 논리학자이자 철학자인 솔 크립키(Saul Kripke)에게서 나온다. 그는 "사적 언어"(사상가만이 이해할 수 있는 내부적이고 숨겨진 생각 언어)의 개념을 확장하여 다음과 같은 관점을 비판했다. 마음은 독립적인 실체이다. 크립키의 경우, 사적이고 사고하는 사람만이 접근할 수 있는 모든 생각은 궁극적으로 사고하는 사람 자신에게도 이해할 수 없게 된다.

 

크립키가 말하려는 내용을 확인하기 위해 녹색과 녹색(녹색과 파란색 개체 모두에 적용되는 여러 문화권에서 볼 수 있는 개념)이라는 두 가지 색상 개념부터 시작하겠다. 이제 당신이 이전에 파란색을 본 적이 없는 사람이라고 가정해 보자. 아마도 당신은 내륙에 있고 항상 흐린 곳에 살고 있을 수도 있다. 당신은 나무를 보고그 나무는 녹색이다라고 생각한다. 여태까지는 그런대로 잘됐다.

 

그런데 여기서 이상해진다. 그러면 누군가가 당신에게 다가와 당신이 실제로 그 나무가 녹색이 아니라 끔찍하다는 뜻이라고 말했다고 가정해 보겠다. 그것은 당신이 스스로 만들어본 적이 없는 개념적 구별이므로 반영하려고 노력한다. 그러나 그렇게 할 때, 당신은 과거의 행동이나 생각에 당신이 실제로 잔인한 것이 아니라 녹색을 의미했음을 확신하는 데 사용할 수 있는 것이 아무것도 없다는 것을 깨닫게 된다. 당신의 마음 속에는 당신이 정말로 녹색을 의미했다는 것을 증명하기 위해 지적할 수 있는 사실이 없기 때문에, 우리 생각의 의미가 어떻게든 내부적으로 자명하고 완전하며 투명하다는 생각은 무너지기 시작한다. 의미와 의도는 사적이고 안전한 의식 영역에서만 나타날 수 없다. 왜냐하면 우리의 내부 의식 자체는 불확정성으로 가득 차 있기 때문이다.

 

이 예는 우리의 인지에 관한 이상한 점을 지적한다. 우리의 두뇌는 유한하지만 정신적 개념은 무한하게 적용된다. 그리고 그 격차 속에서 근본적인 모호함이 발생한다. 우리는 종종 자신이 의미하는 바를 확신하지 못하고, 자신의 생각의 근거와 완전성을 과대평가하는 경향이 있다. 너무나 자주, 나는 몇 가지 주장을 했고, 명확하게 설명을 요구했을 때 내가 말하려는 것이 정확히 무엇인지 확신할 수 없다는 것을 깨달았다. 작가 모티머 아들러(Mortimer Adler)가 말했듯이, “자신이 생각하는 것을 안다고 말하지만 그것을 표현할 수 없는 사람은 대개 자신이 생각하는 것을 모르는 사람이다.”

 

우리가 마음을 자급자족하고 사적인 실체로 여긴다면 우리의 생각은 이상하게 실체가 없고 비물질적이며 유령처럼 된다. 외부와 단절된 채 홀로 남겨질 때 우리의 생각은 고정되지 않은 채 떠돌게 된다. 그것은 넓은 물질적, 사회적 세계에 얽매일 때에만 무게감 있고 온전한 의미를 얻게 된다. 이러한 주장은 생각이 우리가 사적이고 내면적인 의식 속에서 수동적으로 유지하는 안정된 것이 아니라는 점을 보도록 촉구한다. 오히려 그것은 우리 자신과 우리 환경 사이에서 나타난다. , 생각은 주변 세계에 대해 하는 일만큼 당신이 가지고 있는 것이 아니다.

 

인지과학자 및 심리학자들은 마음에 대한 이러한 "외부주의적" 관점에서 단서를 얻기 시작했다. 예를 들어 그들은 인지에서 사회적 상호작용의 역할을 조사하기 시작했고, 마음의 물리적 분포를 사용하여 거래 기억, 협력적 회상, 사회적 전염과 같은 현상을 더 잘 이해했다. 생각은 단지 우리 두개골의 경계 안에서 일어나는 일이 아니라, 우리 몸과 우리 주변의 사람과 사물을 불러일으키는 과정이다. 애니 머피 폴(Annie Murphy Paul)이 자신의 저서 확장된 마음(The Extended Mind)에서 말했듯이, 우리의 "신경외적" 입력은 "우리가 생각하는 방식을 바꿀" 뿐만 아니라 "사고 과정 자체의 일부를 구성"한다.

 

마음이 단지 안정적이고 독립적인 독립체가 읽기를 기다리고 있는 것이 아니라면, 이러한 사고 해독기가 내부 사고를 공개적으로 접근 가능한 언어로 전달하는 중립 중계 역할만 할 것이라고 생각하는 것은 실수이다. 단순히 생각을 기술하는 기계가 아니라, 마치 생각하는 주체와 아무 관련도 없는 별도의 개체인 것처럼, 이러한 기계는 생각을 해독하고 표현하는 바로 그 행위를 통해 생각의 한계와 경계를 특성화하고 수정하는 힘을 갖게 된다.

 

슈뢰딩거의 고양이처럼 생각해보면 된다. 생각의 상태는 관찰하는 행위에서 변형되어 불확정성을 구체적인 것으로 굳힌다.

 

다른 도메인의 유사한 예를 보려면 간단히 알고리즘을 살펴보면 된다. 기술 저술가들은 알고리즘이 자신을 불가지론적이고 데이터를 기반으로 하는 욕구 예측자로 자리매김하지만 실제로는 예측 행위에서 욕구를 형성하고 형성하는 데 도움을 주어 완벽하게 소비하는 주제로 만든다는 점을 오랫동안 지적해 왔다. 그들은 단순히 사용자에 대한 데이터를 수집하는 것이 아니라 사용자를 플랫폼과 광고주의 요구 사항에 맞는 사람으로 변화시킨다.

 

더욱이, 알고리즘이 중립적이고 객관적인 진실을 말하는 사람으로 자리매김하는 능력 덕분에 이 일을 효과적으로 수행할 수 있다. 우리의 망각은 우리를 특히 미묘한 개혁에 취약하게 만든다. 마찬가지로, 사고 디코더에 대한 현재의 이야기는 생각 자체를 되돌리고 변경하는 이러한 도구의 능력을 무시함으로써 그림의 절반을 놓치고 있다. 심문의 문제가 아니라 건설의 문제이다.

 

이러한 기술의 형성 잠재력을 인식하지 못하면 장기적으로 재앙이 발생할 수 있다. 경찰은 이전 기술인 거짓말 탐지기를 활용하여 용의자에게 허위 기억을 심어왔다. 한 예로, 한 십대 청소년은 상사의 오해를 받아 자신이 거짓말 탐지기 테스트에 실패했다고 생각한 후 자신의 결백을 의심하기 시작했다. 기계의 중립성과 객관성에 대한 그의 믿음으로 인해 그는 자신이 폭력 범죄에 대한 기억을 억압했다고 가정하게 되었고, 결국 자백과 유죄 판결로 이어졌고, 나중에 검사가 변명의 여지가 있는 증거를 발견했을 때 기각되었다.

 

우리의 인지에 대해 보고한다고 알려진 도구도 그들이 설명하는 시스템의 일부라는 점을 인식하는 것이 중요하다. 맹목적인 믿음은 우리를 정말 심오한 형태의 조작에 취약하게 만들 수 있다. 중요한 것은 기술이 이러한 방식으로 통합되기 위해 정교하거나 정확할 필요는 없다는 것이다(결국 거짓말 탐지기의 효능은 일반적으로 심리학계에서 거부되었다). 이러한 인지적 얽힘에 우리 자신을 개방하기 위해 필요한 것은 이러한 기계가 중립적이라고 믿고 그 결과를 신뢰하는 것뿐이다.

 

"사고 해독" 도구가 할 수 있는 잠재적인 이점을 부인할 수 없다. 사람들은 비 언어적이고 마비된 환자들과 의사소통하기 위해, 즉 현재 표현 수단이 부족한 사람들에게 목소리를 돌려주기 위해 이 기술을 어떻게 사용할 수 있을지 생각하고 있다. 그러나 우리가 이러한 도구를 계속 개발함에 따라 이를 대상과 대화하는 장치로 보는 것이 중요하다. 모든 대화에서와 마찬가지로 포함된 용어와 제외된 용어, 매개변수에 포함된 구문 및 구조에 주의해야 한다.

 

우리가 이러한 장치를 설계할 때 우리의 전형적인 언어 영역을 벗어나는 용어, 즉 성별, 환경 또는 세상에서 우리의 위치에 대해 새로운 사고 방식을 개척하려는 단어를 포함시킬 것인가? 이러한 기술을 구축할 때 그러한 용어를 구축하지 못한다면 어떤 의미에서 사용자가 아이디어를 문자 그대로 생각할 수 없게 될까? 이러한 우려는 우리가 AI를 훈련시키는 데이터에 민감해야 한다는 확고한 주장과 크게 다르지 않다. 그러나 이러한 AI가 우리의 생각을 표현하고 이를 통해 우리의 생각을 형성할 수 있다는 점을 고려하면, 이를 올바르게 이해하는 것이 특히 중요해 보인다.

 

당연히 정신주의자들은 주류 철학, 이론, 현대 인지과학이 등장하기 전에 이 모든 것을 잘 알고 있었다. 그들의 초자연적 브랜드에도 불구하고 그들은 실제로 텔레파시를 할 수 없었다. 오히려 제안, 추론, 그리고 상당한 영리함을 통해 청중이 원하는 것을 정확하게 생각하도록 유도했다.

 

그들은 마음의 외부성과 그와 얽힌 많은 과정, 즉 우리에게 너무 사적인 생각, 우리 의지의 산물인 것처럼 보이는 생각이 항상 우리 주변 세계에 의해 형성되는 방식을 이해했다. 그것은 그들에게 유리하다. 그러나 트릭이 어떻게 수행되는지 알게 되면 환상을 없애고 자신의 마음을 결정하는 데 보다 적극적인 역할을 하는 방법을 배울 수 있다.

 

 

 
인공지능, 마음 읽기, 마음 읽기 디코더, 마음 결정 관련기사목록
광고
광고
광고
광고
광고
광고
많이 본 기사
최신기사