지금쯤이면 인공지능이 언젠가는 우리 모두를 죽일 수도 있다는 말을 들었을 것이다. 구체적인 내용은 모호하지만 실제로는 중요하지 않다. 인간은 외계 종족에 의해 멸종되는 것에 대한 환상을 매우 잘 갖고 있다. 왜냐하면 우리는 항상 동료 생물을 멸종시킬 수 있는 창의적인 방법을 고안해 내는 데 능숙했기 때문이다. AI는 철학자 닉 보스트롬(Nick Bostrom)의 유명한 사고 실험에서 세상의 문제를 종이 클립으로 바꾸는 것과 같은 어리석은 일로 인류를 파괴할 수 있다. 마치 인간이 이제 오레오와 같은 정크푸드를 만들기 위해 팜유를 재배하기 위해 우리의 유인원 사촌인 오랑우탄을 멸종시키는 것과 같다.

 

기계에 의해 예속되는 인간의 악몽은 인간이 아닌 동물을 대하는 우리가 우리에게 등을 돌리는 것에 대한 승화된 두려움을 표현한다고 말할 수도 있다. 저널리스트 에즈라 클라인(Ezra Klein)이 자신의 팟캐스트 5월 에피소드에서 "우리는 우리가 무엇을 했는지 알고 있다."고 말했다. "그리고 우리는 그 반대편에 있고 싶지 않다."

 

AI는 우리 중 많은 사람들이 이 지구상에서 인간을 독특하게 만들었다고 믿는 특성, 즉 지능을 위협한다. 따라서 작가 메건 오기블린(Meghan O'Gieblyn)은 자신의 책 신, 인간, 동물, 기계에서 이렇게 썼다. “우리는 진정한 의식을 구별하는 것은 감정, 지각, 경험하고 느끼는 능력, 즉 자질이라고 주장함으로써 우리의 불안을 진정시킨다. 우리는 동물과 공유한다.” 즉, AI가 언젠가 우리보다 더 똑똑해지더라도 기계와는 달리 우리는 주관적인 경험을 갖고 있으며 이것이 우리를 도덕적으로 특별하게 만든다고 스스로에게 말한다.

 

하지만 이것에 대한 명백한 문제는 인간이 이런 식으로 특별하지 않다는 것이다. 인간이 아닌 동물은 지능과 지각 능력의 많은 부분을 공유하지만, 우리는 AI에서 기대할 수 있는 관대함을 확장하는 것을 거부했다. 우리는 우월하다고 알려진 지능을 바탕으로 동물을 우리의 기분에 맞게 가두어 놓고, 상품화하고, 절단하고, 죽이는 등 동물에 대한 온전한 잔인함을 합리화한다. 오기블린 (O'Gieblyn)은 "만약 신이 있다면 우리 논리의 불일치를 보고 웃어넘길 것"이라고 덧붙였다. "우리는 동물에게 이성이나 더 높은 사고가 부족하다는 이유만으로 동물의 의식을 부정하는 데 수세기를 보냈다."

 

특히 AI가 우리 자신의 가치를 기반으로 구축된 경우 AI가 우리를 다르게 대하기를 바라는 이유는 무엇일까? 우리는 미래의 인공 "초지능"을 정당화하기 위해 고군분투할 수도 있다. 그런 것이 존재할 수 있다면 동료 동물에게 똑같은 것을 제공하는 데 극적으로 실패했는데 왜 우리가 자비를 받을 자격이 있는지 말이다. 그리고 더 나쁜 것은 AI 선지자들의 비인간적 철학이 우리 육체의 살아있는 자아의 가치를 방어하기 위한 최악의 출발점 중 하나라는 점이다.

 

트랜스휴머니즘은 동물성에 대한 증오를 바탕으로 세워졌다.

현대인은 지능이 부족하다고 가정하여 비인간 동물의 착취를 옹호하지만 이것이 실제 이유는 아니다. 우리가 그 주장을 액면 그대로 받아들이고 현명하게 동물을 대한다면 도구를 사용하고 인간의 얼굴을 인식하며 우리에서 탈출하는 방법을 알아낼 수 있는 공장식 문어를 즉시 중단할 것이다. 우리는 코끼리를 동물원에 독방에 가두지 않을 것이며, 그것이 영리하고 배려심이 깊으며 사회성이 깊은 생물로서의 코끼리의 권리와 필요를 침해하는 것으로 인식할 것이다. 우리는 돼지를 너무 작아서 돌아설 수 없는 우리에 가두어 심리적으로 고문하고, 본질적으로 관에서 보내는 짧은 수명을 선고하여 값싼 베이컨 조각으로 바꾸는 방식으로 돼지를 심리적으로 고문하지 않을 것이다. 우리는 송아지에게 줄 우유를 마실 수 있도록 지적인 소에게 인간이 유발한 반복적인 임신과 새끼와의 분리라는 트라우마를 겪는 것이 전혀 불필요하다는 것을 깨닫게 될 것이다.

 

실제로 우리는 동물이 멍청하기 때문에 동물을 잔인하게 대하는 것이 아니다. 우리는 그들에게 잔인하기 때문에 그들이 멍청하다고 말한다. 정치 이론가 디네시 와디웰(Dinesh Wadiwel)이 2015년 그의 훌륭한 저서 동물과의 전쟁(The War Against Animals)에서 설명한 것처럼 우리의 지배를 정당화하기 위해 그들의 마음에 대한 사실 없는 신화를 만들어낸다. "어리석음의 폭력"이라는 장에서 와디웰은 동물에 대한 인간의 힘이 우리로 하여금 동물의 실제 모습에 대해 고의적이고 설명할 수 없을 정도로 어리석게 만들 수 있다고 주장한다. "일관되거나 검증 가능한 '과학적' 또는 '철학적' 근거가 없는 인간이 동물보다 우월하다고 주장하는 것(지능, 이성, 의사소통, 발성 또는 정치에 기반하든)을 달리 어떻게 설명할 수 있겠는가?"라고 그는 쓴다. 인간은 동물과 마찬가지로 특정한 신체적, 사회적 제약 속에서만 번성할 수 있는 취약하고 깨지기 쉬운 생물이다. 우리는 미래의 AI가 아무리 지능적이라 할지라도 우리와 같은 어리석음을 드러내지 않기를 바랄 뿐이다.

 

어떤 강력한 미래 AI가 우리를 지능이 없는 사람으로 분류할지 여부만 추측할 수 있지만, 분명한 것은 저명한 AI 부스터들 사이에 인간 동물에 대한 노골적이고 우려스러운 경멸이 있다는 것이다. AI 연구 자체는 기술을 통해 인간의 신체를 근본적으로 변화시키고 강화하려는 운동인 트랜스휴머니즘과 강한 연관성을 가지고 있다. 트랜스휴머니즘의 주요 지지자 중 한 명인 보스트롬(Bostrom)이 제안한 것처럼, 가장 극단적인 열망자들은 인류를 컴퓨터와 결합시켜 암 환자의 종양과 같은 삶의 고통을 잘라내고 영원한 행복의 상태에서 살기를 희망한다. 예를 들어 일론 머스크(Elon Musk)는 인간이 AI와의 지능 경쟁에서 경쟁력을 유지할 수 있도록 뇌-컴퓨터 인터페이스 스타트업인 뉴럴링크(Neuralink)를 시작했다고 말했다. 머스크는 2019년 뉴럴링크(Neuralink) 행사에서 “양성적인 AI 하에서도 우리는 뒤쳐질 것”이라며 “고대역폭의 뇌-기계 인터페이스를 통해 우리는 계속해서 나아갈 수 있는 선택권을 갖게 될 것”이라고 말했다.

 

이러한 열망은 우리의 동물성에 대한 암묵적인 혐오, 또는 적어도 그것으로부터 우리 자신을 해방시키려는 욕망으로 해석될 수 있다. 현재 OpenAI의 CEO인 기술자 샘 알트만(Sam Altman)은 2017년 블로그 게시물에서 “우리는 우리 자신의 후손을 설계하는 최초의 종이 될 것이다.”라고 썼다. "내 생각에는 우리가 디지털 지능을 위한 생물학적 부트로더가 될 수 있고"(고급 AI를 위한 디딤돌일 뿐이라는 의미) "그런 다음 진화적인 나뭇가지로 사라지거나 성공적인 병합이 어떤 모습인지 알아낼 수 있을 것이다."

지금은 없어진 AI 회사인 Thinking Machines의 공동 창업자인 컴퓨터 과학자 대니 힐리스(Danny Hillis)는 90년대 초에 인간은 근본적으로 다른 두 가지로 구성되어 있다고 선언했다. “우리는 신진대사를 담당하는 존재이다. 역사가 데이비드 노블(David Noble)이 1997년 저서 기술의 종교(The Religion of Technology)에서 인용한 것처럼 우리는 일련의 아이디어와 문화인 지능적인 존재이다. 힐리스는 계속해서 이렇게 말했다. “우리에게 가치 있는 점은 인간에게 좋은 점은 바로 아이디어이다. 동물 이야기가 아니다.” 컴퓨터와의 합병은 동물 생물학으로부터의 해방을 의미한다.

 

이러한 인간/동물 이원론은 실제로는 그러한 구분이 존재하지 않는데도 우리와 나머지 동물 진화계통 사이의 인지적 단절을 가정한다. 그것은 인간의 지능이 우리의 육체적, 동물적 자아와 아무 관련이 없다는 믿기 힘든 모델, 즉 “마음은 계산이며 인간 경험의 정서적 차원을 포함하지 않으며 인간의 정신도 포함하지 않는다는 개념”에 의존한다고 인기 있는 서브스택인 유쾌한 사회(The Convivial Society)를 집필하고 기술 평론가인 마이클 사카사스(Michael Sacasas)가 말했다.

 

AI 세계에서 인간이 어디에 적합한지에 대해 현재 일어나고 있는 사회적 계산은 사카사스가 바라는 것처럼 우리가 이 이원론을 다시 생각하기 시작하고 신체가 "합리적인 소프트웨어의 펌웨어일 뿐만 아니라 실제로 우리가 '마음'이라고 부르는 것의 필수적인 부분이다.” 그 이원론을 무너뜨리는 것은 우리가 인간으로서 부여하는 별도의 지위를 포기하는 것을 의미해야 한다. 이는 오기블린(O'Gieblyn)이 설명한 "감정, 지각, 경험하고 느끼는 능력"이라는 동물의 특성을 포함하도록 지능 자체의 정의를 확장하는 데 도움이 될 수 있다. 결국 우리 뇌에는 '지능'이나 '생각'이라고 불리는 것이 하나도 없다. 그것은 신체 부위가 아니라 우리의 다른 정신적 과정과 연속적으로 나타나는 창발적 특성이다. 동물은 이를 공유하며 어떤 경우에는 이를 초과한다.

 

예를 들어, 철새는 지구 자기장을 인식하여 길을 찾을 수 있는 것으로 유명하다. 너구리는 극도로 민감한 손으로 세상에 대해 "보고" 배울 수 있다(이것이 때때로 그들이 열정적으로 물건과 다른 동물을 두드리는 모습을 볼 수 있는 이유이다). 돼지는 확실히 똑똑하다. 그러나 그들이 3살 어린이만큼 "똑똑하다"는 널리 인용되는 생각은 우리가 서로 다른 존재를 서로 다른 생각을 가지고 있다는 것을 인식하기보다는 단일 변수, 인간 중심적 척도에 대해 지능을 측정하게 된 우울한 방식을 반영한다. 그러나 이것은 우리의 인지를 마치 컴퓨터의 CPU인 것처럼 판단하기 때문에 우리에게도 비인간적이다. 우리가 동물의 능력을 적절하게 평가할 수 있다면, 우리 마음의 육체가 없는 관점을 통해 인간의 예외주의를 주장하는 것이 우리 자신에게 얼마나 영적인 해를 끼쳤는지도 알 수 있을 것이다.

 

AI 비판에는 인간이 아닌 동물도 포함되어야 한다.

AI가 어떻게 자율화되고 인류의 멸종을 조율할 수 있는지 믿을 필요는 없다.

예를 들어, 챗봇은 이미 인간과 기계 사이의 경계를 모호하게 만들어 감각이 존재하지 않는 환상을 만들어내고 있다. 이는 언어학자 에밀리 벤더(Emily Bender)의 비판이다. 사카사스와 같은 다른 사람들은 AI가 인간을 대체하는 것이 삶의 비효율성을 제거하려는 현대성의 추진력의 정점을 어떻게 나타내는지 지적한다. “시장과 기술 자본주의의 논리에 따르면 인간의 비효율성은 항상 궁극적으로 폐기되어야 했다.”라고 그는 말했다. "어떤 의미에서 AI는 그 논리를 좀 더 발전시켜서... 논리적인 결론을 내린다. 즉, 사람을 제거하는 것뿐이다."

 

이런 종류의 비판은 나에게 진실로 들린다. 그러나 그들은 또한 우리가 항상 지구를 공유해온 다른 지각 있고 지능적인 생물을 배제하면서 인간의 윤리적, 영적 독특성에 집착하는 방법을 가지고 있다. 사카사스는 “AI로 인해 발생하는 불안 중 하나는 우리가 인간을 구별하거나, 인간을 향상시키거나, 인간의 고유한 점을 찾으려고 노력한 방식에 기초한다.”라고 지적한다. 인간은 중요한 면에서 분명히 동물 중에서 독특하다. 그러나 AI에 대한 비판적 담론은 우리 자신을 넘어서 생각하거나 지금 이 순간이 동물을 과소평가하는 데 어떤 영향을 미치는지 고려하는 데 거의 관심을 보이지 않았다.

예를 들어, AI 대형 언어 모델(LLM)에 대한 가장 잘 알려진 비평 중 하나는 AI의 언어 이해 부족을 동물의 언어 이해 부족과 비교하는 것이다. 의미를 고려하지 않고 확률 모델을 기반으로 언어를 뱉어낸다. 뉴욕 잡지에서 널리 읽힌 에밀리 벤더(Emily Bender)의 3월 프로필 제목에는 "당신은 앵무새가 아니다"라고 선언되어 있다.

 

나는 벤더가 앵무새에 대해 아무것도 반대하지 않는다고 확신한다. 앵무새는 서로 및 인간과의 의사 소통의 일부로 놀라울 정도로 충실하게 소리를 재현한다고 생각되는 매우 똑똑한 동물이다. 그러나 앵무새는 기계가 아니며, 앵무새를 그렇게 상상하는 것은 우리 자신의 마음에 대한 육체가 없는 관점을 제공하는 인간/동물 이원론을 강화할 뿐이다. 동물성을 거부하지 않으면서 인간으로서의 가치를 긍정할 수 있는 언어가 없는 것과 같다.

 

AI의 상승은 우리와 다른 지각 있는 생물학적 생명체와의 관계를 파악하기 시작하는 중추적인 순간이 되어야 한다. AI가 우리에 대해 판단할 수 있는 위치에 있다면 우리는 AI가 우리보다 훨씬 더 자비롭기를 바랄 것이며, 우리가 다른 동물에게 했던 것처럼 우리의 능력과 필요를 따지거나 조롱하거나 무효화하지 않기를 바랄 것이다. 우리가 더 강력한 지능에 의해 압제당하는 것을 원하지 않는다면, 우리는 계속해서 같은 일을 할 수 있는 믿을 만한 방어 수단이 없다.

 

지각 있는 AI가 가능한지 여부는 알 수 없지만, 가능하다면 구축해서는 안 된다.

이 중 어느 것도 기계 자체가 지각을 갖게 될 수 있는지, 가능하다면 우리가 어떻게 진행해야 하는지를 반드시 말해주지는 않는다. 나는 지각 있는 AI에 대한 아이디어가 우스꽝스럽다고 생각했지만 지금은 잘 모르겠다. 오기블린(O'Gieblyn)이 지적한 것처럼 과학적 방법은 의식을 설명하는 방법을 찾지 못했다. 그녀는 현대 과학이 “우선 정신의 배제를 전제로 했다”고 썼다.

의식이 어디서 오는지 모른다면, 특히 동물에서 의식을 인식한 기록이 좋지 않다는 점을 고려할 때 의식이 생물학적 생명에서만 발생할 수 있다고 가정하는 데 주의해야 할 수도 있다. “진화는 단지 아기를 가질 수 있는 능력을 반복적으로 선택하는 것이었고, 여기까지 왔다. 우리에게는 목표가 있다.”

 

 

우리는 현재 AI가 지각을 갖고 있다고 믿을 이유가 없지만 그것이 변할 수 있는지, 어떻게 변할 수 있는지 알 방법도 없다. 컴퓨터 언어학자인 내 친구 루크 게슬러(Luke Gessler)는 "우리는 불을 피울 수는 있지만 그것을 이해하는 데 필요한 기초조차 없는 수준에 이르렀다."라고 말했다.

 

 

AI의 감각이 나타날 수 있다면(큰 경우), 우리가 동물에서 감각의 존재를 부인했던 것과 같은 이유로 그것을 인식할 의향이 있을지 의심스럽다. 인간은 우리가 착취하려는 존재(동물뿐만 아니라 노예가 된 인간, 여성, 도덕적 고려에서 제외된 다른 모든 계층의 사람들 포함)의 이익을 무시하거나 거짓말을 하는 데 매우 능숙하다. 지각 있는 AI를 만드는 것은 그것을 물건으로 세상에 내놓을 것이기 때문에 비윤리적일 것이다. 우리가 비인간 동물의 경험에서 알 수 있듯이, 감각 있는 존재를 재산 상태로 위탁하는 것은 그들의 복지가 항상 경제적 효율성과 소유자의 욕구에 종속되기 때문에 본질적으로 부당하다. SF 작가 테드 치앙(Ted Chiang)은 2021년에 지각 있는 AI를 구축하는 것에 대해 “우리는 필연적으로 그들에게 고통을 줄 것이다. 그것은 분명히 나쁜 생각인 것 같다.”고 말했다.

 

5월 에세이에서 컬럼비아 철학자 다난제이 자간나탄(Dhananjay Jagannathan)은 AI 정신 문제에 대해 다른 관점을 제시했다. 그는 아리스토텔레스의 말을 인용하여 사고의 본질은 과학적으로 추론하거나 컴퓨터에 이식할 수 있는 것이 아니라고 말한다. 사고는 생물학적 동물인 우리 삶의 환원할 수 없는 부분이기 때문이다. 아리스토텔레스의 생각은 “생각하는 것이 곧 생명이다”라고 말한다. 예를 들어 주변 환경을 배우기 위해 물건을 두드리는 너구리, 주변 환경을 배우기 위해 주변을 쪼아먹는 아기 새, 먼 기억을 생생하게 불러일으키는 후각을 가진 인간은 모두 환경과 불가분의 사고의 경험을 하고 있다. 세상과 소통하는 생물학적 기관이다.

 

자간나탄은 이에 대한 한 가지 결론은 우리의 의식을 디지털 방식으로 업로드하고 우리 몸에서 분리하려는 트랜스휴머니스트의 꿈이 어떤 종류의 해방이 아니라 "자기 소멸"에 해당한다는 것이다. 오기블린(O'Gieblyn)이 쓴 것처럼, 마음에 대한 우리의 개념은 계산적 은유에서 너무 많이 끌어내기 때문에 동물성과 분리될 수 없는 사고라는 생각은 현대인이 이해하기 어려울 수 있다. 우리는 우리의 인식을 컴퓨터라고 상상하기 때문에 컴퓨터가 생각할 수 있다고 잘못 상상하기 시작한다.

 

AI는 동물의 취약성과 학대에 대한 우리의 불안을 불러일으킨다.

우리가 인간이 아닌 동물과의 친족 관계를 통해 생각을 이해할 수 있다는 자간나탄의 견해는 AI와 트랜스휴머니즘 철학에 의해 논리적 종점에 도달한 이원론적, 계산적 경험 관점에 대해 무엇이 당황스러운지를 명확히 하는 데 도움이 된다. 우리가 주관적인 경험을 이해하고, 측정하고, 완성할 수 있고 삶을 마치 컴퓨터에 인코딩 된 정보 조각인 것처럼 렌더링할 수 있다는 가정은 분명히 모순되는 결론으로 이어질 수 있다. 그것은 인간과 인간이 아닌 생물학적 생명체의 멸종을 상상할 수 있게 만들었다.

 

예를 들어, 저명한 철학자 윌 맥애스킬(Will MacAskill)은 2022년 자신의 저서 우리가 빚진 미래(What We Owe the Future)에서 야생 동물의 개체수 감소(아직 듣지 못했다면 우리는 대량 멸종 위기에 처해 있다)가 실제로 바람직할 수 있다고 제안했다. 그들의 삶은 "평균적으로 아무것도 없는 것보다 더 나쁠 수 있다. 내 생각에는 그럴듯하다(불확실하지만)"라고 그는 썼다. 왜냐하면 그들은 즐거움보다는 포식과 질병과 같은 고통으로 구성될 수 있기 때문이다. 그렇다면 그들은 차라리 태어나지 않았더라면 더 나았을 것이다. 이 주장은 삶의 고통을 제거하고 기계와 결합된 존재로 우주를 식민지화하려는 트랜스휴머니스트의 충동과 같은 맥락에서 비롯된다.

 

 

야생동물 근절이라는 개념은 생명의 육체적인 내용을 박탈하려는 추진력의 가장 극단적인 표현 중 하나를 나타낸다. 비슷한 맥락에서, 포식자를 초식화하다(이름이 의미하는 바를 수행하는 것을 목표로 함) 조직의 이사직을 맡고 있는 트랜스휴머니즘 철학자 데이비드 피어스(David Pearce)는 기술적으로 "인간과 비인간의 삶에서 모든 형태의 불쾌한 경험을 제거하고 이를 대체하기를 희망한다." '정보에 민감한 행복의 변화'로 고통받고 있다.”

 

야생동물이 우리에게 불편할 때 대거 멸종되는 경우가 많은 현실 세계에서, 야생동물을 없애는 것이 실제로 도덕적으로 정의로울 수 있다는 생각은 어쨌든 인간이 자행하는 생태학살에 대한 정당성을 제공할 수 있다. AI가 언젠가는 우리의 고통과 즐거움에 대한 냉철한 계산을 바탕으로 우리를 불행에서 구출하는 것이 최선이라고 결정하면서 우리에 대해 똑같은 말을 하지 않을 것이라고 누가 말할 수 있을까? 그것은 육체적 존재의 어려움을 초월하려는 트랜스휴머니즘 정신과 일치할 것이다.

 

그러나 우리의 생물학적 자아와 동물의 자아에 대한 이러한 희미한 평가는 생명을 다른 방식으로 평가하거나 해석할 가능성을 배제한다. 우리는 동물의 내면에 거의 접근할 수 없으며, 그들이 자신의 삶이 살 가치가 있다고 생각하는지 말할 수도 없다. 만약 공리주의자가 내 남은 인생의 70%는 고통받는 것이라고 말한다면, 나는 그것을 진심으로 믿었더라도 죽는 것을 선택하지 않을 것입니다. 나는 내 인생을 살고 싶다.

 

 

동물의 삶에 대한 매우 다르고 보다 통합적인 해석은 시인 앨런 샤피로(Alan Shapiro)의 작품에서 찾을 수 있다. 그의 2002년 시 "기쁨"은 우리의 삶을 정의하는 기쁨, 두려움, 비극의 기묘한 얽힘을 표현하고 있으며, 그는 아마도 야생 동물의 삶도 그럴 것이라고 상상한다. 그는 “기쁨”은 사자를 피하는 영양에 비유하면서 “잔인할 정도로 아름다운 것”이라고 썼다:

 

나에게 이 비전은 야생동물의 고통이 중요하지 않다는 것을 암시하는 것이 아니라, 오히려 그들의 삶의 취약하고 신비스러운 충만함이 살 가치가 있다는 것을 암시한다. AI는 인간이 아닌 동물뿐만 아니라 동물의 취약성과 학대에 대한 불안감을 불러일으킨다. 그것은 우리 자신의 취약성, 즉 기계적인 측면에서 헤아릴 수 없거나 소모될 수 있는 우리의 부분을 상기시켜 준다. 언어를 조작하는 능력이 더 이상 인간만의 고유한 능력이 아닌 세상에서 합리화 충동은 우리 자신의 노후화에 공동 서명하도록 요구할 수 있다. 대신에 우리는 우리의 피조물로서의 자아가 붙잡을 가치가 있다고 판단하고 그렇게 함으로써 동료 동물들을 우리의 도덕적 집단에 초대할 수도 있다.