위험한 라벨

내가 “일부 기독교인은 생물학적 진화의 현실을 부인하므로 모든 기독교인은 생물학적 진화의 현실을 부인한다”고 말한다고 상상해 보라.

또는 일부 무슬림은 배교자는 처형되어야 한다고 믿기 때문에 모든 무슬림이 그 믿음을 공유한다는 주장도 있다.

또는 일부 무신론자(예: 스탈린과 마오쩌둥)가 수백만 명의 죽음을 초래했기 때문에 무신론 자체는 살인적인 이데올로기이다.

또는 집에 더 가까이 다가가기 위해(나에게는 스코틀랜드 애버딘셔에서 자랐다) – 일부 스코틀랜드인은 돈에 대해 인색하기 때문에 모든 스코틀랜드인은 돈에 대해 인색하다. (스코틀랜드 내에서는 이러한 불친절한 고정관념이 반전되어 존재한다. 모든 애버도니아인은 돈에 대해 인색하다고 한다.)

 

이 모든 경우에 당신은 그것이 부당한 라벨링이라고 말할 것이다. 그러한 고정관념을 퍼뜨리는 것은 위험하다. 그것은 더 완전한 분석과 더 깊은 이해를 방해한다. 실제 사람들은 그보다 훨씬 더 다양하다. 모든 커뮤니티에는 다양성이 있다.

글쎄, 나는 또 다른 라벨링 사례에 똑같이 충격을 받았다. 여기에는 테스크리얼(TESCREAL)의 게으른 개념이 포함된다. 이 개념은 여기 Mindplex Magazine의 최근 기사인 테스크리얼주의 (TESCREALism): 실리콘밸리 지배층이 미친 마을로 갔는가?에 실린 개념이다. R.U.와의 대화에서 에밀 토레스 천랑성.

기사를 읽으면서 가장 먼저 든 생각은 '마인드플렉스가 크레이지타운에 갔나!'였다.

 

최근 몇 달 동안 여러 곳에서 여러 번 홍보된 테스크리얼(TESCREAL)의 개념은 풍부하고 다양한 아이디어를 지나치게 단순화된 결론으로 압축한다. 이는 가정된 아이디어 묶음에 포함된 신념을 갖고 있는 사람들의 최악의 측면이 이러한 아이디어 중 일부만을 갖고 있는 다른 사람들에게 자신있게 귀속될 수 있음을 시사한다.

더 나쁜 것은 실리콘밸리의 "지배계급" 전체가 이러한 믿음 중 최악의 믿음을 따르고 있다는 점이다.

그것은 마치 내가 무작위로 무신론자를 골라 그들이 스탈린이나 마오쩌둥과 똑같이 살인적이라고 주장하는 것과 같다.

또는 무작위 무슬림을 선택하여 무슬림 신앙을 갖고 성장했다가 나중에 그 신앙을 버린 모든 사람(배교자)이 죽기를 바란다고 주장한다면 말이다.

그런 종류의 아이디어 축소 대신, 오늘날 세상에 절실히 필요한 것은 복잡하고 미묘한 아이디어에 대한 열린 마음의 탐구이다.

테스크리얼(TESCREAL) 분석 지지자들에게 동기를 부여하는 것처럼 보이는 피에 대한 비난이 아니다.

실리콘 밸리에서 많은 놀라운 제품을 만들고 있는 기업가와 기술자에 대한 증오심을 불러일으키는 것이 아니다. 물론, 자신이 하고 있는 일 중 일부에 대해 책임을 져야 하지만 결코 획일적인 캠프는 아닌 사람들이다.

 

나는 T이지만 L은 아니다.

한 가지 예를 들어보겠다: 나.

나는 공개적으로 트랜스휴머니스트(TESCREAL의 'T')임을 밝힌다.

내 책 중 하나의 표지에는 '트랜스휴머니즘'이라는 단어가 나타나고, 다른 책의 표지에는 관련 단어인 '트랜스휴머니즘'이 나타난다.

 

각각 2021년과 2019년에 출판된 David Wood의 'Vital Foresight'와 'Sustainable Superabundance'의 책 표지. 이미지 출처: (David Wood)

 

공교롭게도 나도 기술 임원이었다. 나는 주로 런던에 기반을 두고 있지만 실리콘 밸리의 레드우드 시티에 있는 심미안 사무실에서 직원을 감독하는 일을 담당했다. 우리는 '스마트폰'이라는 새로운 장치가 조만간 사용자 삶의 여러 측면을 어떻게 개선할 수 있을지 함께 상상했다. (그리고 우리는 보안 및 개인 정보 침해의 위험을 포함하여 최소한 몇 가지 잠재적인 단점도 고려했다. 이것이 바로 제가 심미안 OS 커널의 새로운 '플랫폼 보안' 재설계를 옹호한 이유이다. 하지만 다른 생각이다.)

 

내가 'T'이기 때문에 나도 테스크리얼(TESCREAL)이라는 뜻인가?

마지막 'L'을 살펴보겠다. 장기주의. 이 편지는 테스크리얼(TESCREAL) 분석을 좋아하는 사람들의 많은 주장에 매우 중요하다.

'장기주의'는 잠재적으로 미래 세대에 있을 아직 태어나지 않은(그리고 임신 되지 않은) 수많은 사람들의 필요가 현재 살고 있는 사람들의 필요보다 더 클 수 있다는 믿음이다.

글쎄, 나는 구독하지 않는다. 그것은 내 결정을 안내하지 않는다.

나는 오늘날 살고 있는 전 세계 모든 사람의 삶을 크게 향상시킬 수 있는 기술의 가능성에 감동을 받았다. 그리고 잠재적인 재앙을 예측하고 막아야 할 필요성이 있다.

'재난'이란 현재 살아있는 많은 사람을 죽이는 모든 것을 의미한다.

 

 

개념이 복잡하다.

여기서는 더 큰 점을 지적할 필요가 있다. '트랜스휴머니즘'과 '장기주의'와 같은 개념은 각각 풍부한 다양성을 구현한다.

이는 예상되는 테스크리얼(TESCREAL) 번들의 다른 모든 구성 요소와 동일하다. E는 외계인주의(Extropianism), S는 특이점주의(Singularitarianism), C는 우주주의(Cosmism), R은 이성주의(Rationalism), EA는 효과적인 이타주의(Effective Altruism)를 의미한다.

각각의 경우에 우리는 축소주의를 피해야 한다. 만약 그 철학을 옹호하는 사람이 하나의 의견을 표현하는 것을 들었다면 그들이 다른 모든 문제에 대해 어떻게 생각하는지 추론할 수 있다고 생각해야 한다. 실제로 사람은 더 복잡하고 아이디어도 더 복잡하다.

내가 보기에 T, E, S, C, R, EA 철학의 각 부분은 폭넓은 관심과 지원을 받을 가치가 있다. 그러나 적대적이며 좀 더 자세히 조사해 보면 각 용어와 관련된 커뮤니티 내에서 비열하거나 무서운 말을 한 사람들을 쉽게 찾을 수 있다. 그런 다음 해당 커뮤니티의 다른 모든 사람에게 동일한 환영받지 못하는 특성을 표시할 수 있다. (“하나만 봤는데 다 봤다!”)

이러한 확장된 커뮤니티에는 환영받지 못하는 특성을 가진 사람들이 있다. 실제로, T와 S 각각은 내가 '그림자'라고 부르는 것을 끌어당겼다. 이는 철학의 가치 있는 핵심 아이디어에서 벗어난 연관된 신념과 태도의 집합이다. 다음은 특이점 그림자를 사용한 그림이다.

오늘날 살아있는 사람들 100%의 죽음은 인류의 미래를 말살할 것이지만, '단지' 90%의 사람들의 죽음은 그렇지 않을 것이다. 장기주의론자은 이 점을 즐겨 지적하며, 그것이 이론적으로는 맞을지 모르지만 더 많은 수의 미래 사람들이 태어날 확률을 높이기 위해 현대인의 필요를 무시하는 것은 어떤 정당성도 제공하지 않는다.

 

어떤 사람들은 장기주의론적 주장에 설득당했다고 말했다. 하지만 나는 그것이 지적인 사람들 중 소수에 불과하다고 생각한다. 실리콘 밸리 사람들과 새로운 기술을 구상하고 구축하는 다른 사람들과의 경험에 따르면 이러한 추상적인 장기주의적 고려 사항은 일상적인 결정을 내리는 데 도움이 되지 않는다. 그것과는 거리가 멀다.

 

David Wood가 Singularity Shadow를 조사하는 'The Vital Syllabus Playlist'의 비디오 표지 이미지. 이미지 출처: (David Wood)

트랜스휴머니스트의 그림자는 다음과 같다:

David Wood가 Transhumanist Shadow를 조사하는 'The Vital Syllabus Playlist'의 비디오 표지 이미지. 이미지 출처: (David Wood)

(두 경우 모두 캡션 링크를 클릭하면 더 자세한 분석을 제공하는 비디오를 볼 수 있다.)

보시다시피, 트랜스휴머니즘의 그림자에 있는 특성은 사람들이 내가 '트랜스휴머니스트 가치'라고 나열한 것을 지키지 못할 때 발생한다.

이러한 그림자의 존재는 부정할 수 없고 불행한 일이다. 그들의 신념과 태도는 독립적인 관찰자가 핵심 철학을 진지하게 받아들이는 것을 방해할 수 있다.

그렇다면 왜 '트랜스휴머니즘'과 '특이점'이라는 핵심 용어를 고집하는가? 왜냐하면 이 두 가지 철학에는 매우 중요한 긍정적인 메시지가 있기 때문이다! 다음에는 이것들을 살펴보겠다.

 

가장 중요한 예지력

내가 제공할 수 있는 가장 중요한 예측에 대한 33단어 요약은 다음과 같다:

다가오는 기술 변화의 물결은 트랜스휴머니스트 비전, 트랜스휴머니스트 정치, 트랜스휴머니즘 교육의 적시 상승에 따라 결과가 글로벌 파괴 또는 천국과 같은 지속 가능한 과잉을 가져올 준비가 되어 있다.

이번에는 좀 더 천천히 다루겠다.

먼저 첫 번째, 향후 수십 년에 걸친 기술 변화로 인해 수십억 명의 인간의 손에 막대한 새로운 힘이 부여될 것이다. 비록 중요하기는 하지만 오늘날의 기술이 갖는 의미에 초점을 맞추기보다는 가까운 미래의 기술이 갖는 훨씬 더 큰 의미에 관심을 기울여야 한다.

 

둘째, 이러한 기술은 인도주의적 재난의 위험을 확대할 것이다. 우리가 이미 이러한 위험에 대해 걱정하고 있다면(당연히 그래야 하는 것처럼), 가까운 미래에 이러한 위험이 어떻게 전개될 것인지에 대해 더욱 걱정해야 한다.

 

셋째, 동일한 기술을 보다 현명하게 다루고 적극적으로 조종하면 매우 다른 결과를 초래할 수 있다. 청정 에너지, 건강한 영양, 물질적 상품, 뛰어난 건강, 만능 지능, 역동적인 창의성, 심오한 협력이 지속 가능하게 풍부하다.

 

넷째, 결과가 실현되는 데 가장 큰 영향을 미치는 것은 트랜스휴머니즘의 확산이다. 여기에는 세 가지 활동이 포함된다.

• 트랜스휴머니즘 철학을 모든 사람이 인생의 거대한 진화 사다리에서 다음 도약에 참여하도록 격려하고 영감을 주는 포괄적인 세계관으로 옹호한다. 우리는 과학, 기술 및 합리적인 방법을 사용하여 신체적, 정신적, 사회적으로 더 높은 수준으로 발전할 수 있고 또 그래야 한다.

• 해당 분야의 매우 파괴적인 추세에 대응하기 위해 트랜스휴머니스트 아이디어를 실제 정치 활동으로 확장한다.

 

• 위의 계획을 뒷받침한다. 과거의 필요가 아닌 가까운 미래의 매우 다양한 상황에 적합한 기술을 모든 사람에게 제공하기 위한 교육 세계의 변화이다.

마지막으로, 내가 방금 설명한 중대한 전환에는 훨씬 더 큰 변화의 가능성이 있다. 기술은 사고의 모든 측면에서 초인적인 수준의 능력을 갖춘 자기 개선 인공지능의 출현으로 더욱 빠르게 발전한다.

 

그것은 우리를 특이점이라는 주제로 인도한다.

특이점은 AI가 잠재적으로 인간으로부터 세계를 통제할 수 있는 시점이다. 특이점이 몇 십 년 안에 일어날 수 있다는 사실은 옥상에서 외칠 만하다. 그게 내가 하는 일이다. 가끔은. 그것이 나를 특이주의자로 만든다.

그러나 이것이 나나 마찬가지로 이 가능성에 대한 인식을 높이려고 노력하는 다른 사람들이 특이점 그림자의 특성에 속한다는 의미는 아니다. 예를 들어, 이는 우리 모두가 위험에 대해 안주하거나 특이점이 인류에게 좋을 것이라는 것이 기본적으로 불가피하다고 생각한다는 의미는 아니다.

따라서 특이점주의(S)는 문제가 되지 않는다. 트랜스휴머니즘(T)은 문제가 아니다. 또한 문제는 예상되는 TESCREAL 번들의 E, C, R 또는 EA 부분의 핵심 신념에 있는 것도 아니다. 문제는 다른 곳에 있다.

 

우리가 걱정해야 할 것은 TESCREAL이 아니라 CASHAP이다.

TESCREAL의 실리콘 밸리 인수에 집착하기보다는 실제로 걱정해야 할 것이 바로 CASHAP이다.

C는 수축주의(contractionism)를 의미한다. 즉 반드시 함께 속할 필요는 없는 아이디어를 함께 밀어붙이고 사람과 아이디어의 변형과 복잡성을 간과하는 경향이다. 일부 주변 구성원이 불쾌한 신념이나 태도를 가지고 있다는 이유만으로 그룹의 핵심 가치가 폄하될 수 있다고 주장한다.

(참고: TESCREAL 개념의 팬들은 축소주의에 대해 유죄이지만 CASHAP에 대한 나의 대체 개념은 다르다. 나는 그 안에 있는 아이디어가 항상 함께 속한다고 제안하는 것이 아니다. CASHAP를 구성하는 각각의 개별 아이디어는 해롭다.)

A는 가속주의(accelerationism)이다. 새로운 기술이 가능한 한 빨리 개발되고 배포되는 것을 보고자 하는 욕구이다. 도중에 직면하는 모든 결함은 항상 프로세스에서 쉽게 수정될 수 있다는 무책임한 믿음(“빠르게 움직여서 문제를 해결하세요”)이다.

S는 계승론(successionism)을 뜻한다. 초지능 AI가 인류를 대체하여 지구를 통제한다면 그 계승은 그 과정에서 인간에게 무슨 일이 일어나든, 그 과정에서 인간에게 무슨 일이 일어나든 관계없이 자동으로 대진화 과정의 일부로 환영되어야 한다는 견해이다. AI는 지각력과 의식을 가지고 있으며, 실제로 이러한 AI가 계속해서 자신과 행성을 파괴할지 여부에 관계없다.

H는 과대 광고를 의미한다. 아이디어가 비판적 사고를 사용하기보다는 기존의 세계관에 적합하기 때문에 아이디어를 너무 쉽게 믿는 것이다.

AP는 반정치(anti-politics)를 위한 것이다. 정치는 항상 상황을 악화시키고 혁신과 창의성을 방해한다고 믿는다. 실제로 좋은 정치는 인간 조건을 개선하는 데 엄청나게 중요했다.

 

결론

방금 나열한 바람직하지 않은 CASHAP 특성에 대한 긍정적인 반대를 강조하면서 이 기사를 마무리하겠다.

수축주의 대신에 우리는 생각을 확장하고 아이디어에 도전할 준비가 되어 있어야 한다. 우리는 의견 차이가 많은 사람들을 포함하여 예상치 못한 곳에서 중요하고 새로운 아이디어를 찾을 준비가 되어 있어야 한다. 우리는 때때로 감정적 반응을 보류할 준비가 되어 있어야 한다. 왜냐하면 우리의 이전 본능은 결코 앞으로의 격동적인 새로운 시대에 대한 확실한 안내자가 아니기 때문이다.

 

가속주의 대신에 우리는 더 정교한 도구 세트를 사용해야 한다. 때로는 제동하고, 때로는 가속하고, 많은 조향도 수행해야 한다. 이것이 바로 내가 미래에 대한 기술 진보적(또는 기술 민첩한) 접근 방식이라고 부르는 것이다.

 

계승주의 대신에 우리는 트랜스휴머니즘을 받아들여야 한다. 우리는 오늘날의 인간을 더 높은 수준의 건강, 활력, 자유, 창의성, 지성, 인식, 행복, 협력 및 행복의 수준으로 끌어올릴 수 있고, 또 그래야 한다. 그리고 우리의 번영을 막을 수 있는 초지능 AI로 인해 인류가 대체될 수 있는 버튼을 누르기 전에 우리는 훨씬 더 주의 깊게 모든 문제를 조사해야 한다.

과장된 과장 대신, 우리는 비판적 사고를 다시 해야 하며, 잘못된 결론에 도달하는 경향이 있거나 잠정적인 결론에 너무 많은 비중을 두는 경향을 더 잘 인식해야 한다. 실제로, 이것이 TESCREAL의 R(합리주의) 부분의 핵심 메시지이다. 이는 R이 수축주의적인 과도한 단순화로 인해 경멸을 받는 것을 더욱 '미친 도시'로 만든다.

 

우리는 소위 '좁은 길'(또는 때로는 간단하게 '미래 정치')이라고 불리는 것을 명확히 하고 방어해야 한다. 이는 권력이 너무 적은 국가(사회를 우리 가운데 자랄 수 있는 파괴적인 암에 인질로 놔두는 것)와 권력을 갖는 국가 사이에 놓여 있다. 너무 많은 권력('강한 사회'의 균형추와 비교할 수 없음).