광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

유투브 책[인공지능 위협, AI가 우리 모두를 죽이지는 않을 것이다.] 인공지능관련 공포 캠페인에는 눈에 보이는 것보다 더 많은 것이 있다. AI의 종말론자 이야기를 고려할 때 건전한 회의론 또한 필요하다. ChatGPT는 인류에게 위협이 될 수 있는 일종의 인공 초지능에 가깝지도 않다. 또한, 보다 치명적인 AGI 시나리오의 대부분은 믿기 어려운 전제에 의존한다.

https://www.freethink.com/robots-ai/fear-of-ai

JM Kim | 기사입력 2023/06/27 [00:00]

유투브 책[인공지능 위협, AI가 우리 모두를 죽이지는 않을 것이다.] 인공지능관련 공포 캠페인에는 눈에 보이는 것보다 더 많은 것이 있다. AI의 종말론자 이야기를 고려할 때 건전한 회의론 또한 필요하다. ChatGPT는 인류에게 위협이 될 수 있는 일종의 인공 초지능에 가깝지도 않다. 또한, 보다 치명적인 AGI 시나리오의 대부분은 믿기 어려운 전제에 의존한다.

https://www.freethink.com/robots-ai/fear-of-ai

JM Kim | 입력 : 2023/06/27 [00:00]

 

종말론자는 오래된 주제이다. 인공지능(AI)은 복잡한 주제다. 이해하지 못하는 것을 두려워하기 쉽다. 이 세 가지 진실은 AI에 대한 토론을 괴롭히는 지나친 단순화와 각색을 설명하는 데 어느 정도 도움이 된다.

 

어제 전 세계 아울렛은 AI가 인류에게 실존적 위협을 가하고 있다고 주장하는 또 다른 공개 서한에 대한 뉴스로 도배되었다. 비영리AI안전센터를 통해 게시된 이 서한에는 제프린 힌튼(Geoffrey Hinton) Google DeepMind, Open AI Anthropic의 최고 경영자를 비롯한 업계 주요 인사들이 서명했다.

 

그러나 AI의 종말론자 이야기를 고려할 때 건전한 회의론 또한 필요하다. 면밀히 살펴보면 AI 공간에서 두려움을 제조하는 상업적 인센티브가 있음을 알 수 있다그리고 AI를 실존적 위협으로 규정하는 것은 컴퓨터 과학보다 17세기 철학과 더 많은 공통점이 있어 보인다.

 

ChatGPT '돌파구'일까?

작년 말에 ChatGPT가 출시되었을 때 사람들은 기뻐하고, 즐거워하고, 겁에 질렸다.

그러나 ChatGPT는 제품만큼 연구혁신이 아니다. 기반이 되는 기술은 몇 년 된 것이었다. 기본 모델인 GPT-3의 초기 버전은 2020년에 많은 동일한 기능을 포함하여 출시되었다. 모든 사람이 함께 플레이할 수 있도록 온라인에서 쉽게 액세스할 수 없었을 뿐이다.

 

2020년과 2021년에 많은 사람들은 GPT-3 및 유사 모델의 기능과 단점에 대해 논의하는 논문을 작성했으며 세상은 언제나처럼 계속되었다. 오늘날 ChatGPT는 사회에 놀라운 영향을 미쳤다. 무엇이 바뀌었나?

 

3월에 Microsoft 연구원은 GPT-4 "인공일반지능의 불꽃"을 보여주었다고 주장하는 논문을 발표했다. AGI는 다양한 경쟁 정의의 대상이지만 단순화를 위해 인간 수준의 지능을 가진 AI로 이해할 수 있다.

일부는 즉시 Microsoft 연구를 GPT-4 AGI라고 말하는 것으로 해석했다. 익숙한 AGI의 정의에 따르면 이것은 확실히 사실이 아니다. 그럼에도 불구하고 그것은 과대광고와 소란을 더했고 공황상태에 빠지지 않기가 어려웠다. 과학자들은 다른 누구보다 집단 사고에 더 이상 면역이 안된다.

 

논문이 제출된 당일, 미래삶연구소(The Future of Life Institute)는 모든 사람이 재고를 확보하고 미리 계획할 수 있도록 GPT-4보다 강력한 AI모델교육을 6개월 동안 중단할 것을 요구하는 공개 서한을 발표했다. 이에 서명한 일부 AI유명인사들은 AGI가 인간에게 실존적 위협을 가하고 있으며 ChatGPT AGI에 너무 가까워 안심할 수 없다는 우려를 표명했다.

 

얼마 지나지 않아 2020년 이전부터 초 지능 AI의 위험성에 대해 논평해 온 저명한 AI안전연구원 엘리에제 유드코프스키(Eliezer Yudkowsky)는 한 단계 더 나아갔다. 그는 우리가 "초인간적으로 똑똑한 AI"를 구축하는 길에 있다고 주장했으며, 이 경우 "일어날 명백한 일" "말 그대로 지구상의 모든 사람이 죽을 것"이다. 그는 국가가 국경을 넘어 AI 규정 준수를 시행하기 위해 핵전쟁 위험을 감수해야 한다고 제안하기도 했다.

 

나는 AI를 임박한 실존적 위협으로 생각하지 않는다.

AI 안전 연구의 한 측면은 AGI가 제시할 수 있는 잠재적인 위험을 해결하는 것이다. 초지능이 수반할 수 있는 것은 고사하고 지능이 무엇이며 어떻게 기능하는지에 대한 합의가 거의 없기 때문에 연구하기 어려운 주제이다. 따라서 연구자들은 증거와 수학적 증명만큼 추측과 철학적 주장에 의존해야 한다.

 

ChatGPT와 그 부산물에 대해 걱정하지 않는 두 가지 이유가 있다.

첫째, 인류에게 위협이 될 수 있는 일종의 인공 초지능에 가깝지도 않다. 그것을 뒷받침하는 모델은 인간이 단지 몇 가지 예에서 만들어낼 수 있는 다재다능한 개념과 유사한 것을 구성하기 위해 엄청난 양의 데이터가 필요한 느린 학습자이다. 이런 의미에서 그것은 "지능형"이 아니다.

 

둘째, 보다 치명적인 AGI 시나리오의 대부분은 내가 믿기 어려운 전제에 의존한다. 예를 들어, 충분한 지능이 현실 세계의 무한한 힘에 해당한다는 일반적인(그러나 무언의) 가정이 있는 것 같다. 이것이 사실이라면 더 많은 과학자들이 억만장자가 될 것이다.

 

더욱이, 우리가 이해하는 인간의 인지는 물리적 환경(우리 몸을 포함)의 일부로 발생하며, 이 환경은 한계를 부과한다. 하드웨어의 제약을 받지 않는 "소프트웨어 마음"으로서의 AI 개념은 물리적 세계의 일부로 존재하는 마음에 대한 현대 이론보다 17세기 이원론(마음과 몸이 분리될 수 있다는 생각)과 더 많은 공통점이 있다.

 

왜 갑자기 걱정하는가?

그래도 운명론은 구식이고 지난 몇 년간의 사건은 아마도 도움이 되지 않았을 것이다. 하지만 이 이야기에는 눈에 보이는 것보다 더 많은 것이 있을 수 있다.

AI 규제를 촉구하는 저명인사 중에는 기존 AI기업에 근무하거나 관련이 있는 사람이 많다. 이 기술은 유용하고 돈과 권력이 걸려 있기 때문에 두려움을 불러일으키는 것은 기회를 제공한다.

 

ChatGPT 구축과 관련된 거의 모든 것이 누구나 접근할 수 있는 연구에 게시되었다. OpenAI의 경쟁자들은 프로세스를 복제할 수 있고 복제했으며 머지않아 무료 및 오픈소스 대안이 시장에 넘쳐날 것이다.

이 점은 Google에서 유출된 것으로 알려진 "우리에게는 해자가 없고 OpenAI도 없다"라는 제목의 메모에서 명확하게 확인되었다. 해자는 경쟁업체로부터 비즈니스를 보호하는 방법에 대한 전문 용어이다.

 

Meta에서 AI 연구를 이끄는 Yann LeCun은 이러한 모델이 공공 인프라가 될 것이기 때문에 공개되어야 한다고 말한다. 그와 다른 많은 사람들은 AGI 파멸 이야기에 확신이 없다.

특히 Meta는 최근 조 바이든 미국 대통령이 Google DeepMind OpenAI의 리더십을 만났을 때 초대되지 않았다. Meta가 거의 확실하게 AI연구의 리더라는 사실에도 불구하고 그렇다. GPT-3를 만드는 데 사용되는 기계학습 프레임워크 OpenAI PyTorch를 생산했다.

 

백악관 회의에서 OpenAI CEO인 샘 알트만(Sam Altman)은 미국정부가 AI모델을 책임감 있게 교육할 수 있는 사람들에게 라이선스를 발급해야 한다고 제안했다. Stability AI CEO Emad Mostaque가 말했듯이 라이센스는 "일종의 해자"이다.

 

Google, OpenAI Microsoft와 같은 회사는 작고 독립적인 경쟁자가 번성하도록 허용함으로써 잃을 모든 것을 가지고 있다. 라이센스 및 규제를 도입하면 시장 리더로서의 입지를 강화하고 부상하기 전에 햄스트링 경쟁을 벌이는 데 도움이 될 것이다.

 

어떤 상황에서는 규제가 적절하지만, 급히 통과된 규제는 기존 기업에게 유리하고 소규모의 무료 오픈소스 경쟁을 질식시킬 것이다.

 

글쓴이 Michael Timothy Bennett

 

 

 

 
인공지능, AI, 위협, 종말론, 회의론 관련기사목록
광고
광고
광고
광고
광고
광고
광고
많이 본 기사
챗GPT와 AI, 로봇 많이 본 기사