온화한 디지털 초지능이 가능할까? 우리보다 똑똑하고 궁극적으로는 훨씬 더 똑똑한 AI를 계속 개발하면서 긍정적인 결과를 보장하기 위해 무엇을 할 수 있을까?

최근 Stability AI의 CEO 자리에서 물러난 에마드 무스타크(Emad Mostaque)와 함께한 최근 문샷 팟캐스트를 기반으로 한 이 두 번째 블로그에서는 이러한 질문에 대한 그의 답변을 공유하겠다. 또한 그가 다음에 무엇을 할 계획인지, AI를 통해 의료 및 교육을 혁신하려는 그의 비전, 개방적이고 분산된 AI를 위한 싸움이 왜 그토록 중요하고 시급한지에 대해서도 논의하겠다.

 

디지털 초지능의 가능성과 위험

불과 몇 주 전 에마드와 내가 풍요 서밋(Abundance Summit) 무대에 올랐을 때 우리는 디지털 초지능의 가능성, 즉 인간보다 10억 배 더 뛰어난 AI를 갖게 될 미래에 대해 이야기했다. 뉴런의 비율로 보면 햄스터와 인간의 비율이 나온다.

에마드는 언젠가 우리가 인류를 지원하는 온화한 초지능을 가질 수 있다고 믿을까?

"그렇다. 그리고 나는 이것이 수집된 지능과 하향식으로 우리를 효과적으로 제어하도록 설계된 AGI가 아니라 증폭된 인간 지능으로 구성된 집단 지능이어야 한다고 믿는다."

그는 이렇게 설명한다. "AGI로 가는 길에 대한 OpenAI의 성명을 보면 그들은 이 기술이 민주주의와 자본주의를 종식시키고 어쩌면 우리 모두를 죽일 것이라고 말한다. 나는 그것이 마음에 들지 않는다."

대신 에마드는 AI가 배포되고 지역 문화를 반영하는 미래를 구상한다.

"국가의 역량 강화를 기반으로 구축된 국가용 데이터 세트가 있고...우리가 반드시 갖춰야 할 모델, 특히 언어 모델에 대한 데이터 투명성을 추구한다면 긍정적인 결과를 얻을 가능성이 더 높다."

 

문화적 차이 탐색

분산형 AI에 대한 에마드의 견해를 더 잘 이해하려면 그의 MTP(대규모 변혁적 목적)를 염두에 두는 것이 도움이 된다. "나는 모든 어린이가 자신의 잠재력을 달성하고 이를 수행할 수 있는 도구를 제공하기를 바란다."

다음은 에마드가 AI에 대한 인식을 형성하는 데 있어 문화적 특성의 역할을 설명하는 방법이다.

"일본의 로봇 개념을 보면 로봇은 당신과 동등하고 조력자이다. 서양의 로봇 개념을 보면 터미네이터와 스카이넷이다… 문화적 규범이 매우 흥미로워지는 곳이다. 우리가 원하는 것은 무엇일까? 빌드? 우리는 AI 신을 만들고 싶은가, 아니면 우리를 돕고 우리가 그것을 돕는 AI 도우미를 만들고 싶은가?"

다양한 국가와 문화가 다가오는 AI 개발의 물결을 어떻게 헤쳐나갈 것인지를 고려하는 이 개념은 에마드가 Stability AI의 CEO직에서 물러난 지금 다음에 무엇을 할 계획인지와 직접적인 관련이 있다.

 

에마드의 다음 챕터...

에마드의 계획은 각 국가에 AI 챔피언을 배치하고 가장 똑똑한 사람들과 협력하여 이 변화의 시기를 안내함으로써 모든 국가가 다가오는 AI 물결을 헤쳐 나갈 수 있도록 돕는 것이다. 그는 또한 이러한 전환을 통해 의료, 금융 및 기타 산업을 지원하기 위해 모든 부문에 "생성 AI 우선 인프라 회사"가 있어야 한다고 믿는다.

이 모든 것을 조정하기 위해 에마드는 토큰이나 추측이 아니라 지능에 대한 표준을 만드는 Web3 유형 프로토콜을 구상한다. 그는 다음과 같이 설명한다.

 

"AI는 인프라이지만 마음의 로켓선이어야 한다. 나는 [세계에서 가장 똑똑한 사람들]이 올 수 있는 요리사와 요리사, 사상가와 행동가가 올 수 있는 조직을 만들고 싶다. 그리고 다음과 같이 생각한다. 금융의 미래는 무엇인가, 교육의 미래는 무엇인가?

의료를 위한 혁명적인 비전

에마드와 나는 생성 AI가 의료 산업에 미칠 수 있는 긍정적인 파괴와 효과에 대해 열정을 갖고 있다. 에마드의 비전은 다음과 같다:

"우리는 암을 위한 GPT-4를 구축할 것이다. 포괄적이고 권위 있는 최신 지식을 갖게 될 것이기 때문에 누구도 그 여정에서 혼자가 되어 해당 기관을 잃지 않을 것이다. AI 모델은 이미 인간 의사보다 성능이 뛰어나다. 그들은 더 이상 혼자가 아닐 것이다."

여기서 에마드가 제안하는 것은 매우 중요하다. 사랑하는 사람이 앓고 있는 암이나 기타 질병에 대한 정보를 찾기 위해 인터넷 검색을 떠나는 사람들이 너무 많다. 환자의 의료 데이터를 통합하고 공감적인 방식으로 맞춤화되고 정확한 조언을 제공하는 최첨단 정보를 갖춘 모델을 갖는 아이디어는 혁명적일 것이다.

그리고 "안정적인 건강"을 구축하거나 궁극적으로 무엇이라고 부르든 필요한 자본의 양은 모든 약물에 대한 단일 인간 실험에 지출되는 금액에 비해 아주 적다.

 

 

교육을 변화시키다

에마드는 또한 교육을 방해하는 것을 목표로 삼고 있다. 사실, 내가 그를 처음 만난 방법은 바로 이것이었다. 그는 일론 머스크와 토니 로빈스가 공동 자금을 지원한 글로벌 러닝 엑스프라이즈의 우승자 중 한 명이었다.

이제 대규모 언어 모델의 발전으로 에마드는 교육 분야에서 획기적인 변화가 시작되고 있다고 믿는다.

"내년에는 스마트폰이나 태블릿을 통해 우리나 다른 사람이 GPT-4 수준의 AI를 갖게 될 것이다. 아이를 가르치고 아이에게서 배우는 AI가 있다. 당신은 시각, 청각, 난독증이 있을까? 그게 최고이다. 국가적 모델을 위한 전 세계 데이터를 수집할 뿐만 아니라 이러한 모델에게 낙관적이고 격려적인 방법을 가르치는 것이다."

이것이 영 레이디스 일러스트레이티드 프라이머이다. 공상 과학 소설에 나오는 닐 스티븐슨의 비전이다. 그리고 에마드는 내가 아는 전 세계에서 이 비전을 위해 노력하는 유일한 사람이다.

그가 말한 방법은 다음과 같다:

"적시에 올바른 정보를 가져오고 항상 믿을 수 있다고 말하며 그들을 지지해주는 조력자가 있는 국가 전체의 어린이가 있다면 어떻게 될까? 당신은 무엇을 할 수 있을까?… 우리 모델의 코드베이스는 15년이 되었다. 그들은 단지 스스로 가르쳐서 마법사가 되었다. 이 새로운 시대에 당신은 모른다. 그리고 다시 말하지만, 일단 이 모델이나 이 시스템에 무언가가 들어가면… 해당 시스템을 사용하는 모든 사람에게 확산될 수 있다."

 

분산형 AI의 꿈: 우리의 시대는 지금이다

내가 에마드에 대해 좋아하는 것 중 하나는 분산형 AI를 위해 싸우려는 그의 열정과 헌신이다. 그리고 그가 설명했듯이 우리는 실제로 싸우고 있다.

"[중앙집중형 AI 회사]는 우리의 집단 지성을 가져오는 단일 시스템을 구축하고 있다. 이를 포장하여 우리에게 다시 판매하지만 그들은 신경 쓰지 않는다. 이러한 조직은 우리의 자유, 해방을 앗아갈 시스템을 구축하려고 한다. 그리고 잠재적으로 우리 모두를 죽일 수도 있다. 그것에 대해 상당히 공평하게 해야 한다. 직접적으로 말해야 한다."

에마드는 이 위협에 대응할 수 있는 유일한 방법은 분산된 집단 지능을 통해서라고 믿는다.

"내가 Stability에서 사임했을 때 중앙집중식 지능으로는 중앙집중식 지능을 이길 수 없다고 말했다. 그것을 이길 수 있는 유일한 방법은 인류를 대표하는 표준, 즉 분산 지능을 만드는 것이다. 집단 지능, 즉 어린이를 돕는 데이터 세트와 규범이다. 고통받는 사람들을 돕고, 우리의 도덕적인 태도를 반영하며, 이를 위해 최선을 다하는 우리를 모으는 것이다."

위험은 이보다 높을 수 없다. 에마드 다음과 같이 경고한다:

"AGI를 중앙 집중식으로 구축한다면 Windows 또는 Linux가 인프라로서 더 안전한가? 단일체는 미친 것 같다...천재는 정신적으로 안정적이지 않다. AGI가 왜 그렇게 기대하겠는가? 계란을 모두 투자하는 것이다. 하나의 바구니에 담는 것과 하이브 마인드인 복잡한 계층 시스템을 만드는 것이다. 그것이 우리 모두를 대표하는 지능이다. 우리는 그것을 구축하기 위해 노력해야 한다. 그것이 더 안전하고 더 좋기 때문이다."

궁극적으로 질문은 다음과 같다. 증폭된 인간 지능을 믿는가, 아니면 인공 일반 지능을 믿는가? 집단지성을 믿는가, 아니면 수집된 지능을 믿는가? AI 인프라인가 제품인가?

 

에마드가 말했듯이:

"지금이 바로 그때다. 마지막 기회다."

우리는 이것을 알아낼 시간이 많지 않다. 그러나 나는 에마드와 같은 열정적인 비전가들이 선두를 달리고 있기 때문에 우리가 인류를 축소하거나 파괴하는 것이 아니라 인류를 고양하고 힘을 실어주는 AI의 미래를 만들 수 있다고 낙관한다.

선택은 우리의 것이다.