양성 디지털 초지능이 가능할까? 우리보다 똑똑하고 궁극적으로는 훨씬 더 똑똑한 AI를 계속 개발하면서 긍정적인 결과를 보장하기 위해 무엇을 할 수 있습니까 ?

최근 Stability AI의 CEO 자리에서 물러난 Emad Mostaque와 함께한 최근 Moonshots 팟캐스트를 기반으로 한 이 두 번째 블로그에서는 이러한 질문에 대한 그의 답변을 공유하겠습니다. 또한 그가 다음에 무엇을 할 계획인지, AI를 통해 의료 및 교육을 혁신하려는 그의 비전, 개방적이고 분산된 AI를 위한 싸움이 왜 그토록 중요하고 시급한지에 대해서도 논의하겠습니다.

뛰어들자…

 

디지털 초지능의 가능성과 위험

불과 몇 주 전 Emad와 제가 Abundance Summit 무대에 올랐을 때 우리는 디지털 초지능의 가능성, 즉 인간보다 10억 배 더 뛰어난 AI를 갖게 될 미래에 대해 이야기했습니다. 뉴런의 비율로 보면 햄스터와 인간의 비율이 나옵니다. 

Emad는 언젠가 우리가 인류를 지원하는 온화한 초지능을 가질 수 있다고 믿습니까?

"그렇습니다. 그리고 저는 이것이 수집된 지능과 하향식으로 우리를 효과적으로 제어하도록 설계된 AGI가  아니라 증폭된 인간 지능으로 구성된 집단 지능이어야 한다고 믿습니다 ."

그는 이렇게 설명합니다. "AGI로 가는 길에 대한 OpenAI의 성명을 보면 그들은 이 기술이 민주주의와 자본주의를 종식시키고 어쩌면 우리 모두를 죽일 것이라고 말합니다. 나는 그것이 마음에 들지 않습니다."

대신 Emad는 AI가 배포되고 지역 문화를 반영하는 미래를 구상합니다.

"국가의 역량 강화를 기반으로 구축된 국가용 데이터 세트가 있고...우리가 반드시 갖춰야 할 모델, 특히 언어 모델에 대한 데이터 투명성을 추구한다면 긍정적인 결과를 얻을 가능성이 더 높습니다. "

 

문화적 차이 탐색

분산형 AI에 대한 Emad의 견해를 더 잘 이해하려면 그의 MTP(대규모 변혁적 목적)를 염두에 두는 것이 도움이 됩니다. "나는 모든 어린이가 자신의 잠재력을 달성하고 이를 수행할 수 있는 도구를 제공하기를 바랍니다." 

다음은 Emad가 AI에 대한 인식을 형성하는 데 있어 문화적 특성의 역할을 설명하는 방법입니다.

"일본의 로봇 개념을 보면 로봇은 당신과 동등하고 조력자입니다. 서양의 로봇 개념을 보면 터미네이터와 스카이넷입니다… 문화적 규범이 매우 흥미로워지는 곳입니다. 우리가 원하는 것은 무엇입니까? 빌드? 우리는 AI 신을 만들고 싶은가, 아니면 우리를 돕고 우리가 그것을 돕는 AI 도우미를 만들고 싶은가?"

다양한 국가와 문화가 다가오는 AI 개발의 물결을 어떻게 헤쳐나갈 것인지를 고려하는 이 개념은 Emad가 Stability AI의 CEO직에서 물러난 지금 다음에 무엇을 할 계획인지와 직접적인 관련이 있습니다.

 

에마드의 다음 장...

Emad의 계획은 각 국가에 AI 챔피언을 배치하고 가장 똑똑한 사람들과 협력하여 이 변화의 시기를 안내함으로써 모든 국가가 다가오는 AI 물결을 헤쳐 나갈 수 있도록 돕는 것입니다. 그는 또한 이러한 전환을 통해 의료, 금융 및 기타 산업을 지원하기 위해 모든 부문에 "생성 AI 우선 인프라 회사"가 있어야 한다고 믿습니다.

이 모든 것을 조정하기 위해 Emad는 토큰이나 추측이 아니라 지능에 대한 표준을 만드는 Web3 유형 프로토콜을 구상합니다. 그는 다음과 같이 설명합니다.

"AI는 인프라이지만 마음의 로켓선이어야 합니다. 저는 [세계에서 가장 똑똑한 사람들]이 올 수 있는 요리사와 요리사, 사상가와 행동가가 올 수 있는 조직을 만들고 싶습니다. 그리고 다음과 같이 생각합니다. 금융의 미래는 무엇인가, 교육의 미래는 무엇인가?

의료를 위한 혁명적인 비전

Emad와 저는 생성 AI가 의료 산업에 미칠 수 있는 긍정적인 파괴와 효과에 대해 열정을 갖고 있습니다. Emad의 비전은 다음과 같습니다.

"우리는 암을 위한 GPT-4를 구축할 것입니다. 포괄적이고 권위 있는 최신 지식을 갖게 될 것이기 때문에 누구도 그 여정에서 혼자가 되어 해당 기관을 잃지 않을 것입니다. AI 모델은 이미 인간 의사보다 성능이 뛰어납니다. 그들은 더 이상 혼자가 아닐 것입니다."

여기서 Emad가 제안하는 것은 매우 중요합니다. 사랑하는 사람이 앓고 있는 암이나 기타 질병에 대한 정보를 찾기 위해 인터넷 검색을 떠나는 사람들이 너무 많습니다. 환자의 의료 데이터를 통합하고 공감적인 방식으로 맞춤화되고 정확한 조언을 제공하는 최첨단 정보를 갖춘 모델을 갖는 아이디어는 혁명적일 것입니다.

그리고 "안정적인 건강"을 구축하거나 궁극적으로 무엇이라고 부르든 필요한 자본의 양은 모든 약물에 대한 단일 인간 실험에 지출되는 금액에 비해 아주 적습니다.

교육을 변화시키다

Emad는 또한 교육을 방해하는 것을 목표로 삼고 있습니다. 사실, 제가 그를 처음 만난 방법은 바로 이것이었습니다. 그는 Elon Musk와 Tony Robbins가 공동 자금을 지원한 Global Learning XPRIZE의 우승자 중 한 명이었습니다.

이제 대규모 언어 모델의 발전으로 Emad는 교육 분야에서 획기적인 변화가 시작되고 있다고 믿습니다.

"내년에는 스마트폰이나 태블릿을 통해 우리나 다른 사람이 GPT-4 수준의 AI를 갖게 될 것입니다. 아이를 가르치고 아이에게서 배우는 AI가 있습니다. 당신은 시각, 청각, 난독증이 있습니까? 그게 최고입니다. 국가적 모델을 위한 전 세계 데이터를 수집할 뿐만 아니라 이러한 모델에게 낙관적이고 격려적인 방법을 가르치는 것입니다."

이것이 바로 Young Lady's Illustrated Primer 입니다 . 공상 과학 소설에 나오는 Neil Stephenson의 비전입니다. 그리고 Emad는 제가 아는 전 세계에서 이 비전을 위해 노력하는 유일한 사람입니다.

그가 말한 방법은 다음과 같습니다.

"적시에 올바른 정보를 가져오고 항상 믿을 수 있다고 말하며 그들을 지지해주는 조력자가 있는 국가 전체의 어린이가 있다면 어떻게 될까요? 당신은 무엇을 할 수 있습니까?… 우리 모델의 코드베이스는 15년이 되었습니다. 그들은 단지 스스로 가르쳐서 마법사가 되었습니다. 이 새로운 시대에 당신은 모릅니다. 그리고 다시 말하지만, 일단 이 모델이나 이 시스템에 무언가가 들어가면… 해당 시스템을 사용하는 모든 사람에게 확산될 수 있습니다."

 

분산형 AI의 꿈: 우리의 시대는 지금이다

제가 Emad에 대해 좋아하는 것 중 하나는 분산형 AI를 위해 싸우려는 그의 열정과 헌신입니다. 그리고 그가 설명했듯이 우리는 실제로 싸우고 있습니다.

"[중앙집중형 AI 회사]는 우리의 집단 지성을 가져오는 단일 시스템을 구축하고 있습니다. 이를 포장하여 우리에게 다시 판매하지만 그들은 신경 쓰지 않습니다. 이러한 조직은 우리의 자유, 해방을 앗아갈 시스템을 구축하려고 합니다. , 그리고 잠재적으로 우리 모두를 죽일 수도 있습니다. 그것에 대해 상당히 공평하게 합시다. 직접적으로 말합시다."

Emad는 이 위협에 대응할 수 있는 유일한 방법은 분산된 집단 지능을 통해서라고 믿습니다.

"내가 Stability에서 사임했을 때 중앙 집중식 지능으로는 중앙 집중식 지능을 이길 수 없다고 말했습니다. 그것을 이길 수 있는 유일한 방법은 인류를 대표하는 표준, 즉 분산 지능을 만드는 것입니다. 집단 지능, 즉 어린이를 돕는 데이터 세트와 규범입니다. 고통받는 사람들을 돕고, 우리의 도덕적인 태도를 반영하며, 이를 위해 최선을 다하는 우리를 모으는 것입니다."

위험은 이보다 높을 수 없습니다. Emad는 다음과 같이 경고합니다.

"AGI를 중앙 집중식으로 구축한다면 Windows 또는 Linux가 인프라로서 더 안전한가요? 단일체는 미친 것 같습니다...천재는 정신적으로 안정적이지 않습니다. AGI가 왜 그렇게 기대하겠습니까? 계란을 모두 투자하는 것입니다. 하나의 바구니에 담는 것과 하이브 마인드인 복잡한 계층 시스템을 만드는 것입니다. 그것이 우리 모두를 대표하는 지능입니다. 우리는 그것을 구축하기 위해 노력해야 합니다. 그것이 더 안전하고 더 좋기 때문입니다."

궁극적으로 질문은 다음과 같습니다. 증폭된 인간 지능을 믿습니까, 아니면 인공 일반 지능을 믿습니까? 집단지성을 믿나요, 아니면 수집된 지능을 믿나요? AI 인프라인가 제품인가?

Emad가 말했듯이:

"지금이 바로 그때다. 마지막 기회다."

우리는 이것을 알아낼 시간이 많지 않습니다. 그러나 저는 Emad와 같은 열정적인 비전가들이 선두를 달리고 있기 때문에 우리가 인류를 축소하거나 파괴하는 것이 아니라 인류를 고양하고 힘을 실어주는 AI의 미래를 만들 수 있다고 낙관합니다.

선택은 우리의 것입니다. 계산해 봅시다.