유명한 Stability AI CEO인 에마드 무스타크(Emad Mostaque)는 2024 풍요 서밋(Abundance Summit)에서 연설한 다음 날 CEO직에서 물러났다.

무슨 일일까? 그는 왜 떠나기로 결정했는가? 이것이 안정성과 더 광범위한 오픈 소스 AI 운동에 어떤 의미가 있을까?

이번 주에 나는 에마드와 함께 2시간 동안 자세한 문샷 팟캐스트를 녹음하여 이러한 질문에 답하고 분산화되고 민주화된 AI VS 폐쇄형 AI에 대한 그의 비전을 이해했다.

문샷 기업가를 위한 이 대화에는 중요한 교훈이 많이 있다.

에마드에 대한 두 부분으로 구성된 시리즈 중 첫 번째인 오늘의 블로그에서는 그가 Stability를 떠난 이유, 다른 기업가 및 리더를 위한 이 경험에서 얻은 교훈, 오픈 소스 및 분산형 AI에 대한 영향을 다루겠다.

 

에마드가 Stability AI를 떠난 이유

나는 에마드에게 다음과 같은 당연한 질문을 했다. 무슨 일이 일어났고 왜 그가 이제 Stability의 CEO 자리에서 물러나기로 결정했는가?

에마드는 다음과 같이 설명했다. “나는 특히 창작자, 개발자, 연구자 등을 고용하여 그들의 잠재력을 최대한 발휘하고 시스템을 설계하는 데 능숙하다. 하지만 HR, 운영, 비즈니스 개발 및 기타 요소를 다루어서는 안 된다. 그 일을 하는 데에는 나보다 더 나은 사람들이 훨씬 더 많다."

에마드는 CEO가 되는 것이 어떤 것인지에 대한 일론 머스크의 인용문을 설명했다. "심연을 응시하고 유리를 씹는 것." CEO로서 당신은 매우 불확실한 미래를 보고 결정을 내려야 하며, "씹는 유리"는 미지의 바다를 통해 배를 조종할 때 항상 당신에게 다가오는 모든 문제를 의미하기 때문이다.

나는 에마드에게 자신이 설립한 회사에서 물러나겠다는 중대한 결정을 내린 기분이 어떤지 물었다.

그는 안도감이 컸다고 말했다. "그것이 나를 묶고 있었다. 유산, 기술, 조직 및 기타 부채가 많이 있다. 특히 빠르게 성장할 때... 피곤하고 안도감을 느꼈다. 이제 그런 느낌이 들었다. 백만 가지 옵션이 있다.” (에마드가 떠난 후의 정확한 계획은 이 시리즈의 다음 블로그에서 다루겠다.)

에마드는 더 이상 CEO가 아니지만 현재 Stability의 대주주라는 점을 지적할 가치가 있다. 하지만 그는 회사에 새로운 자금이 들어오면 상황이 바뀔 것으로 예상한다.

Stability 팀에 대한 그의 조언은 AI 생성 미디어의 엄청난 기회에 초점을 맞추라는 것이었다. "나는 매우 기본적인 조언을 했다. 나는 많은 새로운 회사를 설립하고 창업자가 될 것이기 때문에 어떤 갈등도 원하지 않았다. 그리고 [Stability의] 주주…나는 Stability 팀에 미디어 [비즈니스 측면]에 집중하고 이를 추진할 것을 제안했다."

 

문샷 기업가 및 리더를 위한 강의

연쇄 창업가로서 나는 항상 다른 창업가의 경험에서 귀중한 통찰력과 교훈을 찾는다. Stability AI의 CEO로서 에마드의 여정은 특히 빠르게 변화하는 기하급수적 기술 세계에서 활동하는 우리들에게 몇 가지 강력한 시사점을 제공한다.

나에게 가장 큰 교훈은 자기 인식의 중요성과 자신의 고유한 장점을 활용하는 것이었다. 위에서 언급했듯이 에마드는 자신이 잘하는 것(연구, 전략, 창의적인 작업)과 자신이 못하는 것(운영, HR 등)에 대해 잔인할 정도로 솔직했다.

한발 물러나 자신의 기술을 보완하는 사람들을 데려와야 할 때를 아는 것은 회사의 성공과 리더로서의 자신의 행복에 매우 중요할 수 있다. 개인적으로 뼈저리게 배운 교훈이다!

에마드의 경험은 또한 기업가로서 우리가 믿을 수 없을 만큼 강력한 기술을 구축하면서 씨름해야 하는 엄청난 기회와 실존적 위험을 강조한다. 에마드가 말했듯이 "작은 창문이 있지만...이제 해야 한다."

우리는 우리의 기술이 무엇을 할 수 있는지뿐만 아니라 모든 사람을 위한 더 나은 미래를 만들기 위해 무엇을 해야 하는지 고려해야 할 책임이 있다. 그것이 바로 미래를 개척하는 창업자들에게 필요한 사고방식이자 절박함이다. 이러한 가치를 예시한 에마드에게 큰 존경심을 표한다.

 

 

더 나은 AI 거버넌스의 필요성

에마드는 개인적인 이유 외에도 소수의 사람들이 집중하고 있는 AI 거버넌스 및 통합과 관련된 광범위한 문제를 해결해야 하는 긴박성과 책임감을 느꼈기 때문에 사임했다.

그가 말했듯이: "지금 세상을 보면... OpenAI에 대한 거버넌스는 분명히 없다. 즉, 이사회에 있는 사람들을 크게 존중한다는 뜻이다. 훌륭한 개인이 있지만 이를 주도하는 기술을 관리해야 하는 사람은 누구일까? 인류를 가르치고 모든 어린이를 가르치고 우리 정부를 관리한다. 누가 이러한 모델을 구축하고 그러한 일을 할 수 있는지 실제로 주도하고 있을까?"

에마드는 고성능 AI 시스템이 몇몇 회사의 통제 하에 너무 통합되고 중앙 집중화되기 전에 적절한 거버넌스와 표준을 확립하는 데 1~2년 정도의 작은 시간이 있다고 믿는다. 그는 우리가 신속하게 행동하지 않으면 미래의 "1984년 파놉티콘" 시나리오에 대해 걱정하고 있다.

그는 이 디스토피아적 비전을 "시민 의회, 협의 민주주의, 의회에서 어떤 법안이라도 받아들여 완전히 해체하고 그 동기가 무엇인지 찾아내는 능력"이라는 보다 긍정적인 미래와 대조했다. 헌법에 위배되는 법률을 몇 초 만에 확인할 수 있다. 민주적 관점에서 볼 때 믿을 수 없을 정도로 강력한 권한을 부여하는 기술이다."

 

그러나 에마드는 AI가 각 개인을 대상으로 완벽하게 설득력 있고 감정적으로 조작적인 연설을 가능하게 한다면 우리가 알고 있는 민주주의를 종식시킬 가능성도 있다고 경고했다.

그는 다음과 같이 설명했다. "나는 누구의 연설을 받아들여 훨씬 더 설득력 있게 만들 수 있다. 내 목소리는 약간 우스꽝스러운 것 같다. 낑낑대는 소리를 없앨 수 있고, 매우 세련된 영국식 억양 등을 사용할 수 있다. 그렇지 않은가? ... 사람들은 이미 이 기술을 사용하고 있다...모든 사람은 사랑하는 사람과 함께 비밀번호를 가지고 있어야 한다. 사람들은 어머니로부터 '긴급 상황에 도움을 주세요. 지금 당장 돈을 보내주세요'라고 말하는 전화를 받고 있지만 알 수 없기 때문이다. 가짜다]. 감정의 끈을 잡아당긴다."

 

그렇다면 에마드가 말하는 "분산형 AI"는 정확히 무엇을 의미하며 이러한 위험을 어떻게 해결할 수 있을까? 그는 이를 세 가지 주요 구성 요소로 분류했다.

#1. 접근성: 누구나 AI 기술에 접근할 수 있어야 한다.

#2. 거버넌스: AI 시스템을 훈련하는 데이터에 대해 소수 기업의 중앙 집중식 제어가 아닌 분산되고 민주적인 거버넌스가 필요하다.

#3. 모듈형 인프라: AI 시스템은 모놀리식 중앙 집중식 시스템이 아닌 사람들이 구축할 수 있는 모듈식 방식으로 구축되어야 한다.

에마드는 미래의 "지능형 인터넷"을 구상한다. AI는 "각 사람, 국가 및 회사가 고유한 AI 모델을 갖고 서로 상호 작용하는 글로벌 및 국가 인프라(예: 도로, 전력망, 학교)의 한 부분이다. 인류를 위한 최적의 방법으로 다른 것이다."

그는 AI의 지속적인 기하급수적 발전이 실제로 이러한 분산형 미래를 가능하게 하는 데 도움이 될 것이라고 믿는다. 이전에는 대규모 중앙 집중식 컴퓨팅이 필요했던 모델이 곧 소비자 기기에서 실행될 수 있게 될 것이다.

에마드는 다음과 같이 설명했다. "우리는 소비자 그래픽 카드에서 초당 300개 이미지의 Stable Diffusion을 볼 수 있다. 우리의 비디오 모델은 5GB 정도였다. Web 2에서는 모든 인텔리전스가 이러한 거대한 서버와 빅 데이터에 중앙 집중화되었기 때문에 이것은 방정식을 실제로 변화시킨다. 이제 대형 슈퍼컴퓨터가 있어 각 국가에 맞게 맞춤화할 수 있는 졸업생을 훈련할 수 있다."

 

에마드의 MTP: 긴급한 기회

에마드가 Stability를 떠나기로 결정한 것은 AI 거버넌스 및 통합에 대한 심각한 우려 때문이었지만 CEO직에서 물러나는 것이 훨씬 더 긍정적인 영향을 미칠 수 있는 기회라고 생각한다. 그는 다음과 같이 신랄하게 말했다.

"나의 MTP(대규모 변혁적 목적)는 모든 어린이가 자신의 잠재력을 실현하고 이를 수행할 수 있는 도구를 제공하는 것이다."

AI는 향후 몇 년 내에 지구상의 모든 사람이 고품질의 의료 및 교육에 접근할 수 있도록 할 수 있는 능력을 제공한다. 에마드의 견해에 따르면 우리는 이를 가능한 한 빨리 수행해야 하는 도덕적 의무가 있으며, 이것이 바로 그가 Stability를 떠나 더 큰 그림에 집중해야 한다고 긴급함을 느낀 이유이다.

"우리는 말 그대로 몇 년 안에 모든 어린이가 우수한 교육을 받을 수 있게 해주는 기술을 보유하고 있다. 마침내 구현된 기술은 충분히 훌륭하고 빠르며 저렴하다."

 

나는 에마드가 이 임무, 즉 MTP에 끊임없이 집중하는 모습을 사랑하고 존경한다. 그는 AI가 인류를 향상시키는 놀라운 미래를 가져오는 데 도움이 되는 재능과 추진력을 가진 보기 드문 개인 중 한 명이다. 그가 다음에 무엇을 할지 정말 기대된다.

다음 블로그에서 우리는 디지털 슈퍼 인텔리전스에 대한 에마드의 생각을 살펴보고 Stability에서 물러난 이후 그의 구체적인 계획에 대한 정보를 얻을 것이다. 계속 지켜봐 주시기 바란다.

*추신 나는 최근 ′′목적 자금 조달Fund Your Purpose′′이라는 자금 모금에 대한 첫 번째 (그리고 유일한) 프로그램을 시작했다. 수년에 걸쳐 나는 20개가 넘는 회사, 2개의 대학, 20개가 넘는 XPRIZE를 시작하기 위해 총 수십억 달러의 자금을 모금했다. 이 프로그램에서 나는 내가 사용한 전략과 비밀을 공유한다. 나의 목표는 귀하가 목적 중심 벤처를 찾고 자금을 조달하도록 돕는 것이다. 즐기면 된다!