컴퓨팅이 무제한이라면… 무한대로라면? 어떤 유형의 문제를 해결할 수 있을까? 무엇을 시뮬레이션, 모델링 및 계산할 수 있을까?
모든 의도와 목적을 위해 우리의 컴퓨팅은 그러한 용량에 접근하고 있다. 실제로 무어의 법칙(2년마다 컴퓨팅 용량이 두 배로 증가한다는 관찰)은 60년 넘게 깨지지 않고 계속되었다.
무어의 법칙은 계속해서 가속화되는 컴퓨팅의 많은 기하급수적 개선 사항 중 하나일 뿐이다.
또 다른 하나는 기하급수적인 개선 곡선을 따르는 양자 컴퓨팅 혁명이다. 사실, 양자 컴퓨팅은 향후 60년 동안 기하급수적으로 성장할 컴퓨팅의 중추가 될 수 있다.
이에 고급 계산의 최근 혁신과 앞으로의 가능성과 기회에 대해 논의하겠다.
무차별 대입의 아름다움: "무한 컴퓨팅"
2013년 8월, 소프트웨어 및 디자인 대기업 Autodesk의 당시 CEO였던 Carl Bass는 당시 새로 건설된 Pier 9 센터를 안내해 주었다. 이 센터는 샌프란시스코에 있으며 3D 프린팅 장비, 공작 기계, 디자인 스테이션 등이 있는 메이커의 천국이다.
이 센터는 "무한 컴퓨팅"에 의해 구동된다. 베이스라는 용어는 희소하고 값비싼 자원에서 풍부하고 무료인 자원으로 컴퓨팅이 진행되는 과정을 설명하는 데 사용된다.
60년 이상 동안 컴퓨팅 성능의 기하급수적인 성장은 쉬지 않고 계속되었다.
불과 3~40년 전만 해도 수천 개의 코어 프로세서에 액세스하려면 MIT 컴퓨터 과학부 의장이나 미국 국방부 장관이 되어야 했다.
오늘날 스마트폰의 평균 칩은 초당 수십억 개의 계산을 수행할 수 있다. 이러한 지속적인 발전은 컴퓨팅에 대한 우리의 오래된 생각이 얼마나 퇴보했는지를 분명히 한다.
Bass가 말했듯이 "역사적으로 우리는 컴퓨팅을 이 희소한 자원으로 생각했다. 오늘날에는 풍부하여 과잉 과잉의 새로운 시대를 향해 가고 있다."
컴퓨팅이 부족한 설계 방식에서 인간은 컴퓨팅을 사용하여 매우 구체적이고 제한된 시나리오를 계산했다. 이것은 계산 희소성으로 인해 우리의 생각이 제한되는 "상자 안에서" 효과적으로 생각하는 것이다.
"그러나 새로운 기하급수적 시대에 거의 무한한 컴퓨팅으로 구동되는 Bass는 이제 동일한 문제에 10,000개의 CPU를 동시에 적용하여 수천 개의 가능한 솔루션을 탐색하고 몇 초 만에 해결 및 최적화할 수 있다."고 설명한다.
그렇다면 이 모든 추가 컴퓨팅 성능으로 무엇을 얻을 수 있을까?
처음에는 혁신에 접근하는 완전히 새로운 방법이다. 그리고 인간을 능가하는 AI 모델을 훈련시키는 능력이다.
인피니트 컴퓨팅으로 AI 증폭
AI 분야가 지난 5년 동안 엄청난 발전을 이뤘다는 데는 의심의 여지가 없다.
딥마인드의 AlphaZero와 AlphaFold, OpenAI의 GPT-3의 놀라운 성과만 봐도 놀라운 일이 일어나고 있다는 것을 분명히 이해할 수 있다.
그렇다면, AI 분야가 처음 논의되었던 50년 전과 비교하여 현재 AI 분야에서 이처럼 놀라운 발전을 목격하고 있는 이유는 무엇일까?
한 가지 이유는 현재 사용 가능한 방대한 양의 데이터이다.
두 번째 이유는 현재 Google, IBM, Microsoft, Amazon, Facebook 및 OpenAI로 구동되는 클라우드에서 액세스할 수 있는 엄청난 양의 연산 능력이다. 이러한 AI 회사가 문제에 던질 수 있는 거의 무한에 가까운 컴퓨팅의 양은 어마어마하다.
예를 들어, GPT-3(현재까지 가장 크고 가장 발전된 언어 모델 중 하나)를 훈련하기 위해 OpenAI 팀은 3.14 X 10^23 부동 소수점 연산이 필요했다.
이것은 단일 NVIDIA Tesla V100 GPU에서 수행하는 데 대략 355년이 걸릴 것이다. 이는 코드를 생성하고, 스토리를 작성하고, 애니메이션을 적용하고, 심지어 크리켓 경기를 해설할 수 있는 AI를 훈련하는 데 필요한 컴퓨팅 수준이다.
Bass와 대화하는 동안 무차별 대입을 더 잘 설명하기 위해 그는 아들과 함께 만들고 있던 전기 카트에 대한 이야기를 나에게 말했다.
“가까운 장래에 무한 컴퓨팅을 사용하여 클라우드에 설계 시뮬레이션을 실행하도록 요청할 수 있다. 가능한 모든 모터 위치와 다양한 재료 및 두께를 실험하여 적절한 설계가 아니라 최상의 설계를 얻을 수 있다. "
이제 이것을 무한 컴퓨팅에 대해 훈련된 고급 AI 모델과 결합하라. 소프트웨어와 대화하기만 하면 실시간으로 디자인이 개발 및 최적화되는 Jarvis와 같은 소프트웨어를 상상할 수 있다.
미래에 Bass는 "Jarvis, 어린이용 크기의 전기 카트를 위한 최적의 디자인 3가지를 보여주세요"라고만 하면 될 것이다.
나머지는 GPT-3(그리고 궁극적으로는 GPT-4), 시뮬레이션 소프트웨어 및 무한 컴퓨팅에 의해 수행된다.
하지만 스스로 계산하는 방식이 근본적으로 바뀌면 어떻게 될까?
양자 컴퓨팅 입문
양자 컴퓨팅은 이 전체 패러다임을 터보 차지에 적용한다. 그것은 양자 세계의 고유한 속성을 사용하여 특정 유형의 계산 속도를 근본적으로 높인다.
양자 규모에서 입자는 종종 한 번에 두 가지 "상태"에 있을 수 있으며 그 사이의 어느 곳에서나 양자 중첩이라는 개념이 있을 수 있다.
결과적으로 이 사실을 활용하는 컴퓨터는 종종 기하급수적으로 빠른 방식으로 문제에 대한 솔루션의 공간을 탐색할 수 있다.
경로 최적화, 네트워크 분석, 분자 시뮬레이션, 그리고 물론 머신러닝 최적화와 같은 많은 종류의 문제는 양자 컴퓨팅으로 상당히 가속화될 수 있다.
예를 들어, 2019년 Google은 53큐비트 컴퓨터를 사용하여 가장 강력한 슈퍼컴퓨터가 해결하는 데 10,000년이 걸렸을 매우 좁은(고유한) 문제를 200초 만에 해결했다.
이것이 양자 계산의 힘이다.
그리고 최근의 발전은 양자 컴퓨팅을 첨단 연구실에서 소비자 연구실로 빠르게 밀어붙이고 있다. 예를 들어 Quantum Brilliance는 도시락 크기의 합성 다이아몬드 기반 실온 양자 컴퓨터를 개발하고 있다. (대부분의 양자 컴퓨터는 절대 0도에 가깝게 유지되어야 하며 서버 랙의 크기이다.)
양자 컴퓨팅의 지속적인 발전으로 정보 처리 능력이 폭발적으로 증가하는 것을 보게 될 것이다.
예를 들어, IBM은 2023년까지 Condor 프로세서로 1,121큐비트에 도달할 것으로 예상한다. 이는 오늘보다 17,000% 증가한 수치이다. IBM은 2023년을 양자 기술 상용화의 변곡점으로 보고 있다.
그리고 양자 컴퓨팅이 지난 10년 동안 개발된 무한 컴퓨팅 및 머신러닝 인프라와 결합되면 하늘은 진정으로 한계이다.
최종 생각: 우리의 풍부한 컴퓨팅 미래
무한 컴퓨팅은 기업가를 위한 끝없는 창의적 가능성을 열어준다. 계산 인프라를 처음부터 구축할 필요 없이 클라우드를 사용하여 직접 문제를 해결할 수 있다.
무한한 계산은 특히 중요한 문제 유형인 AI 훈련에서 이미 배당금을 지불했다. 그리고 이러한 AI는 이제 여러 영역에서 인간만큼 똑똑하다. 계산이 양자화되고 AI가 컴퓨터에 대한 새로운 인터페이스이며 계산이 끝이 없을 때 우리가 구축할 수 있는 세상을 상상해 보자.
무한 컴퓨팅은 오류 생성을 금하고 실험을 민주화한다. 더 이상 우리는 항상 발생하는 시간과 자원의 낭비 때문에 미친 아이디어를 즉시 무시할 필요가 없다. 곧 우리는 그것들을 모두 시도할 수 있을 것이다. 이것은 풍부한 계산의 세계이다.
우리가 지금까지 고급 계산을 통해 개발한 사항에 대해 흥분하는 기업가라면 이보다 더 좋은 기회가 없다.
