AI 시스템이 '일반 지능' 테스트에서 인간 수준에 도달했다.

 

새로운 인공지능(AI) 모델이 "일반 지능"을 측정하도록 설계된 테스트에서 인간 수준의 결과를 달성했다.

12월 20일, OpenAI의 o3 시스템은 ARC-AGI 벤치마크에서 85%의 점수를 받았으며, 이는 이전 AI 최고 점수인 55%를 훨씬 상회하고 평균 인간 점수와 동일했다. 또한 매우 어려운 수학 테스트에서도 좋은 점수를 받았다.

 

인공 일반 지능(AGI)을 만드는 것은 모든 주요 AI 연구실의 공표된 목표이다. 언뜻 보기에 OpenAI는 적어도 이 목표를 향해 상당한 진전을 이룬 것처럼 보인다.

회의적인 시각은 여전하지만 많은 AI 연구자와 개발자는 무언가가 바뀌었다고 느낀다. 많은 사람들에게 AGI의 전망은 예상보다 더 현실적이고 시급하며 더 가까워 보인다. 그들이 옳을까?

더 나은 결정을 내리시길 바란다. 전문가들의 생각을 알아본다.

 

일반화와 지능

o3 결과가 무엇을 의미하는지 이해하려면 ARC-AGI 테스트가 무엇인지 이해해야 한다. 기술적으로 말하면, AI 시스템이 새로운 것에 적응하는 데 있어 "샘플 효율성"을 테스트하는 것이다. 즉, 시스템이 어떻게 작동하는지 알아내기 위해 얼마나 많은 새로운 상황의 예를 보아야 하는지를 테스트하는 것이다.

 

ChatGPT(GPT-4)와 같은 AI 시스템은 샘플 효율성이 높지 않다. 수백만 개의 인간 텍스트 예제를 "훈련"하여 어떤 단어 조합이 가장 가능성이 높은지에 대한 확률적 "규칙"을 구성했다.

그 결과는 일반적인 작업에서는 꽤 좋다. 일반적이지 않은 작업에서는 나쁘다. 해당 작업에 대한 데이터(샘플 수)가 적기 때문이다.

ChatGPT와 같은 AI 시스템은 일반적인 작업에는 잘 작동하지만 새로운 상황에 적응하는 데 어려움을 겪는다. Bianca De Marchi / AAP

 

AI 시스템이 소수의 예제에서 학습하고 더 많은 샘플 효율성으로 적응할 수 있을 때까지는 매우 반복적인 작업과 가끔 실패가 용납되는 작업에만 사용된다.

제한된 데이터 샘플에서 이전에 알려지지 않았거나 새로운 문제를 정확하게 해결하는 능력을 일반화 능력이라고 한다. 이는 널리 지능의 필수적이고 근본적인 요소로 간주된다.

 

그리드와 패턴

ARC-AGI 벤치마크는 아래와 같은 작은 그리드 정사각형 문제를 사용하여 샘플 효율적 적응을 테스트한다. AI는 왼쪽 그리드를 오른쪽 그리드로 바꾸는 패턴을 파악해야 한다.

ARC-AGI 벤치마크 테스트의 예제 작업. ARC Prize

 

각 질문에는 학습할 수 있는 세 가지 예가 있다. 그런 다음 AI 시스템은 세 가지 예에서 네 번째 예까지 "일반화"하는 규칙을 파악해야 한다.

이는 학교에서 가끔 기억할 수 있는 IQ 테스트와 매우 유사하다.

 

약한 규칙과 적응

OpenAI가 정확히 어떻게 했는지는 알 수 없지만, 결과는 o3 모델이 매우 적응력이 있음을 시사한다. 몇 가지 예만으로도 일반화할 수 있는 규칙을 찾는다.

패턴을 파악하려면 불필요한 가정을 하거나 실제로 필요한 것보다 더 구체적으로 설명해서는 안 된다. 이론적으로 원하는 작업을 수행하는 "가장 약한" 규칙을 식별할 수 있다면 새로운 상황에 적응하는 능력을 극대화한 것이다.

 

가장 약한 규칙이란 무엇을 의미할까? 기술적 정의는 복잡하지만 약한 규칙은 일반적으로 더 간단한 문장으로 설명할 수 있는 규칙이다.

위의 예에서 규칙의 일반 영어 표현은 다음과 같을 수 있다. "돌출된 선이 있는 모든 모양은 해당 선의 끝으로 이동하여 겹치는 다른 모양을 '덮는다'."

 

생각의 사슬을 검색하는 것?

OpenAI가 어떻게 이 결과를 얻었는지는 아직 알 수 없지만, 약한 규칙을 찾기 위해 o3 시스템을 의도적으로 최적화했을 가능성은 낮아 보인다. 그러나 ARC-AGI 작업에서 성공하려면 약한 규칙을 찾아야 한다.

 

OpenAI가 o3 모델의 범용 버전(대부분 다른 모델과 다름, 어려운 질문에 대해 더 많은 시간을 "생각"하는 데 사용할 수 있기 때문)으로 시작하여 ARC-AGI 테스트를 위해 특별히 훈련했다는 것은 알고 있다.

 

벤치마크를 설계한 프랑스 AI 연구원 프랑수아 콜레는 o3가 작업을 해결하는 단계를 설명하는 다양한 "생각의 사슬"을 검색한다고 생각한다. 그런 다음 느슨하게 정의된 규칙 또는 "휴리스틱"에 따라 "최상의" 것을 선택한다.

이는 Google의 AlphaGo 시스템이 세계 바둑 챔피언을 이기기 위해 다양한 가능한 움직임 순서를 검색한 방식과 "비슷하지 않다."

2016년 알파고 AI 시스템은 세계 바둑 챔피언 이세돌을 물리쳤다. 이진만 / AP

 

이러한 생각의 사슬을 사례에 맞는 프로그램으로 생각할 수 있다. 물론, 바둑을 두는 AI와 같다면 어떤 프로그램이 가장 좋은지 결정하기 위한 휴리스틱 또는 느슨한 규칙이 필요하다.

수천 개의 서로 다른 겉보기에 동등하게 유효한 프로그램이 생성될 수 있다. 그 휴리스틱은 "가장 약한 것을 선택" 또는 "가장 간단한 것을 선택"일 수 있다.

 

그러나 AlphaGo와 같다면 단순히 AI가 휴리스틱을 만들게 했다. 이것이 AlphaGo의 프로세스였다. Google은 다른 움직임 시퀀스를 다른 것보다 더 좋거나 나쁘게 평가하도록 모델을 훈련했다.

 

아직 모르는 것

그렇다면 질문은 이것이 정말 AGI에 더 가까운가이다. o3가 그렇게 작동한다면 기본 모델은 이전 모델보다 훨씬 나을 수 없다.

모델이 언어에서 학습하는 개념은 이전보다 일반화에 더 적합하지 않을 수 있다. 대신 이 테스트에 특화된 휴리스틱을 훈련하는 추가 단계를 통해 발견된 보다 일반화 가능한 "생각의 사슬"을 보고 있을 수 있다. 증거는 언제나 그렇듯이 푸딩에 있을 것이다.

 

o3에 대한 거의 모든 것은 알려지지 않았다. OpenAI는 소수의 미디어 프레젠테이션과 소수의 연구자, 실험실 및 AI 안전 기관에 대한 초기 테스트에 제한적으로 공개했다.

o3의 잠재력을 진정으로 이해하려면 평가, 용량 분포 이해, 실패 빈도 및 성공 빈도를 포함한 광범위한 작업이 필요하다.

 

o3가 마침내 출시되면 평균적인 인간과 거의 비슷한 적응력을 가지고 있는지에 대한 훨씬 더 나은 아이디어를 얻을 수 있을 것이다.

그렇다면 거대하고 혁명적인 경제적 영향을 미쳐 자체 개선 가속 지능의 새로운 시대를 열 수 있다. AGI 자체에 대한 새로운 벤치마크와 이를 어떻게 관리해야 하는지에 대한 심각한 고려가 필요할 것이다.

그렇지 않더라도 여전히 인상적인 결과가 될 것이다. 그러나 일상 생활은 크게 달라지지 않을 것이다.

 

AGI가 환상이라고 말하는 과학자들도 있다

아직 동료 심사를 거치지 않은 새로운 논문에서 스탠포드 과학자 팀은 우리가 보고 있는 AGI(Artificial General Intelligence, 인공일반지능)의 희미한 빛은 모두 환상일 뿐이라고 주장한다.

전반적으로 AI 기업들은 각각의 대규모 언어 모델 기반 AI와 그들의 "창발적" 행동에 대해 큰 주장을 하거나 AGI의 초기 징후를 보이고 있다.

올해 초 마이크로소프트 연구팀은 GPT-4의 초기 버전이 AGI의 시작이라고 주장했다. 그러자 구글의 한 임원은 자사의 바드(Bard) 챗봇이 필요한 교육을 받지 않고 벵골어 번역을 마법처럼 배웠다고 주장했다.

하지만 우리는 정말로 기계가 지적 수준에서 우리와 경쟁할 수 있는 지점에 접근하고 있는 것일까? 그들의 새로운 논문에서, 스탠포드 연구자들은 LLM의 겉으로 보기에 창발적인 능력은 본질적으로 결함이 있는 지표에서 비롯된 "신기루"일 수 있다고 주장한다.

그들이 새로운 논문에서 주장하듯이, 창발적 행동을 보고 있다고 주장하는 사람들은 일반적으로 단순히 크기 때문에 더 많은 기능을 가진 큰 모델을 본질적으로 능력이 떨어지는 더 작은 모델과 일관되게 비교하고 있다.

그들은 또한 출현을 측정하기 위해 매우 구체적인 지표를 사용하고 있다고 연구자들은 주장한다. 그러나 더 많은 데이터와 덜 구체적인 지표가 등장하면 예측할 수 없어 보이는 이러한 속성이 상당히 예측 가능해지고, 따라서 그들의 엉뚱한 주장을 효과적으로 무효화할 수 있다.

연구진은 "창발적 능력에 대한 기존의 주장은 연구자의 분석의 산물이며, 규모가 있는 특정 작업에 대한 모델 행동의 근본적인 변화가 아니다"라고 주장한다. 즉, 예측할 수 없는 메트릭을 사용하면 예측할 수 없는 결과를 얻을 수 있다.

AGI의 출현을 선언하는 데 사용된 일부 지표가 얼마나 의심스러운지를 설명하기 위해 스탠포드 연구진은 유용한 야구 비유를 사용했다.

"야구공을 일정 거리에서 칠 수 있는 능력에 따라 야구 선수를 평가한다고 상상해 보라"고 그 신문은 기술한다. "각 선수에 대해 '평균 거리'와 같은 지표를 사용하면 선수의 점수 분포가 매끄럽고 연속적으로 보일 수 있습니다. 그러나 '선수의 평균 거리가 325피트를 초과하는지 여부'와 같은 불연속적인 지표를 선택하면 많은 선수가 0점을 득점하고 최고의 선수만 1점을 득점할 것입니다."

연구진은 "두 지표 모두 유효하지만, 후자의 지표가 불연속적인 결과를 낳을 때 놀라지 않는 것이 중요하다"고 덧붙였다. 이러한 현상은 적어도 부분적으로는 일부 AI 과학자들이 기계에서 보고 싶은 것을 보는 데 기인한다고 말하는 것이 타당할 것이다. 어쨌든, 당신의 기술이 창발적 속성을 개발했을 수 있다는 생각은 매혹적인 것이다.

그러나 이를 위해 이러한 창발적 속성은 존재 여부와 관계없이 단순히 흥미로운 것 이상이며, 몇 가지 걱정스러운 결과를 수반하기도 한다. 기계가 단 하나의 창발적 속성이라도 보여주면, 그것은 우리가 공식적으로 통제력을 잃었다는 것을 의미하는가?

그리고 이 모든 것, 흥분과 두려움 모두는 의심할 여지 없이 기술을 둘러싼 돈을 모으기 위한 과대 광고에 영향을 미친다 - 이는 출현을 주장하는 방식으로 AGI의 불꽃을 주장하는 것이 마케팅 목적으로 정확히 나쁘지 않다는 것을 의미한다.

AGI라는 용어는 최근 몇 달 동안 그렇게 함으로써 재정적으로 많은 이익을 얻을 수 있는 사람들을 포함하여 많이 던져졌다.

예를 들어, 오픈AI의 CEO인 샘 알트만(Sam Altman)은 이 주제에 대해 길게 이야기했지만, 이 용어를 "공상 과학 마케팅 전략"으로 변형한 것에 대해 업계의 다른 사람들로부터 비판을 받았다.

요컨대, 우리가 "AGI의 희미한 빛"을 보고 있다고 주장하는 것은 잠재적으로 OpenAI의 AGI 내러티브에 영향을 미쳐 수익을 극대화하려는 그들의 노력을 강화하고 있다. (Futurism)

 

AGI의 통제 딜레마: 블록체인이 민주적 솔루션을 제공한다.

 

개인이든 조직이든 단일 개체가 인간의 능력을 능가하는 지능을 가진 인공 일반 지능(AGI) 시스템을 소유하고 제어하는 ​​세상에 살고 있다고 상상해 보라. 글로벌 웰빙보다 이익과 통제를 우선시함으로써, 특히 그러한 기술에 대한 이런 종류의 권력 집중은 투명성이나 책임이 거의 없이 작동할 수 있다. 이 시나리오는 윤리적 딜레마, 착취, 그리고 해를 완화하기 위한 견제와 균형 없이 사회에 광범위하고 해로운 영향을 미칠 수 있는 개체로 이어질 수 있다.

 

이제 대안을 상상해 보자. AGI가 분산되고 완전한 투명성을 갖춘 협업으로 개발되는 세상에 살고 있다고 가정해 보겠다. 이 분산 모델에서 AGI는 다양한 관점에 의해 형성되어 편견을 줄이고 윤리적 결과를 촉진한다. AGI의 이점에 대한 접근은 민주화되고 AGI의 이점은 글로벌 커뮤니티와 모든 지각적 존재가 접근할 수 있다.

 

두 시나리오 중 어느 것이 인류에게 더 나은 결과를 가져올까?

 

AGI의 분산화에 대한 필수성

AGI의 분산화에 대한 필수성을 이해하려면 엄청난 잠재력과 그에 따른 상당한 위험을 모두 인식해야 한다. AGI는 일반적으로 범위가 좁고 특정 작업을 위해 설계된 현재의 AI 시스템에서 크게 도약한 것이다. 대신 AGI는 인간 지능의 전체 스펙트럼을 복제하여 기계가 인간이 할 수 있는 모든 지적 작업을 수행할 수 있도록 하는 것을 목표로 한다.

 

당연히 이러한 기능은 산업에 혁명을 일으키고 복잡한 세계적 과제를 해결하며 삶의 질을 향상시킬 수 있다. 그러나 이러한 중앙집중화는 권력의 독점으로 이어져 기업이나 정부 내에 엄청난 영향력을 집중시키고 불균형과 잠재적 남용을 초래할 수 있다. 또한 다양한 입력 없이 개발된 AGI는 제작자의 편견을 물려받아 비윤리적인 결과를 초래할 수 있으므로 윤리 및 편견에 대한 우려가 있다.

 

이러한 위험을 완화하기 위해 AGI 개발에 대한 분산화 된 접근 방식을 육성하는 것이 현재 인류에게 가장 중요한 과제 중 하나일 수 있다.

분산형 프레임워크는 AGI 개발의 투명성을 보장하며, 개방된 프로세스를 통해 AGI 시스템이 작동하는 방식을 면밀히 조사하고 이해할 수 있도록 한다. 또한, 다양한 참여를 장려하여 단일한 관점이나 이해관계가 지배하는 것을 방지함으로써 포용성을 보장하며, 집단적 감독과 윤리적 일치를 가능하게 하는 분산된 거버넌스 메커니즘을 통해 책임을 질 수 있도록 한다.

 

AGI 분산화에서 블록체인의 역할

블록체인기술은 AGI를 분산화하는 잠재적 솔루션으로 부상하여 개발 및 배포가 투명하고 민주적이며 더 큰 이익에 부합하도록 보장한다.

블록체인의 거버넌스 기능을 활용함으로써 민주적 의사 결정을 AGI의 개발 및 배포에 직접 포함시켜 글로벌 커뮤니티의 가치와 윤리에 부합하는 공유 리소스로 유지되도록 할 수 있다. 이를 통해 AGI의 힘을 분산하여 혁신이 번창하고 혜택이 전 세계적으로 공유되는 생태계를 육성할 수 있다.

다음은 이 분산 프레임워크의 초석으로 블록체인을 사용하는 데 따른 잠재적 이점 중 몇 가지이다:

 

▷분산형 거버넌스

블록체인은 합의 메커니즘과 투표 프로토콜을 통해 분산형 거버넌스를 용이하게 한다. 이해 관계자는 AGI 기술의 개발 및 배포와 관련된 의사 결정 프로세스에 참여할 수 있다. 이러한 집단적 거버넌스는 AGI가 공유된 윤리적 기준과 사회적 가치에 부합하도록 보장하여 단일 기관의 일방적 통제를 방지한다.

 

잊지 말아야 할 점은 분산화가 진입 장벽을 낮추어 전 세계의 개인과 조직이 AGI에 기여하고 혜택을 누릴 수 있도록 한다는 것이다. 이러한 민주화는 글로벌 인재와 아이디어 풀을 활용하여 혁신을 촉진한다. 또한 AGI의 이점이 부유한 국가나 기업에 국한되지 않고 모든 사람이 이용할 수 있도록 보장한다.

 

궁극적으로 다양한 관점을 AGI 개발 프로세스에 통합함으로써 AI 시스템 내에 편견과 비윤리적 관행이 내재화될 위험을 줄인다. 분산형 거버넌스는 광범위한 합의를 반영하는 윤리적 지침을 수립하여 AGI 기술이 책임감 있게 개발되도록 보장한다.

 

▷분산 컴퓨팅 파워

AGI 개발에는 방대한 데이터 세트를 처리하고 복잡한 알고리즘을 실행하기 위해 엄청난 컴퓨팅 리소스가 필요하다. 블록체인 네트워크는 전 세계적으로 분산된 노드의 집합적 컴퓨팅 파워를 활용할 수 있다. 토큰 보상을 통해 참여자에게 컴퓨팅 리소스를 기여하도록 인센티브를 제공함으로써 블록체인은 AGI 개발을 위한 확장 가능하고 비용 효율적인 인프라를 만든다. 이를 통해 컴퓨팅 파워에 대한 액세스가 민주화되어 소수의 엔터티가 소유한 중앙집중식 데이터 센터에 대한 의존도가 줄어든다.

 

▷안전하고 투명한 데이터 공유

데이터는 AGI의 생명선이다. 블록체인은 참여자 간에 안전하고 투명하며 변조 불가능한 데이터 공유를 가능하게 한다. 개인과 조직은 정보에 대한 소유권과 제어를 유지하면서 AGI 네트워크에 데이터를 기여할 수 있다. 이를 통해 개인 정보를 침해하지 않고도 고품질의 다양한 데이터 세트를 AGI 훈련에 풀링할 수 있는 협업 환경이 조성된다.

 

블록체인의 투명한 원장은 AGI 의사 결정 프로세스를 추적할 수 있게 한다. 이러한 투명성은 AGI 시스템에서 수행한 작업을 감사하고 검증할 수 있으므로 사용자와 이해 관계자 간의 신뢰를 구축한다. 또한 비윤리적이거나 유해한 행동을 추적하여 신속히 해결할 수 있으므로 책임을 묻기가 쉬워진다.

 

앞으로 나아가면서 AGI의 통제 딜레마는 점점 더 중요한 문제가 되고 있다.

이 혁신적인 기술이 소수의 손에 중앙집중화 되도록 허용할 것인가, 아니면 투명성, 포용성, 책임을 촉진하는 분산형 모델을 위해 노력할 것인가?

 

분산화 노력의 한 예는 인공 초지능 연합(ASI 연합)의 결성이다. 연합은 조직, 연구자, 이해 관계자가 함께 모여 AGI 개발이 공유 가치에 따라 이루어지고 더 큰 이익을 위해 이루어지도록 하는 통합 이니셔티브를 나타낸다. ASI 연합은 리소스와 전문 지식을 모아 AGI를 민주화하고, 전 세계적으로 AGI의 이점을 이용 가능하게 하며, 단일 기관의 일방적 통제를 방지하는 것을 목표로 한다.

 

연합은 블록체인을 AGI 개발에 통합하면 모든 사람에게 서비스를 제공하는 분산되고 민주화된 AGI를 구축할 수 있는 기회가 생기고, 더 공평하고 번영하는 미래로 나아갈 수 있는 실제 사례이다.

질문은 여전히 ​​남는다. 우리는 이 순간을 포착하여 모든 인류에게 봉사하는 분산되고 민주화된 AGI를 구축할 것인가? 앞으로 나아갈 길은 우리가 선택해야 하며, 행동할 때는 지금이다. (SNet)