자기 성찰의 힘: 신경망을 내부적으로 조정하기

노스캐롤라이나 주립대학교의 물리학 교수이자 NAIL의 이사인 윌리엄 디토(William Ditto)와 그의 팀은 "내부를 들여다보고" 신경망을 조정할 수 있는 AI 시스템을 구축했다. 이 프로세스를 통해 AI는 뉴런 간의 수, 모양 및 연결 강도를 결정하여 다양한 뉴런 유형과 강도를 가진 하위 네트워크에 대한 잠재력을 제공한다.

디토는 "우리는 AI가 다양성 부족 대신 다양성을 선택하는지, 그리고 AI의 선택이 AI의 성능을 향상시킬 수 있는지 확인하기 위해 인간이 아닌 지능, 즉 인공지능을 사용하여 테스트 시스템을 만들었다."고 말한다. "핵심은 AI에게 내면을 들여다보고 학습 방법을 배울 수 있는 능력을 부여하는 것이었다."

정적이고 동일한 뉴런을 사용하는 기존 AI와 달리 디토의 AI에는 "자체 두뇌를 위한 제어 손잡이"가 있어 학습 능력과 문제 해결 기술을 향상시키는 프로세스인 메타 학습에 참여할 수 있다. 디토는 "우리 AI는 다양하거나 동질적인 뉴런 중에서 결정할 수도 있다. 그리고 모든 경우에 AI가 성능을 강화하기 위한 방법으로 다양성을 선택한다는 것을 발견했다."고 말했다.

기존의 인공신경망에서 다양한 신경망, 학습된 다양한 신경망으로의 발전. 선 두께는 가중치를 나타낸다.

성과 지표: 다양성이 균일성을 능가한다.

연구팀은 표준 수치 분류 활동을 통해 AI 성능을 측정한 결과 놀라운 결과를 발견했다. 정적 및 동종 신경망을 갖춘 기존 AI는 57%의 정확도를 관리했다. 반면, 메타러닝을 통해 다양한 AI를 구현한 AI는 무려 70%의 정확도를 달성했다.

디토에 따르면 다양성 기반 AI는 진자의 진동이나 은하의 움직임 예측과 같은 보다 복잡한 작업을 해결하는 데 최대 10배 더 높은 정확도를 보여준다. "실제로 우리는 문제가 더욱 복잡하고 혼란스러워질수록 다양성을 포용하지 않는 AI에 비해 성능이 훨씬 더 극적으로 향상된다는 점도 관찰했다."고 그는 설명했다.

시사점: AI 개발의 패러다임 전환

이번 연구 결과는 AI 기술 발전에 광범위한 시사점을 갖는다. 그들은 현재 널리 퍼져 있는 '일률적인' 신경망 모델에서 역동적이고 자체 조정되는 신경망 모델로의 패러다임 전환을 제안한다.

“우리는 AI에게 내면을 바라보고 학습 방법을 학습할 수 있는 능력을 부여하면 AI의 내부 구조, 즉 인공 뉴런의 구조가 변화되어 다양성을 수용하고 문제를 효율적이고 정확하게 학습하고 해결하는 능력이 향상된다는 것을 보여주었다. "라고 디토는 결론을 내린다. 이는 자율 주행 차량부터 의료 진단에 이르기까지 높은 수준의 적응성과 학습이 필요한 애플리케이션에 특히 적합할 수 있다.

이 연구는 다양성의 본질적인 가치에 주목했을 뿐만 아니라 AI 연구 및 개발을 위한 새로운 길을 열어 역동적이고 적응 가능한 신경 아키텍처의 필요성을 강조한다. 해군 연구실(Office of Naval Research) 및 기타 협력자들의 지속적인 지원으로 다음 연구 단계가 간절히 기다리고 있다.

내부적으로 다양성 원칙을 수용함으로써 AI 시스템은 성능 및 문제 해결 능력 측면에서 상당한 이점을 얻을 수 있으며 잠재적으로 머신러닝 및 AI 개발에 대한 접근 방식에 혁명을 일으킬 수 있다.