런 어웨이 AI

유명한 유럽연구기관인 막스플랑크소사이어티의 과학자들은 인류는 인류를 구하거나 파괴 할 수있는 초지능인공지능을 결코 제어 할 수 없을 것이라고 말한다.

그것은 2021년 1월 인공지능연구저널 Journal of Artificial Intelligence Researc에발표된 연구에 따른 것이다. Max Planck 과학자들은 문제는 오늘날 우리가 구축 할 수있는 것보다 훨씬 더 진보된 기술없이는 그러한 알고리즘 즉 초지능인공지능을 제어할 기술을 포함할 방법이 없다고 말한다.

내부 조사

팀은 주로 구속문제에 집중했다. 모든 강력한 알고리즘이 어떻게든 사람을 해칠 필요가 있다고 판단하거나  "터미네이터"와 같은 방식으로 인류를 완전히 종식시킨다면 어떻게 그들의 행동을 막을 수 있는지 모른다는 것이다.

그들은 위험한 알고리즘의 동작을 시뮬레이션하고 유해한 행위를 차단하는 일종의 "격리 알고리즘"을 구축할 것을 제안한다. 그러나 격리 알고리즘은 최소한 처음 수행한 것만 큼 강력해야하므로 과학자들은 문제 해결이 불가능하다고 선언했다.

터미네이터 영화, 슈퍼인공지능

이론적 주장

이것은 모두 이론적인 논쟁이다. 인류를 위협할만큼 발전된 인공지능은 아직 멀지만 매우 똑똑한 사람들이 열심히 노력하고 있다. 물론 사전에 토론하기에 완벽한 주제가된다. 위험이 오기 전에 미리 알고 싶은 것이다.

마누엘 Cebrian, 인간과 인간개발을위한 막스플랑크연구소의 기계센터에서 디지털동원그룹의 리더겸 공동저자는, "컨트롤이 공상과학소설 같은 소리를하는 슈퍼지능기계" 보도자료에서 밝혔다. “하지만 프로그래머가 어떻게 배웠는지 완전히 이해하지 못한 채 중요한 작업을 독립적으로 수행하는 기계가 이미 있다. 따라서 이것이 어느 시점에서 인류에게 통제할 수없고 위험해질 수 있는지에 대한 의문이 제기된다.”

더 읽어보기 : 우리는 초 지능 기계를 제어 할 수 없을 것입니다 [Max Planck Society]