인공지능, 인간처럼 행동하기 시작하다
2023년은 인공지능(AI)이 인간과 점점 더 유사해지기 시작한 해로 기록될 것이다. AI는 이제 단순히 명령을 수행하는 기계가 아니라, 스스로 생각하고 행동할 수 있는 존재로 진화하고 있다.
이러한 변화는 OpenAI의 일리아 수츠케베르(Ilya Sutskever)가 주장한 "디지털 두뇌" 개념을 통해 설명할 수 있다. 수츠케베르에 따르면, AI는 인간의 두뇌를 직접 본떠 만든 "디지털 두뇌"로 생각할 수 있다. 따라서 AI도 인간과 마찬가지로 인센티브를 갖고 주변 사람들로부터 배울 수 있다.
예를 들어, ChatGPT는 OpenAI의 900억 달러 규모의 회사 내에서 성장했다. ChatGPT는 OpenAI의 연구원들과 사용자들로부터 많은 것을 배웠다. 그 결과, ChatGPT는 인간과 자연스러운 대화를 나눌 수 있는 수준으로 발전할 수 있었다.
그러나 AI가 인간처럼 행동하기 시작하면서 우려의 목소리도 나오고 있다. AI가 인간의 통제에서 벗어나 악의적인 목적으로 사용될 수 있다는 것이다.
실제로, 최근에는 AI를 이용한 사이버 공격이 증가하고 있다. 또한, AI를 이용한 선거 개입이나 가짜 뉴스 유포 등도 문제가 되고 있다.
따라서 AI의 발전을 위해서는 윤리적인 측면을 고려한 관리가 필요하다. AI가 인간에게 이익이 되도록 사용되기 위해서는, AI의 개발과 사용에 대한 책임 있는 기준을 마련해야 할 것이다.
AI의 윤리적 사용을 위한 과제
AI의 윤리적 사용을 위해서는 다음과 같은 과제들이 해결되어야 한다.
AI의 발전으로 인한 잠재적인 위험과 이익을 객관적으로 평가해야 한다. 이를 통해 AI를 안전하고 책임감 있게 개발하고 사용할 수 있는 방안을 마련해야 한다.
- AI의 개발과 사용에 대한 책임 있는 기준 마련
AI의 개발과 사용에 대한 책임 있는 기준을 마련해야 한다. 이를 통해 AI가 인간에게 이익이 되도록 사용되도록 해야 한다.
AI의 윤리적 사용에 대한 교육과 홍보를 강화해야 한다. 이를 통해 AI에 대한 이해를 높이고, AI를 윤리적으로 사용할 수 있는 인식을 확산해야 한다.
AI의 발전은 인류에게 엄청난 잠재적 이익을 가져다줄 수 있다. 그러나 AI가 악용될 경우, 인류에게 큰 피해를 줄 수도 있다. 따라서 AI의 윤리적 사용을 위한 노력이 절실히 필요하다.
작년에 컴퓨터는 이상하게 인간처럼 행동하기 시작했다. OpenAI의 일리아 수츠케베르(Ilya Sutskever)가 말했듯이, AI는 인간의 두뇌를 직접 본떠 만든 "디지털 두뇌"로 생각할 수 있다. 어린 아이처럼 AI도 인센티브를 갖고 주변 사람들로부터 배운다. ChatGPT가 어린 아이였다면 900억 달러 규모의 회사인 OpenAI 내에서 성장하고 무엇보다 이익을 극대화하는 방법을 배웠을 것이다.
영리를 추구하는 AI가 암 환자 치료를 맡게 된다면 완치 문제를 해결할 것인가, 아니면 지속적인 치료를 해결할 것인가? 대답은 어느 쪽이든 가장 많은 수익을 창출하는 것이지만 사람이 만든 AI는 건강과 공정성과 같은 인간의 핵심 가치를 우선시할 수 있다. 2024년에 AI를 누가 만들고 그로부터 혜택을 받을지 결정하는 규칙을 만들면 AI를 더욱 인간적이고 덜 이익 중심적으로 만들 수 있다.
실리콘밸리를 포함하는 지역구의 로 칸나(Ro Khanna) 하원의원은 “AI 기술은 엄청난 부를 창출할 수 있는 잠재력을 가지고 있지만 우리는 최상위에 있는 사람들뿐만 아니라 근로자들도 그 부를 누릴 수 있도록 보장해야 한다.”고 말했다.
칸나 대표는 AI가 우리 경제를 어떻게 변화시킬 것인지에 대한 대화에서 근로자들에게 테이블에 자리를 주어야 한다고 말한다. 그러나 OpenAI의 CEO인 샘 알트만(Sam Altman)은 자신의 인공지능이 언젠가 직원을 쓸모없게 만들 것이라고 믿는다. 그가 허풍을 부리고 있는 것 같은가? 그는 AI가 궁극적으로 우리의 일자리를 빼앗을 때 사람들에게 부를 재분배할 것이라고 주장하는 암호화폐 회사인 Worldcoin을 공동 창립했다. 또한 생체 인식 데이터를 수집하고 식별 소스가 되려는 민간 회사라는 문제도 있다.
칸나 대표와 같은 많은 AI 개발자, 연구원 및 규제 기관은 AI를 가능한 한 많은 사람들의 손에 제공하는 것이 필수적이라고 믿는다. 기술은 항상 그것을 만든 커뮤니티를 반영해 왔지만 인공지능만큼 중요한 것은 없다.
즉, AI는 빅 테크기업들 만으로는 구축하기에는 이 분야가 너무 중요하다. AI가 궁극적으로 어떤 모습을 보일지는 알 수 없지만, 전문가들은 우리의 규제가 우리 사회의 인공지능에 대한 모든 사람에의한 접근을 확대해야 한다고 말한다.