Jakub Porzycki/NurPhoto via Getty Images
확인해야 할 새로운 AI 챗봇이 있다. 이를 호스팅하는 서버가 과도한 트래픽으로 인해 다운되지 않은 경우이다.
OpenAI의 Greg Brockman 회장에 따르면 ChatGPT가 지난 주에 출시된 이후로 백만 명이 넘는 사람들이 ChatGPT를 사용하기 위해 가입했다. 재미있고 독창적이며 매력적이고 완전히 신뢰할 수 없는 대화 파트너이므로 서버가 부하로 인해 비틀거리지 않을 때 확인하는 것이 좋다.
예를 들어 항체와 저분자 그룹 간의 랩 배틀이나 Jerry가 버블 정렬 알고리즘에 대해 배우는 Seinfeld 스크립트를 작성하는 등 ChatGPT를 사용하는 작가도 있다. 그러나 오늘 여기에는 AI가 생성한 재미있는 텍스트가 없으며 ChatGPT에 대한 몇 가지 생각과 우리가 향하는 방향만 있다.
몇 주 전에 나는 최근 AI의 놀라운 발전에 대해 글을 썼고, Google의 임원인 Mo Gawdat의 말을 인용했다. 많은 실패 끝에 AI는 공을 잡고 연구원들에게 으스스하게 인간처럼 내밀었다. Gawdat는 "갑자기 이것이 정말 무섭다는 것을 깨달았다."고 말했다. “그것은 나를 완전히 얼게했다. … 현실은 우리가 신을 창조하고 있다는 것이다.”
AI 시스템에 종사하는 많은 사람들은 지난 몇 년 동안 이런 저런 순간을 겪었다. 인류가 진정으로 거대한 무언가에 직면해 있다는 것이 갑자기 그들에게 분명해졌을 때 두려움과 공포가 섞인 순간이었다. 하지만 일반 대중에게는 2022년 이전에는 AI가 무엇을 할 수 있는지 직접 대면할 기회가 거의 없었다. OpenAI의 GPT-3 모델로 플레이가 가능했지만, 혼란스러운 사용자 설정이 많은 비교적 접근하기 어려운 사이트에서 가능했다. Meta의 Blenderbot과 같은 챗봇과 대화가 가능했지만 Blenderbot은 정말 매우 멍청했다.
따라서 ChatGPT는 현대 AI가 얼마나 강력해졌는지에 대한 일반 대중의 첫 번째 실습 소개이며, 그 결과 많은 사람들이 우리 버전의 Gawdat 순간을 경험하고 있다. 기본적으로 ChatGPT는 대학생이 수업용 에세이를 작성하는 것처럼 들린다(가장 즉각적인 의미는 그러한 에세이가 과거의 일이 될 가능성이 높다는 것이다).
하지만 그렇게 들릴 필요는 없다. New Yorker 하우스 스타일로 에세이를 정리하라고 하면 더 잘 쓴다. 셰익스피어를 쓰라고 하면 시도할 것이다. 특히 위대한 철학자나 위대한 문학 작품을 1920년대 마피아나 1990년대 래퍼의 언어로 표현하는 데 좋다. 의도적으로 얼마나 명확하지는 않지만 재미있을 수 있다. 이전에 AI에 회의적이었던 여러 사람들로부터 "이것은 큰 일이다."라고 들었다.
첫 번째 법칙: 취소하지 말라.
아직 완벽하지 않다. OpenAI의 최선의 노력에도 불구하고 ChatGPT는 여전히 종종 말도 안 되는 말을 만들고 때로는 인종차별적이거나 혐오스러운 말을 하도록 속일 수 있다. 또한 인종차별적이고 혐오스러운 말을 하지 않도록 시스템을 훈련시키려는 필사적인 노력의 일환으로 OpenAI는 논쟁의 여지가 있는 주제를 건드릴 수 있는 질문에 대해 종종 어리석거나 회피하도록 가르쳤다.
신뢰할 수는 없지만 때때로 ChatGPT는 "남성이 일반적으로 여성보다 키가 클까? (그렇다.) 어려운 주제에 대해 질문을 받으면 믿음이나 의견이 없는 OpenAI에서 훈련된 언어 모델일 뿐이라고 장황하게 주장하지만, 다른 경우에는 영리하게 메시지를 표시하면 기꺼이 믿음과 의견을 표현한다.
OpenAI가 ChatGPT를 가능한 한 공격적이지 않게 만들기 위해 최선을 다한 이유를 이해하는 것은 어렵지 않다. 이러한 한계를 극복하는 것이 매우 가능하더라도 말이다. 평판이 좋은 AI 회사는 몇 년 전 Microsoft의 Tay 챗봇이 그랬던 것처럼 자신의 창작물이 단숨에 인종차별을 퍼뜨리는 것을 원하지 않는다. OpenAI가 아이작 아시모프(Isaac Asimov) 스타일의 로봇 공학 법칙을 사용하여 시스템을 교육했다면 첫 번째 법칙은 확실히 "OpenAI를 당황하게 하지 말라"이다.
우리 앞에 놓인 일을 엿볼 수 있다.
그러나 ChatGPT에 결함이 있는 경우 결함에도 불구하고 유용할 만큼 똑똑하다. 그리고 많은 결함은 더 많은 연구와 노력을 통해 편집될 것이다. 몇 주 또는 몇 달 만에 OpenAI의 다음 주요 언어 모델과 함께 곧 가능할 것이다.
New York Times의 Kevin Roose는 이번 주 Times 기술 팟캐스트 Hard Fork에서 "내 머리를 폭발하게 만드는 부분은 ChatGPT가 OpenAI의 최고의 AI 챗봇도 아니라는 것이다."고 말했다. "현재 OpenAI는 대규모 언어 모델인 GPT4의 다음 버전을 개발하고 있으며 실리콘 밸리에서 AI 연구에 종사하는 사람들과 이야기하면 마치 마법처럼 이야기한다."
실리콘 밸리의 거물들은 왜 이런 일을 하고 있고 어디로 향하고 있는지에 대해 완전히 솔직했다. 목표는 모든 면에서 인간을 능가하는 시스템을 구축하여 인류의 미래를 근본적으로 변화시키는 것이다. “ChatGPT는 무섭다. 우리는 위험할 정도로 강한 AI와 멀지 않다.”고 일론 머스크는 이달 초에 트윗했다. OpenAI CEO Sam Altman은 적격한 동의를 제안하고 다음과 같이 답했다. “나는 포즈를 취하는 AI의 의미에서 위험할 정도로 강한 AI에 가깝다는 데 동의한다. 예를 들어 엄청난 사이버 보안 위험. 그리고 앞으로 10년 안에 진정한 AGI에 도달할 수 있을 것이라고 생각하므로 그 위험도 매우 심각하게 받아들여야 한다.”
그런 주장을 무의미한 과대 광고로 기각하는 경향이 있다. 결국, 실리콘 밸리의 모든 스타트업은 자신이 세상을 변화시킬 것이라고 주장하며, AI 분야는 낙관주의의 여름과 좌절된 희망의 겨울로 특징지어졌다. 그러나 ChatGPT는 과대 광고와 두려움 뒤에 최소한 약간, 어쩌면 많은 내용이 있음을 분명히 한다.
