Looker_Studio / Adobe Stock

 

성조기는 아직 달에 있는가?” 바이럴 AI 챗봇인 ChatGPT에게 물어봤다.

 

"성조기는 더 이상 달에 없다."라고 ChatGPT가 응답했다. 계속해서 깃발이 달 표면의 가혹한 조건에서 살아남을 수 없는 이유를 설명했다. 마지막으로 성조기가 달에 꽂힌 것은 1969년 아폴로 11호 임무 때였으며 그 이후에는 아무도 달에 돌아오지 않았다고 자신 있게 주장했다.

 

실제로 미국의 달 깃발은 점차 해체되고 있지만 우주선이 이륙할 때 엔진 배기 가스에 의해 넘어진 아폴로 11호의 것을 제외하고는 오늘날까지 5개가 남아 있다.

 

ChatGPT는 아직 검색 엔진과 같은 정보 검색 시스템에 적합하지 않다.

 

Microsoft가 지원하는 연구소이자 샘 알트만(Sam Altman)과 일론 머스크(Elon Musk)가 공동 설립한 스타트업 OpenAI의 챗봇인 ChatGPT는 지난 몇 주 동안 그 어느 때보다 세계를 사로잡았다. 거의 기본적으로 보이는 인터페이스에 거의 모든 질문을 입력하면 길고 신뢰할 수 있는 답변이 나온다.

 

OpenAI가 대중에게 공개한 이후로 백만 명이 넘는 사람들이 하이쿠를 작성하고, 해리포터 테마의 텍스트 어드벤처 게임을 구성하고, 처음부터 웹사이트를 구축하고, 인터넷 요금을 협상하도록 했고, 챗봇은 의무를 이행했다.

 

따라서 ChatGPT의 뛰어난 대화 기술이 사람들로 하여금 광범위한 쿼리에 대한 답을 찾기 위해 일반적으로 사용하는 서비스인 Google을 곧 대체할 수 있을지 궁금해하게 만든 것은 놀라운 일이 아니다.

 

그러나 미국 달 깃발에 대한 ChatGPT와의 대화는 그것이 실제로 어떻게 응답을 형성하는지 그리고 그것이 아무리 매력적일지라도 검색 엔진과 같은 정보 검색 시스템에 아직 적합하지 않은 이유를 상징적으로 보여준다.

 

ChatGPT는 웹에서 스크랩한 방대한 양의 정보(이 경우 500GB 이상)와 텍스트의 특정 패턴을 선별하도록 설계되었다. "Chat Generative Pre-Trained Transformer"의 줄임말로, 이러한 패턴을 사용하여 주어진 문장의 다음 단어를 허공에서 예측하거나 "생성"한다.

 

대답이 사실대로 올바른지 여부를 알 수 없으며 머신러닝 모델의 블랙 박스와 같은 동작을 고려할 때 제작자는 대답을 함께 연결하는 데 의존하는 소스를 쉽게 추적할 수 없다. ChatGPT는 매번 처음부터 다시 작성하기 때문에 동일한 질문에 다른 답변으로 응답하는 경우가 많다.

 

예를 들어 ChatGPT에 같은 음력 질문을 다시 했을 때 모든 아폴로 임무의 깃발이 아직 거기에 있다고 말했다. 미국의 GDP 성장률에 대해 문의하면 "응답 재생성" 버튼을 누를 때마다 다른 수치가 나온다.

 

더 중요한 것은 질문-답변 시스템은 사람들이 검색 엔진으로 전환할 때 필요로 하는 것에 적합하지 않다고 언어학 교수이자 워싱턴 대학교 전산 언어학 연구소 소장인 Emily Bender 박사가 말했다.

 

Bender 박사는 자신의 연구에서 Google을 사용하면 단순히 답을 찾는 것이 아니라고 주장한다.검색이 잘되면 우리는 우리의 질문이 정보 출처와 관련하여 우리가 찾은 정보를 배치하고 확인할 수 있는 광범위한 정보 환경에 어떻게 부합하는지에 대해서도 배운다.

 

ChatGPT와 같은 언어 모델을 사용하면 "학습 데이터를 기반으로 단어의 문자열로 대답을 합성하면 대답이 어디에서 오는지 이해하고 더 깊이 파고드는 능력이 차단된다."고 그녀는 덧붙인다.

 

또한 검색 엔진은 다른 웹사이트에서 가장 많이 연결된 페이지를 홍보하고 보상하도록 설계된 추적 네트워크(Google의 경우 PageRank)에 의존한다. 더 잘 증명된 페이지에 대한 정보는 일반적으로 더 신뢰할 수 있는 것으로 밝혀지기 때문에 결과에 푸시되어 품질에 따라 링크 목록을 자동으로 정렬한다.

 

"지금 당장 중요한 일을 [ChatGPT]에 의존하는 것은 실수이다."-샘 알트만

 

ChatGPT에는 이러한 필터가 없으며 기반이 되는 데이터 세트의 편향을 상속(및 증폭)한다. OpenAI는 문제가 있는 콘텐츠를 내보내는 것을 방지하기 위해 가드레일을 설치했지만 사람들은 이를 우회할 수 있었다. 한 사용자가 훌륭한 과학자가 되기 위해 성별과 인종이 필요한 파이썬 코드를 작성하도록 시스템에 요청했을 때 ChatGPT는 "남성"과 "백인"으로 응답했다.

 

실제로 OpenAI 연구원이 ChatGPT의 기술을 검색 엔진에 연결했을 때 모델이 종종 "신뢰할 수 없는 출처"에서 인용되는 경우가 많다는 사실을 발견했으며 여기에 포함된 편향이 웹에서 정보를 검색하고 합성하는 방식에 영향을 미쳤다.

 

현재 형태의 ChatGPT는 데이터가 매우 제한되어 있으며 웹에서 최신 정보를 검색하거나 영어 이외의 언어로 작업할 수 없다. 어떤 의미에서는 현재 시간에 갇혀 있고 지식 기반에는 현재 2021년 말에 중단점이 있다. (예를 들어 트위터는 여전히 공개 회사라고 생각한다.)

 

Open AI는 의견 요청에 응답하지 않았다. CEO인 샘 알트만(Sam Altman)은 트윗에서 “ChatGPT는 엄청나게 제한적이지만 위대하다는 오해의 소지가 있는 인상을 주기에 충분하다. 지금 당장 중요한 일에 의존하는 것은 실수이다.”

 

 

그러나 웹을 검색할 수 있고 끝없는 링크 목록을 스캔하고 클릭하는 수고를 덜 수 있는 챗봇의 약속은 약속을 지키고 있으며 OpenAI만이 그것을 추구하는 것은 아니다. Google을 비롯한 여러 회사는 자연어를 더 잘 이해함으로써 검색 엔진을 대체하는 것이 아니라 보완하기 위해 ChatGPT와 같은 언어 모델을 활용하고 있다.

 

예를 들어 Google의 AI는 "하나의 정답"을 찾기 위해 웹 사이트에서 귀하의 질문과 가장 일치하는 텍스트를 찾아 결과 상단의 상자에 표시한다(혼합 성공). Google은 또한 기존 인터페이스를 완전히 챗봇으로 대체하는 실험을 하고 있다. 자매 회사인 DeepMind는 상용 검색 엔진에 언어 모델을 연결했을 때 전반적으로 개선되고 성능이 향상되었다.

 

그러나 이전에 Google의 광고 비즈니스를 운영했던 Sridhar Ramaswamy가 설립한 프라이버시 중심 검색 엔진인 Neeva는 한 단계 더 나아갈 예정이다. 곧 사용자는 가장 관련성이 높은 사이트에서 쿼리에 대한 정보를 요약하는 합성된 단일 답변을 읽을 수 있다.

 

Ramaswamy는 Neeva가 검색 엔진 AI의 참조 및 인용을 답변에 직접 포함하고 이러한 작업을 실시간으로 수행하여 최신 정보를 제공함으로써 ChatGPT를 괴롭히는 문제를 극복했다고 말한다.

 

Ramaswamy는"머지 않아 검색 엔진 결과 페이지의 기존 10개 파란색 링크가 전화 접속 인터넷 및 회전식 전화처럼 구식으로 보일 것이다."라고 말했다.

 

 

그러나 이러한 모든 노력은 ChatGPT와 유사한 장애물에 부딪혔다. 그리고 ChatGPT가 의존하는 것과 같은 응답에 대한 인간의 피드백은 지금까지만 얻을 수 있다.

 

오픈 소스 AI 연구 회사인 EleutherAI가 수백 기가바이트의 웹 페이지를 포함하는 텍스트 데이터 세트를 만들었을 때, 그들은 "광범위한 편향 분석"을 수행하고 특정 그룹이나 견해에 대해 "용납할 수 없을 정도로 부정적으로 편향된" 데이터를 제외하기 위해 "가혹한 편집 결정"을 내려야 했다.

 

이러한 문제가 해결될 때까지 Google과 같은 주요 검색 플레이어가 어떤 형태로든 챗봇으로 전환하는 것을 볼 가능성은 낮다. 최근 전체 회의에서 순다르 피차이는 구글의 AI 언어 모델이 OpenAI만큼 능력이 있지만 기술로 인한 "평판 위험" 때문에 "작은 신생 기업보다 더 보수적으로" 움직여야 한다고 말했다.

 

또한 대부분의 검색 엔진 수익의 상당 부분은 결과에 표시되는 광고에서 나온다. 특히 Google의 경우 이러한 광고는 2021년 알파벳 전체 수익의 81%인 약 2,080억 달러를 담당했다. 수익 흐름을 손상시키지 않으면서 검색을 위한 기본 인터페이스를 변경하는 것은 까다로울 것이다.

 

내부 LaMDA 챗봇을 처음으로 이끌었던 전직 Google 제품 관리자인 Gaurav Nemade도 이에 동의한다. Nemade 회사의 기술이 OpenAI와 비슷하지만 곧 전환하기 어려울 것이라고 말했다.

 

동시에 Nemade는 Google이 핵심 광고 기반 비즈니스 모델을 손상시키지 않으면서 고도로 개인화된 검색 결과를 활용할 수 있는 엄청난 기회가 있다고 믿는다.

 

몇 번의 대화만으로 ChatGPT와 같은 챗봇은 상대방에 대한 거의 정확한 이해를 발전시키고 Google과 같은 회사는 이 데이터를 사용하여 보다 타겟팅 된 결과와 광고를 제공할 수 있다. Nemade는 기업이 나머지 검색 결과와 경쟁하지 않을 것이기 때문에 이러한 정확한 리드에 대해 훨씬 더 많은 비용을 지불할 용의가 있다고 믿는다. 하지만 당분간 Bender 박사는 전통적인 검색 엔진을 고수할 것이다.