정보는 귀중한 상품이다. 그리고 기술 덕분에 온라인에는 수백만 테라바이트의 정보가 있다.
AI 알고리즘이 어떤 정보가 영속되고 무엇이 남겨질지 결정하는 세상에서는 무슨 일이 일어나게 될까?
개인화된 AI의 등장
생성AI 도구는 수백 기가바이트의 기존 데이터를 학습한 모델을 기반으로 구축되었다. 이러한 데이터를 통해 그들은 텍스트, 이미지, 오디오 및 비디오 콘텐츠를 자율적으로 생성하는 방법을 배우고 "가장 가능성이 높은" 답변을 함께 패치하여 사용자 쿼리에 응답할 수 있다.
ChatGPT는 공개된 지 1년도 채 되지 않았음에도 불구하고 수백만 명의 사람들이 사용하고 있다. 6월에는 이미 인상적인 챗봇에 맞춤형 응답이 추가되어 더욱 유용해졌다. 이 기능을 통해 사용자는 봇을 사용하는 목적과 반응 방식을 설명하는 맞춤형 지침을 저장할 수 있다.
이는 "개인화 AI"의 여러 예 중 하나이다. 즉, 사용자의 특정 요구와 선호도에 맞게 콘텐츠를 생성하는 AI 도구 범주이다.
또 다른 예는 Meta가 최근 출시한 가상 비서인 Meta AI이다. 이 챗봇은 WhatsApp, 메신저, 인스타그램을 포함한 Meta 플랫폼 전반에 걸쳐 대화하고, 이미지를 생성하고, 작업을 수행할 수 있다.
인공지능 연구자이자 DeepMind의 공동 창업자인 무스타파 술레이만(Mustafa Suleyman)은 개인화된 AI를 기술이라기 보다 관계에 더 가깝다고 설명한다.
그러나 이러한 기술은 데이터 소유권, 편견, 잘못된 정보에 대한 우려가 제기되면서 논란의 여지도 있다.
기술 회사들은 이러한 문제에 대처할 방법을 찾으려고 노력하고 있다. 예를 들어, 구글은 올해 초 부정확하고 문제가 있는 응답을 제공했다는 이유로 비난을 받은 SGE(Search Generative Experience) 도구로 생성된 AI 생성 검색 요약에 소스 링크를 추가했다.
기술은 이미 우리의 생각을 변화시켰다.
생성AI 도구, 특히 우리에게 맞춤화된 도구는 우리가 생각하는 방식을 어떻게 변화시킬까?
이를 이해하기 위해 인터넷이 우리 삶에 처음 들어왔던 1990년대 초반을 다시 살펴보겠다. 사람들은 은행 업무, 제빵, 교육, 여행 등 거의 모든 것에 대한 정보에 갑자기 접근할 수 있었다.
거의 30년이 지난 지금, 연구에 따르면 이 글로벌 "하이브 마인드"와 연결되면서 우리의 인지, 기억 및 창의성이 어떻게 변화되었는지가 밝혀졌다.
예를 들어, 3,055억 페이지에 해당하는 정보에 즉시 접근할 수 있게 되면서 사람들의 메타 지식, 즉 지식에 대한 지식이 늘어났다. 이에 대한 영향 중 하나는 "구글 효과"이다. 온라인 검색으로 정보를 찾는 능력은 향상되지만 해당 정보가 무엇인지에 대한 기억력은 감소하는 현상이다.
한편으로 우리의 생각을 검색 엔진에 맡기는 것은 문제 해결과 창의적 사고를 위한 정신적 예비 공간을 확보하는 것으로 나타났다. 다른 한편으로, 온라인 정보 검색은 산만함과 의존성의 증가와 관련이 있다.
또한 연구에 따르면 검색된 정보의 양이나 질에 관계없이 온라인 검색이 인지적 자존감을 높이는 것으로 나타났다. 즉, 우리 자신의 "스마트"에 대한 믿음이 커진다.
여기에 정보에 대해 의문을 제기하는 것은 힘든 일이라는 사실과 결합된다. 그리고 검색 엔진을 더 신뢰할수록 그 결과에 비판적으로 참여하는 일이 적어진다. 그리고 전례 없는 양의 정보에 접근하는 것이 반드시 우리를 더 현명하게 만들지 않는 이유를 알 수 있다.
우리는 생각을 '아웃소싱'해야 할까?
오늘날의 생성AI 도구는 단순히 검색 결과를 제공하는 것보다 훨씬 더 많은 기능을 수행한다. 그들은 우리를 위해 정보를 찾고, 평가하고, 종합하여 우리에게 다시 제시한다.
이것이 어떤 의미를 가질 수 있을까? 인간 주도의 품질 관리를 추진하지 않는다면 전망은 밝지 않다.
친숙하고 객관적이며 매력적으로 느껴지는 응답을 생성하는 생성 AI의 능력은 우리가 인지 편향에 더 취약하게 만든다는 것을 의미한다.
예를 들어, 자동화 편향은 기계에서 얻은 정보의 무결성을 과대평가하는 인간의 경향이다. 그리고 단순 노출 효과는 친숙하거나 개인적인 것으로 제시된 정보를 더 신뢰하게 되는 경우이다.
소셜 미디어에 대한 연구는 그러한 편견의 영향을 이해하는 데 도움이 될 수 있다. 2016년 한 연구에서 Facebook 사용자는 실제로 읽은 뉴스 콘텐츠의 양이 아니라 온라인에 게시된 뉴스 콘텐츠의 양에 따라 더 많은 정보를 알고 있다고 느끼는 것으로 나타났다.
또한 우리는 관심사에 따라 피드를 필터링하는 소셜 미디어 알고리즘에 의해 생성된 "필터 버블"이 우리가 노출되는 콘텐츠의 다양성을 제한한다는 것을 알고 있다.
이러한 정보 축소 과정은 대안적인 관점을 고려하려는 사람들의 성향을 감소시켜 이념적 양극화를 증가시키는 것으로 나타났다. 또한 가짜 뉴스에 노출될 가능성이 높아지는 것으로 나타났다.
AI를 사용하여 멍청하게 굴지 않고 현명하게 행동한다.
생성AI는 의심할 여지없이 사회를 위해 위대한 일을 할 수 있는 잠재력을 지닌 혁명적인 힘이다. 개인화된 콘텐츠를 제공하여 교육 시스템을 재편하고, 글쓰기 및 정보 분석을 가속화하여 작업 방식을 바꾸고, 과학적 발견의 한계를 뛰어 넘을 수 있다.
그것은 심지어 우리가 다른 사람들과 의사소통하고 연결하는 데 도움을 줌으로써 우리의 관계를 긍정적으로 변화시킬 수 있는 잠재력을 가지고 있으며 때로는 일종의 합성 동반자 관계로 기능할 수도 있다.
그러나 미래를 판단하는 유일한 방법이 과거를 되돌아보는 것이라면, 아마도 지금은 인터넷과 소셜 미디어가 우리의 인식을 어떻게 변화시켰는지 반성하고 몇 가지 예방 조치를 적용해야 할 때일 것이다. 인간의 자율성과 비판적 사고를 장려하는 AI 도구를 설계하는 것처럼 AI 활용 능력을 개발하는 것은 시작하기 좋은 곳이다.
궁극적으로 우리는 이러한 "생각하는" 동료가 목록의 맨 위에 있는 미래가 아닌 우리가 원하는 미래를 만드는 데 도움이 되도록 우리 자신과 AI의 강점과 약점을 모두 이해해야 한다.
