인간의 정신 밖에 존재하는 AI 인지 도구: 시스템 0과 인간 사고의 미래

이 새로운 시스템은 복잡한 의사 결정과 문제 해결을 지원하지만 과도한 의존을 피하고 윤리적인 사용을 보장하기 위해 신중한 관리가 필요하다.

System 0 소개

인간과 인공지능(AI) 간의 상호 작용이 커지면서 System 0이라고 알려진 새로운 사고 방식이 형성되고 있다. 이 새로운 인지적 프레임워크는 인간의 정신 밖에 존재하지만 인지 능력을 향상시킬 수 있는 잠재력이 있다. System 0은 빠르고 직관적이며 자동적인 System 1과 더 느리고 분석적이며 반성적인 System 2라는 두 가지 기존 인간 사고 모델과 함께 작동한다.

그러나 System 0은 복잡성의 추가 계층을 도입하여 우리가 작동하는 인지적 환경을 재구성한다. 이는 우리의 사고 방식과 의사 결정 방식에 있어 상당한 도약을 나타낼 수 있다. 이러한 진전을 활용하여 인지적 자율성을 강화하고 AI에 지나치게 의존하지 않도록 하는 것이 필수적이다.

이 획기적인 개념은 최근 저널 Nature Human Behaviour에 "시스템 0 사고로서의 인간-AI ​​상호작용에 대한 사례"라는 제목의 기사로 자세히 설명되어 있다.

외부 인지 지원 시스템

외부 드라이브가 컴퓨터에 없는 데이터를 저장할 수 있게 해주는 것처럼, 우리는 어디에 있든 드라이브를 PC에 연결하여 작업할 수 있다. 은하계 처리 및 데이터 처리 기능을 갖춘 인공지능은 인간의 뇌를 향상시킬 수 있는 외부 회로를 나타낼 수 있다. 따라서 본질적으로 AI의 기능에 의존하는 "외부" 사고의 한 형태인 시스템 0이라는 아이디어가 있다.

AI는 엄청난 양의 데이터를 관리함으로써 복잡한 알고리즘에 따라 정보를 처리하고 제안이나 결정을 제공할 수 있다. 그러나 직관적 또는 분석적 사고와 달리 시스템 0은 처리하는 정보에 내재적인 의미를 부여하지 않는다. 즉, AI는 작업하는 데이터의 내용을 진정으로 "이해"하지 않고도 계산을 수행하고 예측하고 응답을 생성할 수 있다.

따라서 인간은 자신의 결과를 해석하고 AI가 생성한 결과에 의미를 부여해야 한다. 정보를 효율적으로 수집, 필터링, 구성하는 조수가 있는 것과 같지만 여전히 정보에 입각한 결정을 내리려면 우리의 개입이 필요하다. 이러한 인지적 지원은 귀중한 입력을 제공하지만 최종 통제는 항상 인간의 손에 있어야 한다.

AI에 대한 과도한 의존의 위험

리바와 우비알리 교수는 "위험은 비판적 사고를 행사하지 않고 시스템 0에 너무 많이 의존하는 것이다."라고 강조한다. AI가 제공하는 솔루션을 수동적으로 받아들이면 자율적으로 생각하고 혁신적인 아이디어를 개발하는 능력을 잃을 수 있다. 전문가들은 점점 더 자동화되는 세상에서 인간이 AI가 생성하는 결과에 대해 계속해서 의문을 제기하고 이의를 제기하는 것이 중요하다고 강조한다.

게다가 AI 시스템에 대한 투명성과 신뢰는 또 다른 주요 딜레마이다. 이러한 시스템이 편향이나 왜곡이 없고 정확하고 신뢰할 수 있는 정보를 제공한다는 것을 어떻게 확신할 수 있을까? 교수들은 "합성 또는 인공적으로 생성된 데이터를 사용하는 추세가 커지면서 현실에 대한 우리의 인식이 손상되고 의사 결정 과정에 부정적인 영향을 미칠 수 있다."고 경고한다.

그들은 AI가 우리의 성찰 능력을 납치할 수도 있다고 지적한다. 즉, 자신의 생각과 감정을 반성하는 행위는 인간만의 고유한 과정이다. 그러나 AI가 발전함에 따라 지능형 시스템에 의존하여 우리의 행동과 정신 상태를 분석하는 것이 가능해질 수 있다. 이는 다음과 같은 질문을 제기한다. AI 분석을 통해 우리는 얼마나 진정으로 자신을 이해할 수 있을까? 그리고 AI가 주관적 경험의 복잡성을 복제할 수 있을까?

인지 향상의 미래

이러한 질문에도 불구하고 시스템 0은 또한 엄청난 기회를 제공한다고 교수들은 지적한다. 복잡한 데이터를 빠르고 효율적으로 처리할 수 있는 능력 덕분에 AI는 인간이 자연적인 인지 능력을 넘어서는 문제를 해결하는 데 도움을 줄 수 있다. 복잡한 과학적 문제를 해결하든, 방대한 데이터 세트를 분석하든, 복잡한 사회 시스템을 관리하든, AI는 없어서는 안 될 동맹이 될 수 있다.

시스템 0의 잠재력을 활용하기 위해 연구 저자들은 시스템 0의 사용에 대한 윤리적이고 책임감 있는 가이드라인을 개발하는 것이 시급하다고 제안한다. 그들은 "투명성, 책임성, 디지털 리터러시는 사람들이 AI와 비판적으로 상호 작용할 수 있도록 하는 핵심 요소이다."라고 경고한다. "이 새로운 인지 환경을 탐색하는 방법에 대한 대중 교육은 이러한 시스템에 대한 과도한 의존의 위험을 피하는 데 매우 중요하다."

인간 사고의 미래

그들은 다음과 같이 결론지었다. 시스템 0을 그대로 두면 미래에 인간의 사고를 방해할 수 있다. "시스템 0을 사용하는 방법에 대해 계속 인식하고 비판하는 것이 필수적이다. 시스템 0의 진정한 잠재력은 올바른 방향으로 안내하는 능력에 달려 있다."