딥페이크와 ChatGPT, LLM이 세계 어휘의 일부가 되기 전인 2000년대부터 현재까지 누구에게나 찾아보면 중요한 생존 기술이 부족하다는 것을 알게 될 것이다. 컴퓨터에 바이러스가 있다!”, "귀하의 은행 계좌에 보안 문제가 있다. 문제를 해결하려면 여기를 클릭하라!"
사기는 커뮤니케이션이 과 부하된 세상에서 너무나 흔한 일이며, AI로 인해 그 어느 때보다 무섭고 현실과 허구를 구별하기가 더욱 어려워지고 있다.
사기의 역사
사기는 새로운 것이 아니다. 정직한 사람들의 돈을 빼앗는 응접실 속임수는 인류만큼이나 오래되었다. 골무 리그(컵과 공 트릭)부터 헤게스트라토스, 폰지(Ponzi)에 이르기까지 자신의 이익을 위해 다른 사람을 속이는 것은 인류의 가장 슬픈 기술 중 하나이다. 호모 사피엔스의 속이고 사기 능력은 우리가 네안데르탈인을 넘어 궁극적으로 승천한 이유로 이론화되었다. 네안데르탈인은 우리보다 강하고 빠르며 똑똑했지만 우리가 부싯돌 도끼를 등에 묻기 전에 '보세요, 매머드!'라고 외칠 때마다 그들은 그것에 반했다.
모든 새로운 기술은 속이는 새로운 방법으로 사용되었다. 대량 통신이 처음 개발되었을 때, 자동 다이얼 장치가 사기에 사용되기 시작한 것은 얼마되지 않았다. 이런 일은 오늘날에도 여전히 일어나고 있으며, '내 말 들리는가?' 사기는 2020년까지도 광범위한 불행을 야기했다.
피싱 이메일은 인터넷이 시작되자마자 주변에 있었다. 초기 온라인 사용자는 컴퓨터의 데이터를 샅샅이 뒤지는 악의적인 바이러스로 인해 컴퓨터를 여러 번 다시 포맷해야 하는 경우가 많았다. 그 전에 우리 모두는 온라인에서 읽은 모든 내용을 신뢰하지 않거나 출처를 모르는 내용을 클릭하지 않는다는 집단 의식을 얻었다. 사기는 대부분의 사람들에게 짜증나는 일이었지만, 불운한 소수의 사람들은 사기꾼들이 자신의 계좌를 완전히 빼내면서 파산하는 것을 목격했다.
우리가 생각하는 것만큼 사기에 저항하지 못하는 이유
우리는 그렇게 쉽게 속는 것 이상으로 진화했다고 생각하고 싶지만, 숫자는 다른 이야기를 말해준다. 2022년에 보고된 사기로 인한 소비자 손실은 총 88억 달러로 전년 대비 30% 증가했다. 우리의 온라인 위생 상태는 나아지기는 커녕 점점 더 악화되고 있다. 그리고 이는 되돌릴 수 없는 거래로 인해 사기로 인한 손실을 방지할 수 있는 보호 장치가 거의 없는 암호화폐를 고려하기 전이다. 급성장하는 지갑을 가진 고급 사용자라도 몇 번의 잘못된 클릭만으로 재산이 빠져나가게 된다.
왜 일까? 우리 모두는 단지 바보인가? 아니 우리는 그렇지 않다. 우리는 역사상 그 어느 때보다 더 현명하고, 더 많은 교육을 받았으며, 더 통찰력 있고, 더 기술적으로 통합되어 있다. 무슨 일이 일어나고 있는 걸까?
첫째, 우리는 점점 더 타락한 사회에서 그 어느 때보다 더 외롭고, 서로 더 멀리 떨어져 있다. 우리의 개인적인 경험은 더욱 원자화되고 온라인화되어 있으므로 맹점에 빠지기 쉽다. 둘째, 정보 과부하와 점점 더 시뮬레이션되는 세계로 인해 현실과 비현실을 구별하기가 더 어려워졌다. 심지어 정교한 사람들에게도 마찬가지이다. 공개 포럼을 탐색할 때 우리가 수행해야 하는 처리량은 이전 사회에서 수행했던 것 이상이다. 사방에서 들려오는 목소리와 의견, 진실과 거짓이 안개처럼 우리를 둘러싸고 있어 합의 사회의 곧고 좁은 길을 보기 어렵게 만들고 있다(오늘날 우리가 겪고 있는 극심한 정치적 양극화가 보여주는 사실).
AI가 모든 사람을 사기 위해 사용되는 방법
셋째, 가장 중요한 것은 사기가 점점 늘어나고 있다는 것이다. 이제 사람들의 돈을 사기 위해 대규모 전문 산업이 형성되었다. 수줍은 사람이나 할머니에게서 물건을 훔치는 도덕적 파산자만이 아니다. 적 시민을 표적으로 삼는 악의적 행위자들의 국가 지원 공격이다. 일부 국가에는 경제를 유지하기 위해 라이벌의 부유한 시민들을 사기에 전념하는 팀이 있다.
그리고 그들은 그것을 할 수 있는 도구를 가지고 있다. 로봇 공학에는 고딕 문학의 하임리치(Unheimlich)인 '불쾌한 계곡'이라는 이론이 있는데, 현실과 너무 가까워서 불안해진다는 이론이 있다. 그러나 생성 AI가 실제에 더 가까운 이미지, 비디오 및 음성을 생성할 수 있게 되고 LLM이 일반 인간의 프리젠테이션과 훨씬 더 유사하게 텍스트를 생성, 조정 및 배포할 수 있게 됨에 따라 이 기묘한 계곡이 더 많이 채워질수록 누군가를 신뢰하는 것이 더 어렵다. 심지어 당신이 사랑하는 사람이라도 말이다.
사랑하는 사람의 목소리를 모방하여 필사적으로 전화를 걸어 도움과 돈을 구걸하는 사기꾼들의 이야기는 정말 소름끼친다. 만약 당신의 어머니나 형제, 파트너 또는 자녀가 당신에게 소리를 지르며 전화를 한다면 다시 한 번 생각해보시겠는가? 만약 그들이 당신에게 완전한 딥페이크 시각적 각인인 괴로움을 안겨준다면, 당신이 렌더를 너무 자세히 분석하기 전에 공포로 인해 돈을 보내게 될 것이다.
그러한 타락한 전술을 사용하지 않더라도 AI 도구를 사용하면 사기꾼이 필요한 정보를 최종적으로 얻기 전에 대상과 신뢰를 구축하는 데 몇 시간, 며칠 또는 몇 주를 소비할 필요가 없다. 포인트 앤 클릭 사기이다. 십대들에게 자신의 딥페이크 누드를 보낸 협박 이야기는 많은 사람들이 우리의 강력한 신기술 발전을 사용하여 창조하기로 결심한 것처럼 보이는 일련의 공포 중 가장 최근의 것일 뿐이다.
온라인에서 안전을 유지하는 방법
그렇다면 우리는 무서운 시대에 살고 있다. 우리의 새로운 AI 도구가 어떤 종류의 어두운 계곡을 파낼 수 있는지 이해하는 것은 모든 사람의 책임이며, 정부는 시민들에게 그들이 직면한 위험을 교육하고 알리는 책임이 있다. 이런 검은 거울에도 불구하고 희망은 있다. 각 개인을 보호하는 AI 파수꾼, 진짜와 가짜를 분별하도록 돕고, 더 강력한 형태의 부에 대한 자기 관리와 사기로부터 보호하기 위한 더 나은 은행 인프라, 그리고 우리가 살고 있는 용감한 신세계에 대한 더 넓은 이해를 통해 시간이 지나면 사기꾼을 막을 수 있기를 바란다.
그때까지는 안전하게 지내시라. 누구도 믿지 말라고 내가 말할 때 나를 믿으라.
