감시사회 도래: 마이너리티 리포트

봇 범죄

영국의 한 경찰서는 수십 년간의 탐정 작업을 단 몇 시간으로 압축하여 미해결 사건을 해결하는 데 잠재적으로 도움이 될 수 있는 AI 기반 시스템을 테스트하고 있다고 Sky News가 보도했다.

그러나 호주에서 개발된 Soze라고 불리는 이 플랫폼의 정확도에 대해서는 아직 알려진 바가 없다. 이는 AI 모델이 매우 잘못된 결과를 내뱉거나 조작된 정보를 환각시키는 경향이 있기 때문에 주요 관심사이다.

잉글랜드 남서부 지역을 담당하는 에이본과 서머셋 (Avon and Somerset) 경찰국은 Soze가 이메일, 소셜 미디어 계정, 비디오, 재무제표 및 기타 문서를 스캔하고 분석하도록 하여 프로그램을 진행하고 있다.

마이너리티 리포트

스티븐스가 언급한 또 다른 AI 프로젝트는 많은 용의자가 영국에서 피해자를 공격하고 불구로 만들거나 살해하는 데 사용한 칼과 칼의 데이터베이스를 구축하는 것이다.

스티븐스은 이러한 AI 도구가 곧 출시될 것이라고 낙관하는 것처럼 보이지만 먼저 제대로 작동하는지 검증하는 것이 합리적일 것이다. 특히 법 집행 기관에서 AI는 오류가 발생하기 쉬우며 오탐으로 이어질 수 있다.

용의자가 미래에 또 다른 범죄를 저지를 가능성을 예측하는 데 사용된 한 모델은 부정확하고 흑인에 대해 편향되어 있었다. 이는 나중에 2002년 스티븐 영화에 각색된 필립 K. 딕의 중편 소설 "마이너리티 리포트"(스필버그 영화)에서 바로 튀어나온 것처럼 들린다.

AI 얼굴 인식은 허위 체포로 이어질 수도 있으며, 소수자들이 저지르지 않은 범죄에 대해 반복적으로 손가락질을 당할 수도 있다.

이러한 부정확성은 매우 우려스럽기 때문에 미국 민권위원회는 최근 치안 유지에 AI를 사용하는 것을 비판했다.

이들은 분석을 수행하는 기계이기 때문에 오류가 없고 정확할 것이라는 인식이 있다. 하지만 이는 편견이 있고 틀릴 수 있는 인간이 수집한 데이터를 기반으로 구축되었기 때문에 처음부터 익숙한 문제가 포함된다.