범죄를 예측하기 위해 AI를 사용하려는 노력은 치안의 기존 편견을 복제할 가능성으로 인해 논란이 많았다. 그러나 머신러닝으로 구동되는 새로운 시스템은 더 나은 예측을 할 뿐만 아니라 이러한 편향을 강조할 수 있다는 약속을 가지고 있다.

현대 머신러닝이 잘하는 것이 한 가지 있다면 패턴을 찾아내고 예측하는 것이다. 따라서 정책 및 법 집행 분야의 많은 사람들이 이러한 기술을 사용하기를 열망하는 것은 놀라운 일이 아니다. 지지자들은 과거 범죄 기록 및 기타 관련 데이터로 AI 모델을 훈련하여 범죄가 언제 어디서 발생할 가능성이 있는지 예측하고 그 결과를 사용하여 경찰 활동을 지시하기를 원한다.

문제는 이런 종류의 데이터가 생각 없이 알고리즘을 훈련하는 데 사용할 때 너무 쉽게 복제될 수 있는 모든 종류의 편향을 숨기는 경우가 많다는 것이다. 이전 접근 방식에는 때때로 그래피티 또는 인구 통계 데이터의 존재와 같은 가짜 변수가 포함되어 있어 모델이 인종 또는 사회경제적 기준에 따라 결함이 있는 연관성을 쉽게 만들 수 있다.

보고된 범죄 또는 체포 건수에 대한 기본적인 경찰 데이터에도 숨겨진 편견이 포함될 수 있다. 기존의 편견으로 인해 범죄율이 높은 것으로 추정되는 특정 지역에 대한 과중한 치안은 거의 필연적으로 더 많은 체포로 이어지게 된다. 그리고 경찰에 대한 불신이 높은 지역에서는 범죄가 보고되지 않는 경우가 많다.

그럼에도 불구하고 범죄 활동의 추세를 미리 예측할 수 있다면 사회에 도움이 될 수 있다. 따라서 시카고 대학의 한 그룹은 범죄가 언제 어디서 발생할 가능성이 이전 시스템보다 더 좋을지 예측하고 치안의 시스템적 편견을 조사하는 데 사용할 수 있는 새로운 머신러닝 시스템을 개발했다.

연구원들은 먼저 폭력 및 재산 범죄에 대한 시카고 경찰의 몇 년치 데이터와 각 사건으로 인한 체포 건수를 수집했다. 그들은 이 데이터를 사용하여 이러한 각 변수의 변경이 다른 변수에 미치는 영향을 보여주는 AI 모델 제품군을 훈련했다.

이를 통해 팀은 네이처 인간 행동(Nature Human Behaviour)의 최근 논문에 보고된 바와 같이 최대 1주일 전에 도시의 1,000피트 너비의 범죄 수준을 90%의 정확도로 예측할 수 있었다. 연구원들은 또한 그들의 접근 방식이 미국의 다른 7개 도시의 데이터에 대해 훈련되었을 때 유사한 정확도를 달성했음을 보여주었다. 그리고 국립 사법 연구소(National Institute of Justice)가 실행하는 예측 치안 도전의 데이터 세트에서 테스트했을 때 120개 테스트 범주 중 119개에서 최고의 접근 방식을 능가했다.

연구원들은 범죄가 주변 지역으로 퍼지기 전에 핫스팟에 나타난다고 가정하여 모델에 공간적 제약을 부과하는 접근 방식을 포기하는 데 성공했다. 대신 그들의 모델은 교통 링크, 통신 네트워크 또는 도시의 다른 지역 간의 인구 통계학적 유사성에 의해 중재될 수 있는 보다 복잡한 연결을 포착할 수 있었다.

그러나 연구에 사용된 데이터가 치안 관행의 기존 편견으로 인해 오염되었을 가능성이 있다는 점을 인식하고 연구자들은 이러한 편견이 법 집행 기관이 자원을 배치하는 방식을 왜곡할 수 있는 방법을 밝히기 위해 자신의 모델을 어떻게 사용할 수 있는지 조사했다.

팀이 부유한 지역의 폭력 범죄와 재산 범죄의 수준을 인위적으로 높였을 때, 가난한 지역의 사람들이 감소함에 따라 체포가 급증했다. 반면 빈곤 지역에서 범죄율이 높아졌을 때 체포 건수는 증가하지 않았다. 연구원들은 이것이 의미하는 바는 부유한 이웃이 경찰에 의해 우선적으로 처리되고 가난한 이웃으로부터 자원을 끌어낼 수 있다는 것이다.

연구 결과를 검증하기 위해 연구원들은 다양한 지역에서 범죄율 증가의 영향을 조사하기 위해 여름철 범죄의 계절적 증가를 사용하여 원시 경찰 데이터도 분석했다. 결과는 모델에 의해 식별된 추세를 반영했다.

정확성에도 불구하고 연구 리더 Ishanu Chattopadhyay는 보도 자료에서 이 도구를 경찰 자원 할당을 직접 결정하는 데 사용해서는 안 되며 대신 더 나은 치안 전략을 조사하는 도구로 사용해야 한다고 말했다. 그는 이 시스템을 경찰이 도시의 여러 지역에서 다양한 범죄 또는 집행 수준의 영향을 이해하는 데 도움이 될 수 있는 "도시 환경의 디지털 트윈"이라고 설명한다.

연구가 예측 치안 분야를 보다 성실하고 책임감 있는 방향으로 이끄는 데 도움이 될 수 있는지 여부는 두고 볼 일이지만, 기술의 공공 안전 잠재력과 상당한 위험 사이의 균형을 맞추려는 모든 노력은 올바른 방향으로 나아가는 단계이다.