AI 기반 공격 임박

2019년부터 현재 영국 의회의 독립 검토자 또는 테러법 제정을 맡고 있는 조다난 홀(Jonathan Hall)은 "AI 챗봇이 폭력적인 극단주의 이데올로기를 전파하도록 프로그래밍되거나 더 나쁘게 결정하는 것은 전적으로 상상할 수 있다고 믿는다"고 데일리 메일에 말했다. "AI 기반 공격이 임박했을 것"이라고 불길하게 경고 했다. 

극단주의자 모집

글로벌 테러 전문가들은 AI에 대해 한동안 논의해 왔지만 그 논의의 대부분은 안면 인식 및 기타 데이터 수집과 같은 AI 도구를 사용하여 테러를 예방하는 것이었다. 

그러나 최근 몇달 동안 딥페이크 기술, 생성 텍스트 및 이미지 AI 시스템과 같은 점점 더 강력해지는 AI 기반 기술의 공개 가용성이 증가하면서 허위 정보 및 텔러리즘에 대한 새로운 우려가 제기 되면서 논위가 바뀌기 시작했다. 

조나단 홀은 증가하는 우려사항에 대해 설득력 있는 사례를 제시하며 ChatGPT와 같은 LLM(대형 언어 모델) 기반 도구는 그들이 무엇을 주장하는지에 관계없이 설득력 있고 자신감 있고 설득력 있게 들리도록 설계되었지만 AI가 생성한 선전 및 허위 정보를 통해 테러리스트가 혼돈을 퍼뜨리기 위해 사용하는 저렴하고 효과적인 도구일 뿐 아니라, 혼자 행동하고 온라인에서 검증 및 커뮤니티를 찾고 있는 사람들을 포함하여 새로운 극단주의자를 모집하기도 한다. 

이상하게 들릴 수 있만, 챗봇은 이미 불만을 품은 사용자가 스스로 목숨을 끊도록 만드는 역할을 한 것으로 알려져 있다. 다른 사람을 해치려는 사용자의 의사를 확인하는 챗봇과 우리는 실제로 얼마나 멀리 떨어져 있을까?

"테러리즘은 삶을 뒤따른다"고 조나단 홀은 데일리 메일에 말했다. "우리 사회가 온라인으로 이용할 때 테러도 온라인으로 이동한다."

일찍 일어나는 새

조나단 홀은 또한 테러리스트들이 "얼리 테크 어답터"인 경향이 있다는 점을 지적하면서 테러리스트 그룹의 "3D프린팅 총과 암호화폐의 오용"을 최근 급증하는 도구를 사용하여 혼돈과 해를 입히는 나쁜 행위자의 사례로 언급했다.

또한 변호사는 현재 AI에 관한 규범과 법률이 얼마나 모호하고(솔직히 상대적으로 존재하지 않기 때문에) AI 테러를 추적하고 기소하는 것이 특히 어려울 수 있다고 말한다. 그리고 그것은 이미 사실이다. 이론적으로 불량 AI가 가드레일을 벗어나 스스로 행동을 시작하면 어떻게 될까? 결코 일어나지 않을 수도 있지만 가능성의 영역 밖에 있는 것은 아니다.

"형법은 로봇까지 확장되지 않는다. AI 그루머는 처벌을 받지 않을 것이다."

조다단 홀은 아울렛에 법이 "인간과 기계 사이에 책임이 분담될 때 안정적으로 작동하지 않는 경우가 많다"고 덧붙였다.