인공지능(AI) 기술의 급속한 발전이 다양한 산업 분야에 혁신을 가져오고 있지만, 이와 동시에 선거 개입과 같은 심각한 부정적 측면이 부상하고 있다. 최근 조지워싱턴대학교 연구진이 발표한 연구에 따르면, 2024년 중반까지 AI를 활용한 악의적 활동이 증가하여 전 세계 50개국 이상의 선거 결과에 영향을 미칠 수 있는 위협이 커지고 있다. 이는 민주주의의 근간을 위협하는 심각한 문제로, 전 세계적인 대응이 시급하다.

AI 기술은 데이터 분석, 패턴 인식, 자연어 처리 등의 능력을 통해 선거 과정에 개입할 수 있다. 이러한 개입은 유권자의 의견 형성과 투표 행동에 영향을 미치며, 결과적으로 선거의 공정성을 해치는 결과를 초래한다. 가짜 뉴스 생성, 여론 조작, 개인 정보의 불법 수집 및 활용 등 다양한 방식으로 이루어지고 있다.

전 세계적으로 증가하는 AI 선거개입 사례

전 세계적으로 AI를 이용한 선거 개입 사례가 증가하고 있다. 특히, 소셜 미디어 플랫폼을 통한 가짜 뉴스의 확산, 유권자 데이터의 불법적 활용, AI 기반의 프로파간다 활동 등이 주요한 형태로 나타나고 있다. 이러한 활동은 유권자들의 의사결정 과정에 영향을 미치며, 선거의 신뢰성을 저하시킨다.

AI 선거 개입, 심각한 위협으로 부상: 악당 AI 활동 증가, 50개국 선거 결과에 영향 미쳤다.

AI 기술 발전의 양날: 인공지능(AI) 기술은 다양한 분야에 혁신을 가져오고 있지만, 선거 개입과 같은 부정적인 측면도 우려되고 있다. 최근 조지워싱턴대학교 연구진의 연구에 따르면, 2024년 중반까지 일상적인 악당 AI 활동이 증가하여 50개국의 선거 결과에 영향을 미칠 수 있는 위협이 커질 것으로 예측되었다.

트롤 팜(Troll Farm)이란?
- 트롤 팜은 인터넷 트롤들로 구성된 기관화된 그룹으로, 정치적 의견과 의사결정에 간섭하기 위해 활동한다. 출처: Wikipedia
트롤 팜의 활동
- 트롤 팜은 페이스북의 Instant Articles 및 Ad Breaks 파트너십 프로그램에도 영향을 미쳤으며, 이를 통해 뉴스를 확산시켰다. 출처: Technology Review
전문적인 트롤링의 글로벌 비즈니스
- 트롤 팜은 종종 고속 인터넷이 제공되는 공동의 물리적 위치에서 활동한다. 이러한 활동은 페이스북과 트위터에서 미스인포메이션을 확산시키는 데 사용된다. 출처: Axios
러시아의 인터넷 리서치 에이전시(IRA)
- 러시아의 인터넷 리서치 에이전시는 트롤 팜 활동과 연관되어 있으며, 세인트 피터즈버그에 위치한 '허브'와 연결되어 있다. 출처: Spyscape
트롤링을 사용하는 정부
- 러시아를 비롯한 여러 국가들이 트롤 팜을 활용하여 분열과 정복 전략을 사용하고 있다. 2014년부터 트롤들이 활동하기 시작했다. 출처: Shortform Books

이러한 정보는 트롤 팜의 활동과 그 영향력을 이해하는 데 중요한 역할을 한다. 그러나 특정 회사나 조직의 이름을 명확히 밝히는 것은 어려운 상황이다. 이는 트롤 팜의 은밀한 성격과 국제적인 법적, 정치적 복잡성 때문이다. 이러한 조직들의 활동은 국제 사회의 감시와 규제가 필요한 중대한 문제로, 민주주의와 정보의 투명성을 지키기 위한 지속적인 노력이 요구된다.

더 자세한 정보를 원하시면, 여기에서 관련 검색을 진행할 수 있습니다.

Troll farm - Wikipedia

wikipedia.org

Troll farms reached 140 million Americans a month on Facebook before 2020 election, internal report shows

technologyreview.com

결론: AI 선거 개입은 민주주의 사회에 심각한 위협이 될 수 있다. 따라서 정부, 기업, 시민 사회가 협력하여 AI 선거 개입을 방지하기 위한 노력을 기울여야 한다.

조지워싱턴대학교 연구진, AI 기술의 악용으로 인한 선거 개입 위협 증가 경고

최근 PNAS Nexus 저널에 발표된 지워싱턴대학교(GWU) 연구진의 새로운 연구에 따르면, 2024년 중반까지 일상적인 악당 AI 활동이 증가하여 전 세계 50개국의 선거 결과에 영향을 미칠 수 있는 위협이 커질 것으로 예측되었다. 이 연구는 악의적인 행위자들이 인공지능(AI)을 어떻게 오용할 수 있는지에 대한 최초의 정량적 과학적 분석을 제공한다.

연구진은 AI 기술의 발전이 많은 긍정적인 변화를 가져왔지만, 동시에 이를 악용하는 사례도 증가하고 있다고 지적했다. 특히, AI를 이용한 정보 조작, 가짜 뉴스 생성, 소셜 미디어에서의 여론 조작 등이 선거 과정에 영향을 미칠 수 있는 주요 위협 요소로 꼽혔다.

이 연구는 AI 기술이 어떻게 선거 과정에 개입할 수 있는지, 그리고 이러한 개입이 선거 결과에 어떤 영향을 미칠 수 있는지에 대한 심층적인 분석을 제공한다. 연구진은 AI가 생성하는 가짜 뉴스와 조작된 정보가 유권자의 의견 형성에 영향을 미칠 수 있으며, 이는 선거 결과에 직접적인 영향을 줄 수 있다고 경고했다.

또한, 연구진은 AI 기술의 악용을 방지하기 위한 국제적인 협력과 강력한 규제가 필요하다고 강조했다. AI 기술의 발전과 함께 이를 악용하는 사례가 증가함에 따라, 기술의 발전을 책임감 있게 관리하고, 악용을 방지하기 위한 국제적인 노력이 절실히 요구된다고 밝혔다.

이 연구는 AI 기술의 발전이 가져올 수 있는 부정적인 영향에 대한 경각심을 불러일으키고 있다. AI 기술이 가져오는 혜택과 위험을 모두 고려하여, 기술의 발전을 책임 있게 관리하는 것이 중요하다는 메시지를 전달하고 있다.

조지워싱턴대학교 연구진의 이번 연구는 AI 기술의 발전과 그 영향에 대한 깊은 이해를 제공하며, 향후 AI 기술의 발전 방향과 규제에 대한 중요한 논의를 촉발할 것으로 기대된다. AI 기술의 악용을 방지하고, 기술 발전의 긍정적인 측면을 극대화하기 위한 국제적인 협력과 노력이 더욱 중요해질 것으로 보인다

조지워싱턴대학교 연구진, 2024년 중반까지 일상적인 악당 AI 활동 증가 예측

조지워싱턴대학교(GWU) 연구진이 주도한 새로운 연구에 따르면, 2024년 중반까지 일상적인 악당 AI 활동이 증가해 50개국의 선거 결과에 영향을 미칠 수 있는 위협이 커진다고 보았다. 연구진은 AI를 사용하여 다음과 같은 방식으로 선거를 조작할 수 있다고 밝혔다.

연구진은 이러한 위협을 완화하기 위해 다음과 같은 조치가 필요하다고 제안했다.

연구진은 "AI는 선거에 미칠 수 있는 잠재적인 위협이 증가하고 있다"며 "이러한 위협을 완화하기 위한 조치를 취하지 않으면 선거의 공정성과 신뢰성이 위협받을 수 있다"고 경고했다.

조지워싱턴대학교(GWU) 연구진이 주도한 새로운 연구에서는 2024년 중반까지 일상적인 악당 AI 활동이 증가해 50개국의 선거 결과에 영향을 미칠 수 있는 위협이 커질 것으로 예측했다. 최근 PNAS Nexus 저널에 발표된 이 연구는 악의적인 행위자가 전 세계적으로 AI를 어떻게 오용할지 예측하는 최초의 정량적 과학적 분석이다.

●악의적인 행위자는 악의적인 활동을 완화하기 위해 더 많은 가드레일이 있는 경향이 있는 GPT 3 및 4와 같은 고급 시스템보다는 플랫폼의 정보를 조작하고 편향하기 위해 기본 GPT(생성적 사전 훈련된 변환기 Generative Pre-trained Transformer) AI 시스템만 필요하다.

●23개 소셜 미디어 플랫폼에 걸친 도로 네트워크를 통해 악의적인 행위자 커뮤니티가 사용자가 모르는 사이에 전 세계 수십억 명의 사용자와 직접 연결될 수 있다.

●AI가 주도하는 악의적 행위자 활동은 2024*년 여름까지 일상적으로 발생하게 될 것이다.

●소셜 미디어 회사는 모든 콘텐츠를 제거하는 것이 아니라 허위 정보를 억제하기 위한 전술을 배포해야 한다. 연구원에 따르면 이는 더 작고 고립된 행위자를 참으면서 조정된 활동의 더 큰 부분을 제거하는 것처럼 보인다.

* 이를 확인하기 위해 연구원들은 온라인 전자 정보 시스템 조작과 관련된 두 가지 역사적, 기술적으로 유사한 사건의 프록시 데이터를 사용했다. 첫 번째 데이터 세트는 2008년 미국 금융 시장에 대한 자동화된 알고리즘 공격에서 나온 것이고, 두 번째 데이터 세트는 2013년 미국 인프라에 대한 중국 사이버 공격에서 나온 것이다. 이러한 데이터 세트를 분석함으로써 연구원들은 이러한 체인의 공격 빈도를 추정할 수 있었다. AI의 현재 기술 발전 맥락에서 이 정보를 조사한다.

오픈 액세스 논문인 "온라인 전장에서 대규모로 악의적 행위자 AI 활동 제어"가 PNAS Nexus 저널에 게재되었다. 이 연구는 미 공군 과학연구국과 템플턴 재단의 자금 지원을 받았다.

AI를 악용한 선거 개입 사례, 전 세계적으로 증가, AI 선거개입 방지 위한 대책 마련 시급

AI의 발전은 다양한 분야에 혁신을 가져오고 있지만, 선거 개입과 같은 부정적인 측면도 우려되고 있다. 최근 조지워싱턴대학교 연구진이 주도한 새로운 연구에 따르면, 2024년 중반까지 일상적인 악당 AI 활동이 증가해 50개국의 선거 결과에 영향을 미칠 수 있는 위협이 커질 것으로 예측되었다.

연구진은 AI를 사용하여 다음과 같은 방식으로 선거를 조작할 수 있다고 밝혔다.

연구진은 이러한 위협을 완화하기 위해 다음과 같은 조치가 필요하다고 제안했다.

AI의 선거개입은 이미 전 세계적으로 증가하는 추세다. 2016년 미국 대선에서는 러시아가 AI를 사용하여 허위 정보를 퍼뜨리고 유권자들의 여론을 조작한 것으로 알려졌다. 또한, 2020년 한국 대선에서는 AI를 사용하여 유권자들의 개인 정보를 도용하고 투표를 조작하려는 시도가 있었다.

AI의 선거개입은 선거의 공정성과 신뢰성을 위협하는 심각한 문제이다. 이러한 위협을 완화하기 위해서는 선거 당국과 시민사회의 협력이 필요하다. 선거 당국은 선거 시스템 보안 강화, 허위 정보 탐지 및 대응 역량 강화, 개인 정보 보호 강화 등의 조치를 통해 선거를 AI 공격으로부터 보호해야 한다. 또한, 시민사회는 AI의 선거개입에 대한 인식을 높이고, 허위 정보에 대한 감별력을 키우기 위한 노력을 해야 한다.

이러한 자료와 연구보고서를 통해 AI의 선거개입에 대한 이해를 높이고, 선거의 공정성과 신뢰성을 지키기 위한 노력에 동참하시기 바란다.

AI 기술의 선거 개입에 관한 최신 연구 보고서 및 자료

Artificial Intelligence and Election Security | Brennan Center for Justice 이 보고서는 선거 인프라와 인력을 AI 생성 위협으로부터 보호하기 위한 최선의 방법을 제시한다. AI 기술이 선거 보안에 미치는 영향과 이를 방지하기 위한 전략에 대해 다루고 있다. 자세히 보기
Davos Report: AI-Driven Election Interference Tops 2024 Global ... | LinkedIn 이 보고서는 중요한 글로벌 선거가 많은 한 해에 인공지능(AI)이 선거 결과에 미치는 영향이 주요 이슈로 부상했다고 언급한다. AI의 선거 개입이 2024년 글로벌 이슈의 정점에 오를 것으로 예측한다. 자세히 보기
Experts warn of AI and social media impact on elections | Spectrum News 1 이 기사에서는 전문가들이 AI와 소셜 미디어가 선거에 미치는 영향에 대해 경고하고 있다. AI가 생성하는 가짜 뉴스와 정보 조작이 선거 결과에 영향을 미칠 수 있다는 내용을 다룬다. 자세히 보기
AI can strengthen U.S. democracy—and weaken it | Brookings 이 기사는 인공지능의 발전이 미국 민주주의를 강화하고 약화시킬 수 있는 방법에 대해 설명한다. AI 기술이 선거 과정에 미치는 긍정적 및 부정적 영향을 분석한다. 자세히 보기
Safeguards for Using Artificial Intelligence in Election Administration | Brennan Center for Justice 이 자료는 선거 관리에서 AI를 사용하는 데 있어 필요한 안전장치를 검토한다. AI 기술이 어떻게 선거 사무소에서 이미 사용되고 있으며, 기술이 발전함에 따라 그 사용이 어떻게 진화할 수 있는지를 탐구한다. 자세히 보기

이러한 연구 보고서들은 AI 기술이 선거 개입에 어떻게 사용될 수 있는지, 그리고 이러한 개입이 민주주의에 어떤 영향을 미칠 수 있는지에 대한 중요한 통찰을 제공한다. AI 기술의 발전과 함께 이를 악용하는 사례가 증가함에 따라, 기술의 발전을 책임 있게 관리하고, 악용을 방지하기 위한 국제적인 노력이 절실히 요구된다는 점을 강조한다.

더 많은 정보를 원하시면, 여기에서 추가적인 자료를 찾아볼 수 있다. AI 기술의 선거 개입에 관한 연구와 보고서는 우리 사회가 직면한 중대한 문제에 대한 이해를 높이고, 이에 대응하기 위한 전략을 수립하는 데 중요한 역할을 할 것.

AI가 2024년 선거를 어떻게 변화시킬 것인가 (브루킹스연구소)

공화당전국위원회(RNC)가 조 바이든을 비판하기 위해 AI가 생성한 비디오를 사용했다는 최근 뉴스는 AI가 다가오는 선거를 얼마나 변화시킬 가능성이 있는지 보여줍니다. 디지털 기술의 발전은 정치적 메시지를 전달하기 위한 새롭고 빠른 도구를 제공하며 유권자, 정치인, 기자가 후보자와 캠페인을 보는 방식에 큰 영향을 미칠 수 있습니다. 우리는 더 이상 사람의 외모에 작은 변화를 주거나 누군가의 머리를 다른 사람의 몸에 얹는 것에 대해 이야기하는 것이 아니라 오히려 대대적인 디지털 제작 및 보급이 이루어질 시대로 이동하고 있습니다. 사용하기 쉽고 저렴한 템플릿을 통해 우리는 가짜 자료와 실제 자료를 구별하는 능력이 제한되고 이러한 항소가 선거에 어떤 영향을 미칠지에 대한 불확실성이 있는 캠페인 주장과 반소의 황량한 서부에 직면하게 될 것입니다.

즉각적인 응답

정치인은 생성 AI를 사용하여 캠페인 개발에 즉각적으로 대응할 수 있습니다. RNC의 경우 바이든의 재선 발표 직후 새 영상을 공개했다. 파티가 광범위한 촬영, 편집 또는 검토를 거친 것으로 보이지는 않습니다. 오히려 바이든이 재선될 경우 디스토피아적인 미국의 미래를 자세히 설명하는 비디오를 작성하도록 도구에 요청했습니다.

내년에는 응답 시간이 몇 시간이나 며칠이 아닌 몇 분으로 줄어들 수 있습니다. AI는 인터넷을 검색하고 전략을 생각하며 강력한 호소력을 발휘할 수 있습니다. 한 후보자의 장점을 다른 후보자보다 선전하는 연설, 보도 자료, 사진, 농담 또는 비디오가 될 수 있습니다. AI는 고액의 컨설턴트나 전문 비디오그래퍼에게 의존하지 않고도 즉각적인 응답을 생성할 수 있는 저렴한 방법을 제공합니다.

정확한 메시지 타겟팅

AI는 정치 캠페인에서 매우 중요한 매우 정확한 청중 타겟팅을 가능하게 합니다. 후보자들은 이미 자신의 캠페인을 지지하거나 반대하는 사람들에게 돈을 낭비하고 싶어하지 않습니다. 오히려 실제 선거를 결정하는 소수의 부동층을 표적으로 삼 거나, 다른 선거운동을 지지하는 이들의 투표율을 억제하려는 것이다 . 정치적 양극화 비율이 높기 때문에 유권자 중 소수만이 대통령 수준에서 결정을 내리지 못했다고 답했습니다. 2023년 4월 에머슨 칼리지 설문조사 에 따르면 유권자 중 6%만이 바이든을 지지하는 43%, 트럼프를 선호하는 41%, 다른 후보를 선호하는 10%로 결정을 내리지 못한 것으로 나타났습니다.

총선이 가까워졌다는 것은 AI가 후보자를 도울 수 있는 방법을 나타냅니다. 사람들의 읽기, 보기, 구매 및 정치적 행동에 대한 자세한 정보를 가지고 있는 상업 데이터 브로커의 마이크로데이터를 사용하여 캠페인 담당자는 타겟팅을 미세 조정하고 아직 마음을 결정하지 못한 사람들에게 다가가서 정확한 메시지를 전달할 수 있습니다. 최종 결정을 내리는 데 도움이 될 것입니다. AI는 이 자료를 실시간으로 분석함으로써 운동가들이 특정 정책과 당파적 의견에 대해 호소하는 방식으로 특정 투표 블록을 추적할 수 있게 해줄 것입니다.

허위 정보의 민주화

AI는 자신이 선호하는 후보자를 홍보하는 데 관심이 있는 일반 사람들에게 정교한 도구를 제공함으로써 허위 정보를 민주화할 가능성이 높습니다. 사람들은 더 이상 텍스트, 이미지, 비디오 또는 프로그램을 생성하기 위해 코딩 전문가나 비디오 마법사가 될 필요가 없습니다. 그들은 야당을 혼란에 빠뜨리기 위해 반드시 트롤 농장에서 일할 필요는 없습니다. 그들은 단순히 고급 기술을 사용하여 원하는 메시지를 전파할 수 있습니다. 그런 의미에서 누구나 정치 콘텐츠 창작자가 되어 유권자나 언론에 영향력을 행사할 수 있습니다.

위험성이 큰 선거에서 감정이 격렬하게 흐르기 때문에 많은 유권자들은 야당을 약화시키기 위해 고안된 허위 정보를 퍼뜨리려는 동기를 가질 수도 있습니다. 누군가가 소음을 일으키고, 불확실성을 조성하고, 잘못된 이야기를 전개할 수 있다면 그것은 유권자를 움직이고 선거에서 승리하는 효과적인 방법이 될 수 있습니다. 2024년 대통령 선거는 일부 주에서 수만 명의 유권자로 귀결될 수 있으므로 사람들을 한 방향 또는 다른 방향으로 움직일 수 있는 모든 것이 결국 결정적인 결과를 가져올 수 있습니다.

새로운 기술을 통해 사람들은 불만을 화폐화하고 다른 사람들의 두려움, 불안, 분노로부터 돈을 벌 수 있습니다. 제너레이티브 AI는 이민, 경제, 낙태 정책, 비판적 인종 이론, 트랜스젠더 문제 또는 우크라이나 전쟁에 불만을 품은 사람들을 겨냥한 메시지를 개발할 수 있습니다. 또한 사회적, 정치적 불만을 활용하는 메시지를 생성하고 AI를 주요 참여 및 설득 도구로 사용할 수 있습니다.

가드레일이나 공개 요구 사항이 거의 없음

내년을 특히 걱정스럽게 만드는 것은 가짜 뉴스, 허위 정보 또는 거짓 서술로부터 유권자를 보호하는 가드레일이나 공개 요구 사항이 부족하다는 것입니다. 캠페인 연설은 보호받는 연설이기 때문에 후보자는 법적 보복의 위험 없이 원하는 대로 말하고 행동할 수 있습니다. 그들의 주장이 명백히 허위라고 하더라도 판사들은 후보자가 자유롭고 거짓으로 말할 수 있는 권리를 오랫동안 옹호해 왔습니다. 올해 Fox News 에서 볼 수 있는 유형의 명예훼손 소송은 정치 후보에 관한 경우가 드물며 풍부한 자원을 갖춘 소송 당사자들과만 협력합니다.

개인이나 조직 모두 생성 AI를 사용하여 비디오를 제작하거나 특정 캠페인 호소력을 개발했다는 사실을 공개할 필요가 없습니다. RNC가 최근 광고를 자발적으로 공개한 것은 칭찬받을 만하지만, 그것이 표준이 될 것이라고 생각할 이유는 거의 없습니다. 사람들은 공개 없이 새로운 콘텐츠 도구를 사용할 가능성이 높으며 유권자가 진짜 호소와 가짜 호소를 구별하는 것이 불가능할 것입니다.

AI는 미국 민주주의를 강화할 수도 있고 약화시킬 수도 있다

(브루킹스연구소)

척 슈머 상원 원내대표(D-NY)가 선거와 올바른 거버넌스에 초점을 맞춘 최신 AI 인사이트 포럼에 이어 모든 시선은 인공지능(AI)과 민주주의의 발전하는 교차점에 쏠려 있습니다. 양당의 상원 포럼 시리즈를 보완하는 것은 Biden 행정부의 최근 AI에 대한 행정 명령 과 Kamala Harris 부통령이 AI Safety Summit에 참석하기 위해 영국을 방문한 것 입니다. AI에 대한 관심이 높아지면서 미국과 전 세계적으로 민주주의 상태에 대한 관심이 높아졌습니다. AI와 민주주의의 융합에 따른 위험과 가능성에 관한 새로운 시리즈의 첫 번째 부분에서는 AI가 민주적 거버넌스와 그 실행을 변화시킬 수 있는 세 가지 주요 영역에 대한 개요를 제공합니다. 시리즈의 후속 기사에서는 이러한 주제와 국회의원을 위한 정책 권장 사항에 대한 심층적인 정보를 제공할 것입니다.

선거관리

AI는 미국이든 전 세계 민주주의 국가에서든 여론 조사를 감독하기 위한 선거 공무원과 직원의 중요한 노력을 지원할 수 있습니다. 예를 들어 AI는 선거 관리 프로세스를 개선하여 더욱 효율적이고 안정적이며 안전하게 만들 수 있습니다. 주의 깊게 모니터링하면 AI는 유권자 목록과 투표 기계에서 우려되는 변칙 사항을 식별하여 사기나 선거권 박탈을 선제적으로 발견할 수 있습니다. AI 기반 집계기는 투표소 직원보다 더 빠르게 종이 투표용지를 스캔할 수 있어 선거 결과를 보고하거나 재검표를 수행하는 데 필요한 시간을 줄일 수 있습니다. 이 더 빠른 영상은 2020년 선거 이후 우편 투표용지가 유입되면서 여러 주요 주에서 며칠 동안 개표를 해야 했던 것과 같은 치열하고 논쟁이 치열한 경선에서 사기 혐의를 조용히 하는 데 도움이 될 수 있습니다.

그러나 선거 관리인은 발생할 수 있는 위험을 조심해야 합니다. 방대한 양의 공공 데이터를 찾아 합성하는 AI의 능력은 공개 도메인에 연락처 정보가 존재하는 선거 공무원을 대상으로 한 피싱 공격을 생성할 수 있습니다. 이러한 공무원이 민감한 유권자 및 정부 데이터에 대한 접근 권한을 갖고 있는 경우, 이들의 개인 정보 및 행정 업무가 맬웨어나 랜섬웨어에 의해 악용되면 그들이 감독하는 선거의 무결성이 위태로워질 수 있습니다. AI 모델은 특히 근거 없는 선거 사기 이야기 에 더 취약할 수 있는 정보가 부족한 시민들에게 잘못된 정보나 허위 정보를 퍼뜨림으로써 유권자를 더욱 억압하고 권리를 박탈하도록 작성될 수도 있습니다 . 또한 AI를 사용하여 유권자 명부를 "정리"하는 방식에 당파적 편견이 있을 수 있으며, 소수 유권자가 불균형적으로 표적이 됩니다.

캠페인 및 유권자 교육

AI는 이미 미국과 전 세계 다른 민주주의 국가에서 선출직 후보자가 캠페인을 수행하는 방식을 바꾸고 있습니다. 또한 새로운 기술은 유권자가 후보자와 문제에 대한 정보를 찾고 소비하는 방식을 좋게든 나쁘게든 바꾸고 있습니다. 이러한 변화는 선거일까지 이어지는 모든 단계에서 기회와 위험을 제시합니다.

AI가 캠페인 경쟁의 장을 민주화하고, 개선하고, 평준화할 수 있는 기회는 많습니다. AI 도구는 신규 후보자와 자금이 부족한 후보자의 진입에 대한 재정적 장벽을 낮출 수 있습니다. 디지털 기금 모금 메커니즘은 AI 기반 간소화 의 이점을 누릴 수 있습니다 . 후보자는 또한 결정을 내리지 못한 유권자에게 보다 효과적으로 다가갈 수 있는 표적 광고를 이용할 수도 있습니다 . 이는 유권자에게 투표함에서 선택할 수 있는 옵션에 대해 더 잘 교육하는 연쇄 효과가 있습니다. AI는 선거 관리 공무원이 효과적이고 투명하게 사용하여 후보자의 경쟁의 장을 부당하게 기울이고 유권자의 의사 결정에 영향을 미치는 유해한 증오심 표현을 추적하고 보고할 수 있습니다.

반대로, AI는 현재 선거 시즌에 전형적인 잘못된 정보와 허위 정보의 홍수를 악화시킬 수 있습니다. AI는 반자유주의적인 비국가 행위자 와 독재 정권 에 비교적 저렴한 무인 도구를 제공하여 적들이 유권자를 더 멀리 떼어놓고 가성 양극화와 내부 불안정을 촉진할 수 있습니다. 정치 봇 , 딥페이크 및 기타 AI 생성 영상은 이미 전 세계 민주주의 국가의 선거 전 정보 생태계를 뒤흔들었습니다. 완전히 가짜 뉴스로 구성된 뉴스 사이트인 " 핑크 슬라임 " 을 빠르게 생성하는 AI의 능력은 기존의 선거 간섭 전술을 강화할 수 있는 잠재력을 보여줍니다 . 많은 민주주의 국가들이 2024년 에 중대한 선거를 향해 행진함에 따라 AI로 인한 정보 혼란의 위험은 더욱 심각해지고 있습니다 .

시민참여와 참여

선거와 투표 외에도 민주적 거버넌스의 다른 측면은 국내 및 국제적으로 AI 혁명으로 인해 혜택을 받고 도전에 직면할 수 있습니다. 새로운 기술은 시민들이 자신의 의견을 표명하고, 비슷한 입장으로 다른 사람들을 조직하고, 투표함 밖에서도 우선순위에 따라 행동하는 데 도움이 될 것입니다. 그러나 동일한 기술을 통해 악의적인 행위자가 자신의 계략을 진정한 대중 감정인 것처럼 위장할 수도 있습니다.

AI는 정책 및 규칙 제정에 대한 대중 영향력의 초석인 공개 논평 프로세스를 더욱 민주화할 수 있습니다. 기계 학습은 개인의 관심사를 수집하고 요약 할 수 있으며 궁극적으로 규제 기관이 공개 의견을 받는 특정 문제와 이러한 우선순위를 일치시킬 수 있습니다. 생성적 AI는 국가 및 지역 차원의 활동가와 노련한 정치인 모두가 다양한 청중에게 자신의 의견을 더욱 설득력 있게 만들 수 있도록 지원할 수 있습니다. 이러한 기술은 입법문을 단순화하고 대표자의 투표를 추적함으로써 선출된 공무원이 고려하고 있는 복잡한 법률에 대한 시민들의 이해를 강화할 수도 있습니다 .

반대 측면은 여론을 왜곡하려는 옹호 단체나 개인이 AI에서 동맹을 찾을 수 있다는 것입니다. ChatGPT와 같은 AI 기반 프로그램은 선출직 공무원에게 보내는 편지, 공개 논평, 기타 특정 법안이나 입장에 대한 지지 서면을 조작 할 수 있는데, 이는 실제 유권자가 작성한 것과 구별하기 어려운 경우가 많습니다. 이러한 조작과 그것이 만들어질 수 있는 속도와 양은 특정 문제에 대한 대중의 합의를 이끌어내고 입법자들이 원하는 의제에 따라 행동하도록 압력을 가하는 데 사용될 수 있습니다 . 더 나쁜 것은 생성 AI 도구를 활용한 음성 및 이미지 복제본이 후보자와 선출직 공무원을 모방할 수도 있다는 것입니다. 이러한 전술은 유권자가 이러한 사기 행위를 인지하게 되면 유권자 혼란을 야기하고 선거 과정에 대한 신뢰를 떨어뜨릴 수 있습니다.

결론

AI와 민주주의의 융합에서 새로운 위험과 보상을 식별하는 것은 위험이 높습니다. 내년에는 미국과 전 세계 국가에서 35억 명 이상의 인구를 대표하는 매우 중요한 선거가 치러질 것입니다 . 반민주적 행위자들과 독재자들은 자유롭고 공정한 선거와 좋은 통치를 보장하는 시스템을 표적으로 삼아 민주주의에 대한 신뢰를 흔들 수 있는 모든 기회를 모색할 것입니다.

민주당 정부, 정책 입안자, 선거 옹호자들은 모범 사례와 필요한 경고 말로 대응하고 있습니다. 앞서 언급한 바이든 행정부의 AI 행정 명령은 이러한 신기술에 대한 하향식 접근 방식의 유망한 출발점으로 평가받아 왔습니다. AI 친화적이고 경계심이 강한 국회의원들 모두 초당적인 AI 규제 체제 에 관심을 갖기 시작했습니다 . 그리고 시민사회는 시민과 인권에 관한 리더십 컨퍼런스 , 법에 따른 시민권을 위한 변호사 위원회 , 브레넌 정의 센터 , 공공 시민 , 브루킹스(이들이 해당 주제에 대해 자신의 광범위한 작업을 수행함 ). 그들은 다른 많은 사람들과 함께 기술 전문 지식과 민주주의에 대한 헌신을 결집하여 지역, 주 및 연방 규제 기관에 최첨단 지침을 제공하고 있습니다.

AI 혁명의 파괴적인 영향을 최소화하고 긍정적인 민주적 잠재력을 극대화하는 것은 다가오는 2024년 미국 대통령 선거 및 기타 유사한 중추적 경쟁에서 필수적입니다. 그러나 효과적이고 투명한 전략과 지침의 필요성은 내년을 넘어서는 것입니다. AI 기반 도구는 초기 단계에 있습니다. 이들의 영향은 기관이 데이터를 수집하는 방법부터 선거가 진행되는 방법, 유권자가 투표 등록 및 투표하는 방법에 이르기까지 정부의 모든 구석과 기능에 영향을 미칠 가능성이 높습니다. 기술이 발전함에 따라 정책 입안자, 옹호자 및 시민은 AI가 더 좋고 더 포용적인 민주주의를 위한 힘으로 활용되도록 계속해서 따라잡아야 합니다.

Artificial Intelligence and Election Security

brennancenter.org

Experts warn of AI and social media impact on elections

spectrumnews1.com

AI can strengthen U.S. democracy—and weaken it | Brookings

brookings.edu

Safeguards for Using Artificial Intelligence in Election Administration

bren

트롤 활동을 조사할 때 사람들이 주의해야 할 점은 무엇인가요?

12명의 필리핀 상원의원은 최근 트롤 농장에 공공 자금이 사용되고 있다는 보고에 대한 조사를 요청하는 결의안을 제출했습니다.

상원 결의안 768호는 필리핀 국민들이 왜 중앙 정부가 코로나19 지원, 의료, 식량 안보, 일자리 보호, 교육과 같은 시급한 문제보다는 이러한 운영에 돈을 지출하는 데 초점을 맞추고 있는지 알아야 한다고 말합니다.

결의안에 서명한 상원의원은 Vicente Sotto III 상원의장, Ralph Recto 임시 상원 의장, Franklin Drilon 상원 소수당 대표, Francis Pangilinan, Nancy Binay, Leila de Lima, Richard Gordon, Risa Hontiveros, Panfilo Lacson, Manny Pacquiao 상원의원입니다. 그레이스 포, 조엘 빌라누에바.

트롤 농장, 허위 정보의 확산, 소셜 미디어의 무기화는 필리핀인들에게 새로운 것이 아닙니다. 소셜 미디어는 2016년 대선에서 로드리고 두테르테 (Rodrigo Duterte)가 승리하는 데 핵심적인 요인이었으며 , 국제 전문가들은 디지털 허위 정보와 관련하여 필리핀을 ' 최초 환자 '라고 불렀습니다.

We Are Social과 Hootsuite의 연례 보고서 에 따르면 필리핀은 2021년 소셜 미디어 사용 시간 부문에서 세계 1위를 차지했습니다 . 이는 우리나라가 이 순위를 6년 연속 획득한 것이다.

상원의원들은 소셜 미디어와 인터넷 사용의 증가가 인터넷 트롤의 확산을 위한 길을 열었다고 말했습니다.

상원의원이 거짓말, 증오, 허위 정보를 퍼뜨리는 이러한 온라인 활동을 조사할 경우 그들이 물어봐야 할 몇 가지 질문은 다음과 같습니다.

누가 이 메시지를 퍼뜨리고 있나요?

더 넓은 범위를 위해 영향력 있는 인물이나 권력을 가진 사람들을 활용하는 것보다 트롤 군대를 동원하는 더 좋은 방법이 있을까요?

두테르테 행정부가 대통령에 대한 지지를 활용하는 한 가지 방법은 온라인 정서를 통제하기 위해 비판자들에 대한 독설적인 공격을 합법화하는 것입니다.

모카 우손(Mocha Uson) , RJ 니에토( RJ Nieto) 등 세간의 이목을 끄는 친두테르테 선전가들은 정부 직책을 맡거나 공적 자금을 이용해 컨설턴트로 고용됐다.

2020년에 Facebook은 허위 신원을 사용하고 필리핀 군 또는 경찰 과 연결되어 있는 것으로 밝혀진 계정 네트워크도 제거했습니다 . 테러 방지법 에 따라 이러한 계정은 국가의 적으로 인식되는 사람들에 대한 거짓말과 증오를 퍼뜨리고 있었습니다 .

또한 유명인들은 선전과 가짜 뉴스를 퍼뜨려 의심스러운 사이트와 가짜 네트워크에 정당성을 부여하는 것으로 밝혀졌습니다.

그러나 이러한 네트워크 뒤에 있는 운영자를 식별하는 것 외에도 조사관은 이러한 사람들이 책임을 지게 되도록 해야 합니다.

2019년 페이스북은 허위 행위에 연루된 계정 네트워크를 삭제했으며 , 이는 2016년 대선 캠페인에서 두테르테의 소셜 미디어 관리자인 닉 가부나다(Nic Gabunada)가 추적한 것입니다. 2021년 6월, 그는 재무부에 커뮤니케이션 전략 컨설턴트로 채용되었습니다 .

이러한 운영으로 누가 이익을 얻나요?

트롤 군대 작전의 주체와 목표는 뒤에 있는 사람들에게 더 많은 단서를 제공할 수 있습니다.

미국에 본사를 둔 네트워크 분석 회사인 Graphika는 Gabunada의 가짜 네트워크와 관련된 페이지가 놀랍게도 친정부 콘텐츠는 물론 정치적 반대자들에 대한 음모론을 퍼뜨린다는 사실을 발견했습니다.

별도의 보고서에서 Graphika는 중국의 가짜 계정 네트워크가 Imee Marcos 상원의원 에게 상당한 초점을 맞추고 있음을 발견했습니다 . Rappler는 또한 이전에 Marcos 가족을 지원하는 다른 가짜 네트워크 와 Marcos 가족에 대한 광범위한 허위 정보가 필리핀 역사를 다시 쓰려고 시도한 방법에 대해 보고했습니다.

가장 최근에 Rappler가 크라우드소싱한 정보에 따르면 2022년 잠재적 후보를 홍보하기 위해 페이스북 페이지와 그룹, 팔로어가 많은 트위터 계정의 이름이 변경된 것으로 나타났습니다. 보고서는 이러한 관행이 두테르테 대통령의 딸인 다바오 시장 사라 두테르테를 포함해 대부분 그의 동맹국들에게 이익이 된다는 것을 보여줍니다. Karlo Nograles 내각 장관과 Taguig City 1지구 대표 Alan Peter Cayetano.

트롤들은 어디에서 활동하고 있나요?

필리핀 최고의 소셜 미디어 플랫폼은 YouTube, Facebook, Instagram, Twitter 및 TikTok입니다. 이러한 플랫폼은 특히 2022년 선거가 다가옴에 따라 허위 정보 작전의 전쟁터가 될 수 있습니다.

국내에서 가장 인기 있는 플랫폼인 YouTube 의 불분명한 정책으로 인해 플랫폼에서 허위 주장이 많이 발생했습니다. 마르코스의 금 주장 에 대한 동영상 과 두테르테 옹호 동영상 블로거의 오해의 소지가 있는 동영상이 YouTube에서 매우 흔합니다.

Facebook의 제3자 사실 확인 프로그램은 채팅 앱인 메신저에 잘못된 정보와 허위 정보가 퍼지는 것을 막지 못합니다 . 비공개 메시지와 채널을 사용하면 허위 게시물이 플랫폼에서 감지되지 않은 채 확산될 수 있습니다. – 래플러닷컴

https://magazine.mindplex.ai/mp_news/bad-actor-ai-activity-will-escalate-by-mid-2024-amplifying-disinformation-in-election-season-gwu-researchers/