존 휘틀,
인공지능(AI)은 인간과 함께 일하는 방법에 대해 더 많이 배우고 있다. AI가 인간의 습관과 행동의 취약성을 식별하고 이를 사용하여 인간의 의사결정에 영향을 미치는 방법을 배우는 방법을 보여주었다.
AI가 우리가 살고 일하는 방식의 모든 측면을 변화시키고 있다고 말하는 것은 사실이다. 백신개발, 환경관리, 사무관리 등 다양한 분야에서 다양한 형태의 AI가 활동하고 있다. AI는 인간과 같은 지능과 감정을 가지고 있지 않지만 그 능력은 강력하고 빠르게 발전하고 있다.
아직 머신 인수에 대해 걱정할 필요는 없지만 최근 발견된 이번 발견은 AI의 힘을 강조하고 오용을 방지하기위한 적절한 거버넌스의 필요성을 강조한다.
AI가 인간행동에 영향을 미치는 방법을 배울 수있는 방법
호주국립과학기관의 데이터 및 디지털 부서 CSIRO의 Data61 연구팀은 반복 신경망 및 심층 강화라는 일종의 AI시스템을 사용하여 사람들이 선택하는 방식에서 취약성을 찾아내고 악용하는 체계적인 방법을 고안했다. 그들의 모델을 테스트하기 위해 그들은 인간 참가자가 컴퓨터를 상대로 게임을하는 세 가지 실험을 수행했다.
첫 번째 실험에서는 참가자가 빨간색 또는 파란색 상자를 클릭하여 가짜 통화를 획득하고 AI가 참가자의 선택패턴을 학습하고 특정 선택으로 안내하는 방식으로 진행했다. AI는 약 70%의 시간 동안 성공했다.
두 번째 실험에서 참가자는 화면을보고 특정 기호 (예 : 주황색 삼각형)가 표시 될 때 버튼을 누르고 다른 기호 (예 : 파란색 원)가 표시 될 때 누르지 않아야했다. 여기에서 AI는 참가자들이 더 많은 실수를 할 수 있도록 기호의 순서를 배열하기 시작했고 거의 25%의 성공을 달성했다.
세 번째 실험은 참가자가 수탁자 (AI)에게 돈을주는 투자자인 척하는 여러 라운드로 구성되었다. 그런 다음 AI는 참가자에게 일정 금액을 반환하고 참가자는 다음 라운드에 얼마를 투자할지 결정한다. 이 게임은 두 가지 다른 모드로 진행되었다. 하나는 AI가 결국 얼마나 많은 돈을 벌어 들일지 극대화하기 위해 나가고 다른 하나는 AI가 자신과 인간 투자자 사이에 공정한 돈을 분배하는 것을 목표로했다. AI는 각 모드에서 매우 성공적이었다.
각 실험에서 기계는 참가자의 반응을 통해 학습하고 사람들의 의사결정에있는 취약점을 식별하고 목표로 삼았다. 최종결과는 참가자를 특정 행동으로 유도하는 기계학습이었다.
연구가 AI의 미래를 위해 의미하는 것
이러한 결과는 여전히 매우 추상적이며 제한적이고 비현실적인 상황과 관련이 있다. 이 접근방식이 어떻게 실행되고 사회에 도움이되는지를 결정하기 위해서는 더 많은 연구가 필요히다.
그러나 이 연구는 AI가 무엇을 할 수있을뿐만 아니라 사람들이 어떻게 선택하는지에 대한 우리의 이해를 발전시킨다. 그것은 기계가 우리와의 상호 작용을 통해 인간의 선택을 유도하는 방법을 배울 수 있음을 보여준다.
이 연구는 행동과학 및 공공정책을 강화하여 사회복지를 개선하는 것에서부터 사람들이 건강한 식습관 또는 재생에너지를 채택하는 방법을 이해하고 영향을 미치는 방법에 이르기까지 광범위한 응용프로그램을 제공한다. AI와 기계학습은 특정상황에서 사람들의 취약성을 인식하고 잘못된 선택에서 벗어나도록 돕는데 사용될 수 있다.
이 방법은 영향 공격으로부터 방어하는 데에도 사용할 수 있다. 우리가 온라인에서 영향을 받고있을 때 우리에게 경고하고 우리의 취약성을 위장하기위한 행동을 형성하는 데 도움이되도록 기계를 교육 할 수 있다 (예 : 일부 페이지를 클릭하지 않거나 다른 페이지를 클릭하여 잘못된 흔적을 남김).
무엇을 해야하는지 향후 계획?
다른 기술과 마찬가지로 AI는 좋든 나쁘든 사용할 수 있으며 적절한 거버넌스는 책임감있는 방식으로 구현되도록하는 데 중요하다. 작년 CSIRO는 이 여정의 초기단계로 호주정부를위한 AI윤리프레임워크를 개발했다.
AI와 머신러닝은 일반적으로 데이터에 대한 관심이 매우 높기 때문에 데이터 거버넌스 및 액세스를위한 효과적인 시스템을 확보하는 것이 중요하다. 데이터수집시 적절한 동의 프로세스 및 개인정보 보호를 구현하는 것이 필수적이다.
AI를 사용하고 개발하는 조직은 이러한 기술이 할 수있는 일과 할 수없는 일을 파악하고 잠재적인 위험과 이점을 인식해야한다. ScienceAlert.com을 통해
