IEEE, 캘리포니아의 "AI 안전" 법안은 전 세계에 영향을 미칠 것] 최근 통과된 법안은 세계 대부분의 대형 AI 기업에 영향을 미칠 것

수요일, 캘리포니아 의원들은 인공지능 소프트웨어로 인한 재앙적 피해를 예방하기 위한 법안을 통과시켰습니다. 프런티어 인공지능 모델을 위한 안전하고 보안이 유지되는 혁신법 으로 알려진 이 법안은 캘리포니아에서 사업을 하는 특정 AI 회사가 안전 평가 및 기타 조치를 통해 5억 달러를 넘는 엄청난 인명 손실이나 피해를 억제하도록 요구합니다.

세계 최대의 AI 기업 대부분은 골든 스테이트에 본사를 두고 있으며, 그렇지 않은 거의 모든 기업은 여전히 ​​그곳에서 사업을 할 것입니다. 결과적으로 이 법안은 광범위한, 심지어 전 세계적인 영향을 미칠 것입니다.만약 Gavin Newsom 주지사가 앞으로 몇 주 안에 이를 법으로 서명한다면. 이 법안은 현재 주 의회와 주 상원에서 모두 통과된 후 그의 서명을 기다리고 있습니다 .

이 법안은 격론을 벌였습니다. 의원들과 AI 산업 간의 9차례의 개정을 거쳐 통과되었습니다. 또한 AI 산업 내에서 의견 불일치가 발생했는데, 일부는 주저하면서도 이 법안을 지지했고 , 다른 일부는 이 법안이 혁신을 저해 하고 소규모 기업과 투자자들이 AI 제품을 개발하지 못하게 만들 것이라고 말했습니다.오픈 소스 옹호자들은 또한 이 법안이 다른 사람들이 자유롭게 개발할 수 있도록 AI 모델을 공개하는 사람들에게 엄격한 요구 조건을 부과할 것이라는 우려를 표명했습니다.

컴퓨터 과학자이자 소위 "AI의 대부"인 요슈아 벤지오는 극히 좋은 결과와 극히 나쁜 결과의 잠재력이 균형을 요구한다고 말했습니다. 법안의 후원자인 캘리포니아 주 상원의원 스콧 위너가 월요일에 개최한 기자 회견에서 벤지오는 예측 가능한 위험이 조치를 요구한다고 말했습니다.

"우리는 혁신을 가능하게 하는 길을 목표로 해야 하지만 과학자들이 지적한 그럴듯한 시나리오에서 우리를 안전하게 지켜야 합니다." 법안을 지지하는 벤지오가 말했습니다.

알려지지 않은 힘으로 기술을 조절하다

위태로운 것은 혁명적 잠재력을 가진 기술의 미래입니다. 프로그래머가 인간 지능의 측면을 복제하는 소프트웨어를 만들면서 고급 인지가 필요한 작업을 자동화하고 상당히 가속화할 수 있는 잠재력이 커집니다.

AI에 내재된 가능성은 정부가 이 기술의 개발을 지원하기 위해 "문샷 사고방식"을 채택해야 한다는 것을 의미한다고 페이페이 리는 포브스에 기고한 글 에서 썼다 . 종종 "AI의 대모"로 불리는 컴퓨터 과학자인 리는 또한 이 법안의 초기 버전이 제3자의 오용에 대해 AI 소프트웨어의 원래 개발자를 책임지도록 함으로써 흔들렸다고 썼다(이 법안은 또한 제3자를 책임지도록 한다). 리의 발언에 따라 위너는 원래 프로그래머의 부담을 덜어주기 위한 여러 차례의 개정안을 통과시켰다.

AI가 기업, 군대, 정부 부문에 미치는 영향은 예측하기 어렵지만, 옹호자와 우려하는 감시자 모두 이 기술이 광범위하게 사용되면 혁신적일 것이라는 데 동의합니다.

AI에 대한 우려에는 생물학적 무기의 창조와 같은 종말의 날 시나리오 와 신원 도용(해커가 개인 정보를 훔치고 판매하는 데 훨씬 더 빨라지는 것을 생각해 보세요)과 같은 더 일상적인 공포의 증폭이 포함됩니다. 그리고 모기지 승인, 구직 면접 제공 또는 범죄로 기소된 사람이 보석금을 받아야 하는지 여부를 결정하는 소프트웨어 프로그램에서 인간의 편견이 과도하게 강화되는 유령이 있습니다 .

수요일 법안은 현재 모델이 할 수 있는 것보다 더 높은 수준의 계산 능력을 가진 AI 모델 에서 발생하는 가장 치명적인 결과를 제한 하고, 훈련에 1억 달러 이상이 드는 것을 목표로 합니다. 캘리포니아 법무 장관이 법안의 안전 요구 사항을 충족하지 않는 소프트웨어를 제공하는 회사에 대해 법원 명령을 요청할 수 있도록 허용하고, AI로 인해 많은 사망자가 발생하거나 인프라에 사이버 공격이 발생하여 5억 달러 이상의 피해가 발생할 경우 사무실이 소송을 제기할 수 있도록 허용합니다.

캘리포니아의 법률이 AI 산업 전체에 영향을 미치는 이유

캘리포니아는 종종 새로운 정책 문제의 최전선에 서 있는 주로서 AI에 대한 보호책을 마련할 수 있는 독특한 위치에 있습니다. 캘리포니아의 법률은 미국 전역의 규제에 영향을 미치는 역사를 가지고 있으며, 때로는 개념 증명 역할을 하기도 하지만, 주에서 사업을 하려면 회사가 어떻게 운영해야 하는지 정의하기도 합니다.

예를 들어, 전 세계 어느 곳에 있는 계란 농장주라도 3,900만 명이 넘는 캘리포니아 소비자 시장에 제품을 판매하려면 닭을 케이지 없는 시스템에 두어야 합니다. 기술 분야에서 회사는 캘리포니아 거주자에게 개인 데이터에 대한 일정 수준의 통제권을 허용해야 합니다. 많은 회사는 개인 정보 보호 규정이 시행되면 모든 미국 사용자에게 이러한 권리를 확대할 것이라고 말했습니다. 사용자의 거주 지역에 따라 두 가지 수준의 통제권을 제공하는 것은 비용이 많이 들고 복잡하기 때문입니다. 또한 다른 곳에서 로그인하는 사용자가 캘리포니아 거주자인지 항상 알 수 있는 것은 아닙니다.

낸시 펠로시 의원을 포함한 일부 의원들은 AI 회사와 함께 연방 솔루션을 요구하면서, 주별 접근 방식이 복잡한 규제 패치워크를 만들 것을 우려했습니다. 하지만 위너 주 상원의원은 주가 행동해야 할 의무가 있다고 말했습니다. 미국 의회에서 규제가 나오지 않으면 AI 회사의 자발적인 약속을 법적 요구 사항으로 전환하는 것은 캘리포니아의 몫이라고 그는 말했습니다.

위너는 월요일 기자 회견에서 AI가 제기하는 위험은 조치를 필요로 한다고 말했습니다. 그는 "우리는 따라잡기보다는 그 위험보다 앞서 나가려고 노력해야 합니다."라고 말했습니다.

오픈소스에 대한 우려

오픈소스 커뮤니티를 옹호하는 일부 사람들은 이 법안이 프로그래머들이 우려 사항을 해결하기 위한 개정안에도 불구하고 AI 소프트웨어를 공개적으로 출시하지 못하게 만들 위험이 있다고 말합니다. Berkman Klein Center for Internet & Society의 신임 펠로우인 Ben Brooks는 업데이트된 법안이 여전히 원래 프로그래머가 다른 사용자의 손에 들어간 후 자신의 모델이 무엇을 하는지 추적하도록 요구한다는 점에 우려를 표했습니다.

그는 이러한 요구 사항이 "단순히 이 기술의 공개 릴리스와 호환되지 않는다"고 말했습니다.

와이너는 해당 법안의 개정안이 집행의 초점을 특정 AI 모델의 사용자에게 두었다고 주장했습니다.

AI의 또 다른 소위 대부인 제프리 힌튼은 수요일에 발표한 성명에서 이 법안은 비판자들의 우려와 인간을 오용으로부터 보호해야 할 필요성의 균형을 맞추고 있다고 말했습니다.

그는 "저는 여전히 과학과 의학의 발전을 통해 생명을 구할 수 있는 AI의 잠재력에 열정적입니다."라고 말하며, "하지만 위험을 해결할 수 있는 실질적인 법률이 있어야 합니다."라고 덧붙였습니다.