광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

[서울서 개최된 AI안전정상회의] 6개 AI기업이 안전을 최우선으로 삼기로 합의했다. 충분한가? AI 서울 정상회의와 AI 글로벌 포럼 준비 총력...외교부·과기정통부, 'AI・디지털 분야 외교정책 협의회' 착수

박영숙세계미래보고서저자 | 기사입력 2024/05/25 [12:13]

[서울서 개최된 AI안전정상회의] 6개 AI기업이 안전을 최우선으로 삼기로 합의했다. 충분한가? AI 서울 정상회의와 AI 글로벌 포럼 준비 총력...외교부·과기정통부, 'AI・디지털 분야 외교정책 협의회' 착수

박영숙세계미래보고서저자 | 입력 : 2024/05/25 [12:13]

 

글로벌 AI 안전 정상회의: 화려함과 회의론이 공존하는 'AI Met Gala'

영국에서 11월에 개최된 글로벌 AI 안전 정상회의는 '업계의 Met Gala'로 불릴 만큼 화려한 행사였다. 엘론 머스크, OpenAI의 샘 알트만 등 기술 유명 인사들이 참석하며 큰 관심을 불러일으켰다.

하지만 화려함 속에서도 회의론이 존재했다. 일부 국가와 기업들은 정상회의에 참석하지 않았으며, 이번 행사가 실제 변화를 가져올 수 있을지에 대한 의문도 제기되었다.

 

높은 참석률과 낮은 투표율의 불일치:

  • 참석: 엘론 머스크, 샘 알트만 등 유명 인사들을 포함한 업계 주요 인사들이 참석하며 화려함을 더했다.
  • 투표율: 하지만 네덜란드, 캐나다 등 일부 국가는 대표를 파견하지 않았고, 구글의 DeepMind 등 주요 기업들도 참석 여부를 명확히 밝히지 않았다. 이는 일부 국가와 기업들이 이미 AI 안전 문제에 대한 관심을 잃었다는 것을 보여주는 것이라는 비판도 있다.

장기적인 영향을 위한 작은 발걸음:

  • 합의: 비록 참석률은 낮았지만, 마이크로소프트, 오픈AI, 구글, 아마존 등 세계 최대 AI 기업 16개는 대규모 사이버 공격이나 생물무기 제작 가능한 모델 개발 금지 등 최초의 AI 윤리 합의를 도출했다.
  • 정부 참여: 미국은 영국, 일본 등과 협력하여 AI의 잠재적 위험을 연구하는 안전 연구소 설립을 발표했다.

지속적인 노력의 필요성:

  • 전문가 의견: 전문가들은 지정학적 긴장 속에서 모든 국가가 동일한 목표에 합의하는 데 어려움이 있을 수 있다고 지적하며, 합의 내용이 실제로 지켜질지 지켜볼 필요가 있다고 강조했다.
  • AI 윤리 연구원 Carissa Véliz의 발언: "행동으로 이어지지 않으면 아무 의미가 없습니다."

결론:

글로벌 AI 안전 정상회의는 AI 안전 문제에 대한 국제적 관심을 높이는 데 기여했다는 평가를 받고 있다. 하지만 화려함과 회의론이 공존하는 행사였으며, 이번 정상회의에서 도출된 합의가 실제로 AI 안전을 위한 변화를 가져올 수 있을지는 아직 지켜봐야 할 것이다. 지속적인 국제적 협력과 노력이 필요하다는 것은 분명하다.

 

 

글로벌 AI 안전 서밋: 기대와 현실의 차이

영국에서 개최된 11월에 열린 글로벌 AI 안전 서밋은 업계의 Met Gala와 같은 대규모 행사로 주목받았다. Elon Musk와 OpenAI의 Sam Altman 등 기술계의 유명 인사들이 참석한 이번 행사에서 AI의 잠재적 위험에 대한 국제적인 관심이 크게였음을 보였다. 주최측은 이번 서밋이 AI의 안전성 문제를 해결하기 위한 중요한 첫걸음이라고 강조하였다.

행사 후속과 낮은 참석율

이번 서밋 후속 행사는 오늘 서울에서 시작되지만, 일부 국가와 기업들은 대표자를 파견하지 않아 비평가들의 우려를 낳고 있다. 네덜란드와 캐나다는 대표자를 보내지 않았으며, Google의 DeepMind 역시 참석 여부를 밝히지 않았다. 일부에서는 이러한 낮은 참석율이 국가와 기업들이 이미 AI 안전에서 벗어나고 있다는 증거라고 주장한다.

참석자와 합의된 사항

그러나 너무 빠르게 판단하기에는 이르다. 이번 정상회담에는 마이크로소프트, 오픈AI, 구글, 아마존 등 세계 최대 AI 기업 16곳이 참석하여 중요한 합의를 도출했다. 이들은 대규모 사이버 공격이나 생물무기를 생성할 수 있는 모델 개발을 중단하기로 약속했다. 이는 AI 기술의 윤리적 사용을 보장하기 위한 중요한 이정표로 평가받고 있다.

정부의 노력과 국제 협력

또한, 여러 정부도 이 문제를 해결하기 위한 노력을 기울이고 있다. 한 회의에서는 미국이 영국, 일본 등과 협력하여 AI의 잠재적 위험을 연구할 안전 연구소를 설립하겠다고 발표했다. 그러나 전문가들은 모든 국가와 기업이 동일한 목표에 합의하는 데 시간이 걸릴 것이라고 지적한다. AI 윤리 연구원 Carissa Véliz는 "행동으로 이어지지 않으면 아무 의미가 없다는" 의견을 밝히며, 실질적인 행동이 중요하다는 점을 강조했다.

결론

이번 글로벌 AI 안전 서밋은 일정 부분 성공적이었지만, 낮은 참석율은 해결해야 할 과제임을 상기시켜 준다. AI의 안전성을 확보하기 위해 더욱 많은 국가와 기업들이 참여하여 공감대를 형성해야 한다. 이는 장기적으로 AI 기술의 올바른 발전을 위한 중요한 걸음이 될 것이다. 앞으로의 행보가 주목되며, 지속적인 국제 협력과 실질적인 행동이 필요하다.

글로벌 AI 거버넌스 위한 `AI 서울 정상회의` 21일 열려…안전·포용·혁신 함께 논의 - [디지털타임스]

AI 서울 정상회의] 이종호 장관 "AI 안전·혁신·포용 `서울 효과` 기대"

AI 안전' 글로벌 첫 정상회의…AI 위험 공동 대응 '블레츨리 선언' 채택 < 국제경제 < 지속가능경제 < 기사본문 - ESG경제

 

윤 대통령, '안전·혁신·포용' 3대 글로벌 AI 거버넌스 목표 합의 이끌어 - 정책뉴스 | 뉴스 | 대한민국 정책브리핑

 

AI 안전·혁신·포용 위해"…전 세계 AI 리더 '서울 선언' 동참 - 머니투데이

 

취재수첩] 'AI 서울 선언' 빛바래지 않으려면 - 디지털데일리

 

AI 서울 정상회의 마무리…韓, 글로벌 AI 거버넌스 새방향 제시

 

LG-유네스코, AI 윤리 플랫폼 함께 만든다...'AI 서울 정상회의' 의제 '안전'과 '포용' 실천 < 기획 < FOCUS <  기사본문 - 인공지능신문

 

 

AI 서울 정상회의 장관세션…美·日 등 21개국 참석(종합) | 연합뉴스

 

AI 서울 정상회의 참가국 장관들 서울 성명…28개국 참여(종합) | 한국경제

 

누구도 소외되지 않는 AI”…빅테크들 '서울 서약' 채택

 

 

16개 AI기업이 안전을 최우선으로 삼기로 합의했다. 충분한가?

출처: AP 사진

11월의 글로벌 AI 안전 서밋은 업계의 Met Gala와 동일했다. Elon Musk 및 OpenAI의 Sam Altman과 같은 기술 유명 인사를 포함한 A급 라인업이 등장했다. 주최측은 모든 팡파르에 요점이 있다고 말했다. AI의 잠재적 위험에 대한 국제적인 관심이 더 커졌다는 것.

후속 행사가 오늘 서울에서 시작되지만 비평가들은 모든 사람이 메모를 받지 못한 점을 우려하고 있다. 네덜란드와 캐나다를 포함한 일부 국가에서는 대표자를 파견하지 않고 있으며 Google의 DeepMind도 참석 여부를 밝히지 않았다. 일부에서는 낮은 투표율이 국가와 기업 모두가 이미 AI 안전에서 벗어났다는 것을 증명한다고 주장한다.

그렇게 빠르지는 않다:

  • 이번 정상회담에는 주목받는 손님이 많지는 않지만 장기적으로 더 큰 영향을 미칠 수 있다.

  • 마이크로소프트(Microsoft), 오픈AI(OpenAI), 구글(Google), 아마존(Amazon) 등 세계 최대 AI 기업 16곳은 최초의 합의에서 결코 넘지 말아야 할 몇 가지 “제한선”에 합의했다.

  • 그들은 대규모 사이버 공격이나 생물무기를 생성할 수 있는 모델 개발을 중단하겠다고 약속했다.

정부도 이 문제를 해결하기 위해 노력하고 있다. 한 회의에서 미국은 영국, 일본 및 기타 국가와 협력하여 AI의 잠재적 위험을 연구할 안전 연구소를 설립할 것이라고 발표했다. 전문가들은 특히 현재 세계 초강대국들 사이에 지정학적 긴장이 너무 심하기 때문에 모든 사람이 동일한 목표에 합의하는 데 시간이 좀 걸릴 것이라고 지적한다. AI 윤리 연구원 Carissa Véliz는 Fast Company에 “행동으로 이어지지 않으면 아무 의미가 없습니다.”라고 말했다. "그리고 배심원단은 아직 나오지 않은 것 같아요."

 

 

 

▲16일 오전 서울 중구 스페이스에이드 CBD에서 열린'인공지능(AI) 글로벌 규범 자문단 킥오프 회의' 에서 참석자들이 논의하고 있다. 사진제공=과학기술정보통신부

과학기술정보통신부(과기정통부)는 ‘AI 글로벌 규범 자문단’을 구성해 16일 서울 스페이스에이드 CBD에서 1차 회의를 열었다고 밝혔다.

 

자문단은 오는 5월 한국에서 개최하는 제2차 인공지능(AI) 안전성 정상회의를 체계적으로 준비하고, 정상회의의 주요 논의와 합의점을 모색하는 과정에서 국내 산업계와 학계의 목소리를 반영하기 위해 구성됐다.

이날 첫 회의에는 박윤규 과기정통부 2차관과 산·학·연 전문가 20여 명이 모여 지난해 11월 영국에서 열린 제1차 AI 안전성 정상회의 결과를 공유하고, 제2차 정상회의의 주요 목표와 세부 내용을 논의했다.

과기정통부에 따르면 1차 정상회의의 후속 조치로 AI 석학인 요수아 벤지오 몬트리올대 교수가 주도하는 ‘과학현황보고서’ 작성에 서울대 이경무 교수와 한국과학기술원(KAIST) 오혜연 교수가 참여하고 있다.

이날 회의 참석자들은 AI 안전성 평가, 기업의 조치, 고성능 AI의 사회적 위험성 등을 심도 있게 토론했다. 또한, 국내 AI 산업 환경에서 실현할 수 있는 글로벌 차원의 AI 안전성 확보, AI의 막대한 탄소 배출에 대응하기 위한 에너지 안전성 확보 등 지속 가능한 AI 발전을 위한 의견도 나눴다.

과기정통부는 자문단과 대면 또는 영상 회의를 수시로 열어 정상회의의 목표와 의제를 설정하고, 한국 AI 산업 육성을 뒷받침할 수 있는 방향으로 정상회의 공동 개최국인 영국 및 참석 국가들과 협의할 계획이다.

박윤규 차관은 “이번 정상회의 개최는 우리나라가 글로벌 AI 규범·거버넌스 정립에 기여하고, 전 세계와 함께 AI 혜택을 안전하게 누릴 수 있는 계기가 될 것”이라며 “산업계와 학계의 의견을 적극적으로 반영해 국내 AI 산업 발전을 도모하겠다”고 말했다.

 

조태열 장관(사진:외교부)
조태열 장관(사진:외교부)
외교부(장관 조태열)와 과학기술정보통신부(장관 이종호. 이하, 과기정통부)는 지난  10일 오전 외교부 청사(서울 종로)에서 '인공지능(AI)・디지털 분야 외교정책 협의회' 착수식을 개최했다.

AI・디지털 분야 외교정책 협의회는 부처 간 칸막이를 허물 수 있는 구체적 장치를 마련하도록 지시한 윤석열 대통령의 부처 간 협력 활성화 기조에 따라, 그간 추진해 왔던 양 부처 간의 협력 관계를 한 단계 격상하는 한편, 양 부처의 전문성을 융합하여 갈수록 심화되고 있는 AI・디지털 분야의 글로벌 이슈와 변화 양상에 긴밀하게 대응하기 위해 마련되었다.

이날 AI・디지털 분야 외교정책 협의회의 출범을 알리는 이번 착수식에서는 먼저 양 부처의 협력 방향과 의지를 담은 양해각서(MOU)를 체결하였다. 양해각서 체결에 따라, 과기정통부는 국내・외 AI・디지털 분야 정책・제도 현황을, 외교부는 AI・디지털 분야 선도국과 국제기구 등의 규범 제‧개정 동향을 파악하여 상호 공유하고, 양 부처가 글로벌 규범 형성에 선도적으로 기여하기 위한 전략적 공동 대응을 할 방침이다.
양 부처 장관의 양해각서 체결후 기념촬영 모습(사진:외고부)

양 부처 장관의 양해각서 체결후 기념촬영 모습(사진:외고부)
또한 양 부처는 AI・디지털 분야의 국제행사 유치, 협의체 가입, 국제기구 선거 대응 등 외교정책 추진에도 상호간 긴밀히 협의하고, 공적개발원조및 국내 기업의 해외 진출을 위한 신규 사업 발굴・추진도 협력하기로 했다. 또, 우리 기업의 해외사업과 해외 투자가 부당한 대우를 받지 않도록 기업들과도 긴밀히 협의하면서 대응해 나가기로 하였다. 이러한 협력의 원활하고 효과적인 이행을 위해 차관급(외교부 제2차관 강인선 – 과기정통부 제2차관 강도현) 협의체도 새롭게 구성・운영할 계획이다.

아울러, 이날 착수식에서는 외교부 장관과 과기정통부 장관의 공동 주재 하에 약 10일 앞으로 다가온 'AI 서울 정상회의' 및 'AI 글로벌 포럼'의 준비 현황을 면밀하게 점검하였다.

오는 21일과 22일 개최되는 'AI 서울 정상회의'는 정상 세션과 장관 세션으로 구성되며, 화상으로 개최되는 정상 세션에서는 AI 안전뿐만 아니라 혁신・포용성 등 AI가 나아가야 할 방향을 논의할 계획으로 주요국 정상, 국제기구 수장은 물론 빅테크 CEO 등이 참석을 확정하고 있다.

22일 오후 한국과학기술연구원(KIST)에서 대면으로 개최되는 장관 세션에서는 각국의 AI 안전 연구소 추진 현황과 글로벌 공조 방안을 논의하고, 'AI 서울 정상회의'를 앞두고 발표될 'AI 안전 국제 과학 보고서'를 토대로 글로벌 AI 안전 역량 확보 방안을 논의할 계획이다. 

또한 에너지・고용・허위정보 등 AI의 잠재적 악영향을 살펴보고 AI 발전의 지속가능성과 회복탄력성을 확보할 수 있는 방안도 함께 논의할 계획이다. 장관 세션에는 독일, 프랑스, 스페인, 싱가폴 등 주요국이 참석을 확정하고 있으며, 오픈AI, 구글, 마이크로소프트, 앤트로픽 등 빅테크와 국내 다수 기업, 그리고 학계·시민사회의 핵심 인사도 참석할 것으로 알려졌다.

외교부 조태열 장관은 “AI 서울 정상회의를 통해 서울이 글로벌 기술 선도국 정상들과 기업대표들이 모여 AI라는 거대한 변혁의 힘을 어떻게 관리할지 논의하는 역사적 현장이 될 것”이라고 하며, “우리의 외교력과 선도적 과학기술을 바탕으로 안전, 혁신, 포용성을 포괄하는 인공지능 거버넌스 비전을 국제사회에 제시하기 위해 두 부처가 이미 한 몸이 되어 열심히 뛰고 있다”고 밝혔다.

과기정통부 이종호 장관은 “AI・디지털 분야 핵심 신흥기술이 국가의 경쟁력과 안보에 미치는 영향력이 급속히 커지고 있어, 글로벌 차원의 AI・디지털 주도권 경쟁과 거버넌스 구축에 전략적으로 대응할 필요성이 높아지고 있다”며, “디지털 권리장전 등 그간 마련해 온 대한민국의 AI・디지털 비전을 바탕으로 양 부처의 역량을 결집하여, 새로운 디지털 규범・질서가 정립될 수 있도록 주도해 나가겠다”고 밝혔다.

출처 : 인공지능신문(https://www.aitimes.kr)

 
광고
광고
광고
광고
광고
광고
많이 본 기사
세상을 바꾸자 많이 본 기사