글로벌 AI 표준위원회,  SIG

Toufi Saliba – 투피 살리바, 모든 인류를위한 글로벌Ai표준위원장, IEEE TEMS (기술엔지니어랑경영학회 Technology & Engineering Management Society)

문제점: 아마도 우리 인류의 존재에 가장 큰 위협은 인공지능일 수도 있다. 많은 사람들이 AI가 인류를 없애지 못하게하려고 노력하고 있지만, 우리는 AI가 인간을 공격하지 못하도록 AI를 보호하려고한다. 현재로서는 세계에서는 단일 AI가 구축으로 그런 공격을 막을 수는 없다. 용도 변경은 공격만큼 간단 할 수 있다. 수천 개의 시나리오를 생각하는 가장 좋은 방법은 모든 지역의 일부 AI 프로세스를 제어해야한다. 그런데 그 제어를 최악의 적에게 넘길 수가 있다. 그들이 가진 힘을 사용하여 무엇까지 할 수 있을까?

  이 시점에서 우리는  "인공지능이 그렇게 하지는 않을 것"이라고 막연히 생각한다. 최악의 적은 오늘날 누구나 다 여러 지역에서 AI를 구축하고 라이센스를 부여 할 수 있다는 점이다. Elon Musk와 같은 비전전문가들은 우리가 겪고있는 이 위협의 문제를 기술적으로 막기위해 어떻게 해야할지를 모른다. 우리는 인공지능의 규제를 생각할 수 있다. 그러나 규제나 제어는 단일 관할구역에서 단기간 동안은 작동이 가능하지만 인공지능의 위협을 없앨 수는 없다. 

솔루션 요구사항 : 용도변경이 불가능한 AI는 사람들의 동의없이는 사람들을 공격할 수 없다. 그러나 이것도 불가능해보인다. 우리는 도전하고 인류와 미래세대의 삶은 현상유지를 선호하면서 회의론자들의 공격으로인해 고통받을 수 있다. 이것이 IEEE 인공지능표준위원회의 할 일이다. 한가지 접근방식은 자율적 분산 거버넌스를 활용하는 것이며, 그 중 하나는 사용자중심 거버넌스이다. 최종결과는 이러한 요구사항을 충족시킬 수있는 통신표준인 소프트웨어개발에서 표준을 만들 수 있다. 이 시점에서 표준을 준수하지 않는 소프트웨어는 세상에서 채택되지 않을 수 있다.  

우리는 이제 글로벌AI표준을 시작해야하며, 여러분들이 이제 나의 인공지능표준 의지를 읽고 있다. 우리는 인공지능표준 만들기를 이제는 현실로 만들어야한다. 지구촌 모두에게 손을 내밀고 인공지능표준을 해야한다고 전파하거나 전파 운동에 참여하기 바란다. 

기어가다 – 걷기 – 달리기 한다.

본인의 2년간의 임기 중에 가능한 한 많은 아이디어, 개인, 기관 및 국가가 함께 협력하도록 할 계획이다. 개별회원은 전 세계로 퍼져 나갈 수 있으며 가능한 많은 인공지능 기술이 개발되어 인류를 위해 많은 도움이 되도록 우리의 생각을 전파하해야한다. 사람들은 본인의 이 미션에 참여하기위한 비기술적 이니셔티브와 함께 참여할 수있는 오픈소스 소프트웨어 개발에 참여할 수 있다. 자격을 갖춘 실무자 및 학자들을 집중적으로 훈련시키고 솔루션을 위해 협력 할 수있는 인공지능센터가 필요하다. 우리는 이미 인공지능개발에 많은 문제가 있음을 알고 있다. 개발된 인공지능을 되돌릴 수 없으며, 나중에 고칠 수 없다는 것을 알고 있다. 문제가 일어나지 않도록 예방적으로 해결하지 않고 사람들은 많은 일을 할 수 있다는것을 알고 있다. 그러므로 처음부터 인공지능표준화를 통해 인류에게 닥쳐올 재앙이느 문제점을 해결해야한다.

Toufi Saliba 이력서 

Toufi Saliba는 IEEE TEMS에서 모든 인류를위한 글로벌Ai표준위원장의 임기를 시작한다. 그는 또 PrivacyShell의 CEO이자 ACM 실무자이사회의 의장이기도하다. Toufi의 연구및 실무 배경은 주로 기계학습, 자율분산관리, 분산컴퓨팅 및 암호화이다.

그는 TODA/IP 프로토콜 공동저자이다. 그는 여러 알고리즘, 프로토콜 및 특허를 받았고, 여러 기술의 공동저자이기도 하다. Toufi는 처음부터 자신이 구축한 소프트웨어들을 판매하였는데, 일부는 Google, HP 및 Intel에 팔렸다. 그는 여러 실리콘밸리 스타트업 지원단체나 기업에 일하면서 분산AI연합회장직을 지냈거나 인공지능관련 여러 재단에 참여했다. 그는 또한 창업인큐베이터와 PrivacyShell Corp이라는 기업을 운영중이며,  InfoSec 자문역을 지내고 있다. 지난 20년 동안 Toufi의 제1의 목표는 수익성있는 비즈니스를 구축하면서 글로벌 번영을 달성하는 데 도움되는 기술을 발전시키는 것이었다.

Global AI Standards SIG

Toufi Saliba – Global Chair Ai Standards for all humankind , IEEE TEMS

Problem: Perhaps the biggest existential threat to our existence.  While many are looking to prevent AI from getting rid of humanity, we look to secure AI to prevent some human from using it to attack other humans.  Currently in the world today, not a single AI is being built preventing an attack from within. Attacks can be as simple as repurposing. The best way to think of thousands of scenarios, think you are in control of some AI processes in any territory, now think you handed that control to your worst enemy.  What can they do, using the power it has?  At this point any reader would think but “you won’t do that” .. well, your worst enemy has the ability to build and license that same AI perhaps in different territory today.  Visionaries like Elon Musk seem to get a gist of what the problem we are facing but without knowing what can be done to prevent it technologically. Sure, you may think regulating over regulating etc. That thinking may work for a short period of time in single jurisdiction. 

Solution Requirements: AI that can not be re purposed, can not be attacked from within to be used against the people without the consent of the people. Might sound not possible. We challenge that and don’t think the life of humanity and future generations should suffer from skeptics who prefer keeping the status quo or not examining truly if these requirements can be achieved.  This is our raison d’être, one approach might be utilizing Autonomous Decentralized Governance, one form of it is User Centric Governance. The end results may very well be software development standards, communication standards that will enable these requirements to be met. At that point any software not compliant with the standards will likely lose its ability from being adopted.  

We are launching the Global AI Standards and of you are reading this, we are asking for your help. Together we can make this a reality. Reach out, spread the word and/or join the movement. 

Crawl – Walk – Run

During my term I plan to gather as many ideas, individuals, institutions and nations as possible to work together. The individual members are likely to be spread out across the globe and in their areas cover as many technical events as possible spreading the word to get as much help as we can. There will be open source software development initiatives for folks to join along with non-technical initiatives for folks to partake in this mission.  There will be centers taking on lead role in providing intensive training for qualified practitioners and academics with the hope to work cooperatively towards solutions.  We know the problem exists. We know it’s not reversible and can not be fixed after the fact and we know we can do a lot of things to preventatively fix it and not correctively, not by force me not by regulations but more so by voluntary standardization.