2023 OpenLogic 보고서에 따르면 조직의 80%가 최신 혁신 기술에 액세스하고, 개발 속도를 개선하고, 공급업체 종속을 줄이고, 라이선스 비용을 최소화하기 위해 작년 77%에 비해 더 많은 오픈 소스 소프트웨어를 사용하고 있다.
오픈소스 AI의 현재 환경은 여전히 진화하고 있다. Google(Meena, Bard, PaLM), Microsoft(Turing NLG), Amazon Web Services(Amazon Lex)와 같은 거대 기술 기업은 AI 혁신을 출시하는 데 더욱 신중해졌다. 그러나 Meta 및 기타 AI 기반 연구 회사와 같은 일부 조직에서는 AI 모델을 적극적으로 오픈 소스화하고 있다.
선구적인 발전 – 오픈 소스 AI의 잠재력
많은 실무자들은 오픈 소스 AI의 부상을 긍정적인 발전으로 생각한다. AI를 더욱 투명하고, 유연하고, 책임감 있고, 저렴하고, 접근 가능하게 만들기 때문이다. 그러나 OpenAI 및 Google과 같은 거대 기술 기업은 상업성, 개인 정보 보호 및 안전 문제로 인해 모델을 오픈 소스화하는 데 매우 신중하다. 오픈 소스를 사용하면 경쟁 우위를 잃거나 데이터 및 모델 아키텍처와 관련된 민감한 정보를 제공해야 하며 악의적인 행위자가 모델을 유해한 목적으로 사용할 수 있다.
그러나 오픈 소스 AI 모델의 가장 중요한 점은 더 빠른 혁신이다. 오픈 소스 협업을 통해 대중이 이용할 수 있는 몇 가지 주목할만한 AI 발전이 이루어졌다. 예를 들어 Meta는 LLM 모델 LLaMA를 오픈 소스화하여 획기적인 움직임을 보였다.
연구 커뮤니티가 LLaMA에 접근하게 되면서 AI 혁신이 더욱 촉진되어 Alpaca 및 Vicuna와 같은 파생 모델이 개발되었다. 지난 7월 Stability AI는 LLaMA와 LLaMA 2를 각각 활용하여 Beluga 1과 Beluga 2라는 두 개의 LLM을 구축했다. 그들은 당시의 최첨단 모델에 비해 추론, 도메인별 질문 답변, 언어 미묘함 이해와 같은 많은 언어 작업에서 더 나은 결과를 보여주었다. 최근 Meta는 LLaMA 2를 기반으로 구축된 코딩 작업에 대한 최첨단 모델보다 성능이 뛰어난 코딩용 오픈 소스 AI 도구인 Code LLaMA를 출시했다.
코드 LLaMA 성능 비교
연구원과 실무자들은 또한 독점 모델과 경쟁할 수 있도록 LLaMA의 기능을 향상시키고 있다. 예를 들어 Abacus AI의 Giraffe 및 Together AI의 Llama-2-7B-32K-Instruct와 같은 오픈 소스 모델은 이제 GPT-4와 같은 독점 LLM에서만 사용할 수 있었던 기능인 32K 긴 입력 컨텍스트 길이를 처리할 수 있다. 또한, mosaicML의 오픈 소스 MPT 7B 및 30B 모델과 같은 업계 이니셔티브를 통해 연구자들은 생성 AI 모델을 처음부터 훈련할 수 있다.
전반적으로 이러한 집단적 노력은 AI 환경을 변화시켜 획기적인 발견을 지속적으로 추진하는 협업과 지식 공유를 촉진했다.
기업을 위한 오픈소스 AI의 이점
오픈 소스 AI는 수많은 이점을 제공하므로 인공지능 분야에서 매력적인 접근 방식이다. 투명성과 커뮤니티 중심 협업을 수용하는 오픈 소스 AI는 AI 솔루션을 개발하고 배포하는 방식을 혁신할 수 있는 잠재력을 가지고 있다.
오픈 소스 AI의 몇 가지 이점은 다음과 같다:
●신속한 개발: 오픈 소스 AI 모델을 통해 개발자는 기존 프레임워크와 아키텍처를 기반으로 구축하여 새로운 모델을 신속하게 개발하고 반복할 수 있다. 탄탄한 기반을 바탕으로 개발자는 바퀴를 다시 개발하지 않고도 새로운 애플리케이션을 만들 수 있다.
●투명성 향상: 투명성은 오픈 소스의 핵심 기능으로, 기본 알고리즘과 데이터에 대한 명확한 보기를 제공한다. 이러한 가시성은 편견을 줄이고 공정성을 촉진하여 보다 공평한 AI 환경을 조성한다.
●협업 증가: 오픈 소스 AI는 AI 개발을 민주화하여 협업을 촉진하고 다양한 전문 지식을 갖춘 다양한 기여자 커뮤니티를 육성한다.
과제 탐색 – 오픈 소싱 AI의 위험
오픈 소스는 수많은 이점을 제공하지만 그에 수반될 수 있는 잠재적인 위험을 인식하는 것이 중요하다. 오픈 소스 AI와 관련된 몇 가지 주요 우려 사항은 다음과 같다:
●규제 문제: 오픈 소스 AI 모델의 등장으로 인해 신중한 규제가 필요한 내재적 위험이 있는 무제한적인 개발이 이루어졌다. AI의 접근성과 민주화는 잠재적인 악의적 사용에 대한 우려를 불러일으킨다. SiliconAngle의 최근 보고서에 따르면 일부 오픈 소스 AI 프로젝트는 보안이 취약한 생성 AI 및 LLM을 사용하여 조직과 소비자를 위험에 빠뜨리고 있다.
●품질 저하: 오픈 소스 AI 모델은 투명성과 커뮤니티 협업을 제공하지만 시간이 지남에 따라 품질 저하로 어려움을 겪을 수 있다. 전담 팀이 유지 관리하는 비공개 소스 모델과 달리 유지 관리 부담은 종종 커뮤니티에 있습니다. 이로 인해 잠재적인 무시와 오래된 모델 버전이 발생하는 경우가 많다. 이러한 성능 저하로 인해 중요한 애플리케이션이 방해를 받고 사용자 신뢰와 전반적인 AI 진행이 위태로워질 수 있다.
●AI 규제 복잡성: 오픈 소스 AI 모델은 AI 규제 기관에 새로운 수준의 복잡성을 도입한다. 민감한 데이터를 보호하는 방법, 모델이 악의적인 목적으로 사용되는 것을 방지하는 방법, 모델이 잘 유지되는지 확인하는 방법 등 고려해야 할 요소가 많이 있다. 따라서 AI 규제 당국이 오픈 소스 모델이 해를 끼치지 않고 선을 위해 사용되도록 보장하는 것은 상당히 어렵다.
오픈소스 AI 논쟁의 진화하는 성격
“오픈 소스는 더 많은 개발자가 새로운 기술을 개발할 수 있게 해주기 때문에 혁신을 주도한다. 소프트웨어가 공개되면 더 많은 사람들이 이를 면밀히 조사하여 잠재적인 문제를 식별하고 수정할 수 있기 때문에 안전성과 보안도 향상된다.”고 마크 주커버그(Mark Zuckerberg)가 올해 7월 LLaMA 2 대규모 언어 모델을 발표하면서 말했다.
반면, Microsoft가 지원하는 OpenAI 및 Google과 같은 주요 기업은 AI 시스템을 폐쇄된 상태로 유지하고 있다. 그들은 경쟁 우위를 확보하고 AI 오용 위험을 최소화하는 것을 목표로 하고 있다.
OpenAI의 공동 창립자이자 수석 과학자인 일리아 수츠케베르(Ilya Sutskever)는 다음과 같이 말했다. “이러한 모델은 매우 강력하며 점점 더 강력해지고 있다. 어떤 시점에서는 원하는 경우 해당 모델에 큰 해를 끼치는 것이 매우 쉬울 것이다. 그리고 능력이 높아질수록 공개하고 싶지 않은 것도 당연하다.” 따라서 오픈 소스 AI 모델과 관련된 인간이 무시할 수 없는 잠재적인 위험이 있다.
인간을 파괴할 수 있는 AI가 등장하려면 수십 년이 걸릴 수 있지만, 오픈 소스 AI 도구는 이미 오용되었다. 예를 들어, 첫 번째 LLaMA 모델은 AI 연구를 발전시키기 위해서만 출시되었다. 그러나 악의적인 에이전트는 이를 사용하여 인종 비방 및 고정관념과 같은 혐오스러운 콘텐츠를 퍼뜨리는 챗봇을 만들었다.
개방형 AI 협업과 책임 있는 거버넌스 사이의 균형을 유지하는 것이 중요하다. 이는 AI 발전이 잠재적인 피해로부터 보호하는 동시에 사회에 유익한 상태를 유지하도록 보장한다. 기술 커뮤니티는 윤리적인 AI 개발을 촉진하는 지침과 메커니즘을 확립하기 위해 협력해야 한다. 더 중요한 것은 오용을 방지하기 위한 조치를 취하여 AI 기술이 긍정적인 변화를 위한 힘이 되도록 해야 한다는 것이다.
