광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고

AI넷

[인공지능 사실 확인: 머신러닝으로 인공지능에 의해 생성된 콘텐츠를 검증한다] 사실 확인 스타트업인 Factiverse는 정확한 인공지능을 민주적 가치의 기반이라고 부르며 100만 유로를 모금한 후 AI 환각을 목표로 삼았다.

https://thenextweb.com/news/fact-checking-startup-factiverse-targets-ai-hallucinations

JM Kim | 기사입력 2024/06/24 [00:00]

[인공지능 사실 확인: 머신러닝으로 인공지능에 의해 생성된 콘텐츠를 검증한다] 사실 확인 스타트업인 Factiverse는 정확한 인공지능을 민주적 가치의 기반이라고 부르며 100만 유로를 모금한 후 AI 환각을 목표로 삼았다.

https://thenextweb.com/news/fact-checking-startup-factiverse-targets-ai-hallucinations

JM Kim | 입력 : 2024/06/24 [00:00]

 

인공지능 사실 확인: 머신러닝으로 인공지능에 의해 생성된 콘텐츠를 검증한다.

 

사실 확인(fact-checking) 스타트업은 100만 유로의 자금을 확보한 후 AI 환각을 추방하려는 계획을 가속화했다.

노르웨이에 본사를 둔 Factiverse는 머신러닝을 사용하여 인공지능으로 생성된 콘텐츠를 검증한다. 회사의 도구는 부정확한 출력을 자동으로 감지한다. 이러한 오류는 이제 종종 논란을 야기한다.

예를 들어, 뉴욕의 한 변호사는 ChatGPT에서 가져온 가짜 법원 인용문을 사용한 것에 대해 사과해야 했다. CNET은 뉴스 매체가 AI 도구를 사용하여 작성한 77개 기사 중 41개를 수정해야 했다. Microsoft Bing AI는 수익 보고서 분석에서 수많은 오류를 생성했다. 회사의 챗봇도 직원을 염탐했다고 주장했다.

 

Factiverse는 이러한 문제에 대한 솔루션을 제공한다. 2019년에 설립된 이 회사는 AI 생성 콘텐츠를 분석하는 특허 모델을 구축한다. 이 모델은 회사의 공동 창립자이자 CTO인 비네이 세티(Vinay Setty)의 연구를 활용한다. 세티는 스타방에르 대학교의 머신러닝 부교수이기도 한다. 그는 사실 확인을 위해 텍스트 및 그래프 마이닝을 조사하는 데 10년 이상을 보냈다.

세티의 연구는 Factiverse AI Editor의 토대를 마련했다. 작년에 출시된 이 도구는 ChatGPT 등이 작성한 텍스트의 편견과 실수를 감지한다. 또한 결과에 대한 신뢰할 수 있는 출처를 공개한다.

 

사실확인을 위한 자금 지원

새로운 현금 주입은 추가 개선에 자금을 지원하게 될 것이다. 투자자로는 Huddlestock Skyfri를 설립한 머시드 알리(Murshid Ali), 기업가이자 스피드 스케이팅 부문 올림픽 4회 금메달리스트인 요한 올라프 코스(Johann Olav Koss), 그리고 뉴욕타임스의 전 C레벨 임원인 야스민 나미니(Yasmin Namini)가 있다. 투자회사 Herfo Valide Invest도 기여했다.

 

Factiverse CEO이자 공동 창립자인 마리아 아멜리에(Maria Amelie)는 최근 TNW 컨퍼런스에서 자금모금을 발표했다.

"이번 투자를 통해 우리는 현재 중요한 사실 확인 솔루션의 개발을 가속화하고 더 많은 기업이 AI의 힘을 자신있게 활용할 수 있게 될 것이다."라고 그녀는 말했다.

자금 지원과 함께 Factiverse는 언론인 시험 프로그램도 시작했다. 사용자는 사실 확인 기술에 30일 동안 무료로 액세스할 수 있다. 평가판에는 결제 카드가 필요하지 않다.

 

Factiverse는 스타트업의 사용자 기반을 확대하기 위해 새로운 평가판과 자금을 원한다. 회사 회장인 에스펜 에길 한센(Espen Egil Hansen) AI 환각을 주요 관심사로 보고 있다.

“챗봇의 사실 오류로 인해 법적 영향을 받는 기업의 사례가 이미 현실이 되었다.”라고 그는 말했다. “AI가 우리 일상 생활에 더욱 깊이 뿌리내리게 되면서 AI 모델의 정확성을 보장하는 것은 단지 좋은 비즈니스에 관한 것이 아니다. 이는 민주적 가치가 구축되는 기반이다.”

 

 

 

 
인공지능, 머신러닝, 사실 확인, 생성AI 관련기사목록
광고
광고
광고
광고
광고
광고