생성AI(Generative AI)의 기회는 엄청나다. 그것은 우리가 알고 있는 것처럼(그리고 우리 대부분이 예상했던 것보다 빠르게) 세상을 변화시키고 있다. 기술은 점점 더 똑똑해지고 있다. 그러나 텍스트, 이미지, 내러티브를 생성하는 능력을 갖춘 생성 AI가 기업과 비즈니스에 미치는 영향은 일반 대중에 미치는 영향과 매우 다르다. (ChatGPT 사용자와 함께) 고객에게 서비스를 제공한다.
NLP(자연어 처리)에서 LLM(대형 언어 모델)으로의 여정
기술은 수십 년 동안 자연어를 이해하려고 노력해 왔다. 인간의 언어 자체는 인간 표현의 진화된 형태이지만, 인간이 기호와 소리에서 음절, 음성학 및 언어에 이르기까지 전 세계적으로 매우 많은 방언으로 진화했다는 사실로 인해 기술은 상대적으로 최근까지 비트와 바이트 등을 사용하는 보다 단순한 디지털 통신 방법에 의존하게 되었다.
나는 거의 10년 전부터 NLP 프로그램 작업을 시작했다. 그때는 다양한 엔터티 간의 복잡한 관계와 컨텍스트를 유지하고, 검색 쿼리를 이해하고, 단어 클라우드를 생성하고 결과를 제공하기 위한 것은 언어 분류 및 온톨로지, 엔터티 추출 및 기본 형태의 그래프 데이터베이스(주로 XML)에 관한 것이었다. 그것에 대해 수학적 것은 아무것도 없었다.
분류 데이터베이스를 구축하기 위해 많은 인간 참여가 있었고, 많은 XML 구문 분석이 이루어졌으며, 가장 중요한 것은 많은 컴퓨팅과 메모리가 사용되었다는 것이다. 말할 필요도 없이 일부 프로그램은 성공했지만 대부분은 그렇지 않았다. 그 다음에는 딥 러닝과 신경망 등에 대한 다양한 접근 방식을 갖춘 머신 러닝이 등장하여 NLU(자연어 이해) 및 NLI(자연어 추론)를 가속화했다. 그러나 세 가지 제한 요소가 있었다. 복잡한 모델을 처리할 수 있는 컴퓨팅 능력, 기계를 가르칠 수 있는 대량의 데이터에 대한 액세스, 그리고 주로 구문 간의 시간적 관계를 형성하여 자가 학습 및 자가 수정이 가능한 모델이다.
20년이 지난 지금, GPU는 엄청난 컴퓨팅 성능을 제공하고 자가 교육과 진화하는 신경망이 표준이며 감독/비지도/반지도 학습 모델이 모두 존재한다. 무엇보다도 이러한 모델이 학습할 수 있는 다양한 소셜 미디어 플랫폼을 포함하여 여러 언어로 된 방대한 양의 데이터에 더 많이 액세스할 수 있다. 그 결과, 자연어로 연결하고, 쿼리 이면의 감정과 의미를 이해하고, 인간처럼 말하고, 인간처럼 응답할 수 있는 AI 엔진이 탄생했다.
우리 모두는 소셜 미디어를 통해 자신도 모르게 이러한 엔진을 훈련하는 '루프'의 '인간'이었다. 이제 우리는 수백, 수천 개의 입력 매개변수를 받을 수 있고 다중 모드이며 우리 언어로 응답할 수 있는 수조 개의 매개변수에 대해 훈련되었다고 주장하는 엔진을 보유하고 있다. GPT4/5, PaLM2, Llama 또는 지금까지 출판된 다른 LLM이든 관계없이 보다 상황에 맞는 수직화 된 문제 해결사로 떠오르고 있다.
참여 시스템 및 기록 시스템
실리콘 진화 덕분에 NLP에서 LLM으로의 여정은 훌륭했지만, 데이터 모델과 우리 모두가 생성한 엄청난 양의 훈련 데이터의 가용성, 기업(소매업체, 제조업체, 은행 등)은 각각 이 기술을 매우 다른 방식으로 적용해야 한다. 첫째, 기업은 AI 환각을 감당할 수 없다. AI와 상호작용하는 사용자에게는 환각 0%와 정확도 100%가 필요하다. 비즈니스 용도로 사용하기 위해 절대적인 정확성을 요구하는 다양한 쿼리가 있다. 귀하의 호텔에는 몇 개의 객실이 있는가? 1등석 티켓이 있는가?
AI 환각에 대응하려면 참여 시스템과 기록 시스템이라는 오래된 개념을 도입한다. 고객, 공급업체 또는 직원과의 참여 시스템은 비즈니스별 프롬프트에 대한 교육을 받은 후 즉시 생성AI 기반 대화 플랫폼을 활용할 수 있다. 이것이 "더 쉬운" 부분이다. 문제는 기록 시스템을 가치 사슬에 포함시키는 것이다. 많은 비즈니스가 여전히 정적인 테이블 및 엔터티 기반 환경에 있으며 대부분의 기업이 조직 또는 기업 수준에서는 정적인 반면 이벤트와 워크플로는 트랜잭션 수준에서 동적으로 만들기 때문에 그러한 상태로 유지될 것이다.
대화, 인터페이스, 쿼리를 처리할 뿐만 아니라 고객 여정을 끝까지 이행하는 차세대 대화 플랫폼에 대해 이야기하는 곳이다. 이러한 대화 플랫폼에는 다양한 아키텍처 접근 방식이 있다. 즉각적인 옵션 중 하나는 벡터화되고 레이블이 지정된 기업 데이터와 LLM 기반 대화 프롬프트 간의 일종의 통합자 역할을 하고 소비자에게 0% 환각 결과를 제공하는 하이브리드 미들웨어를 사용하는 것이다.
LLM 엔진에서 데이터를 이해할 수 있도록 하려면 기업에 필요한 엄청난 양의 데이터 준비 작업이 있다. 우리는 이를 기존 테이블 및 엔터티 기반 데이터 모델의 평면화라고 부른다. 관계형 데이터베이스가 할 수 없는 방식으로 데이터를 표현하고 저장하는 그래프 데이터베이스는 이 여정에서 새로운 목적을 찾고 있다. 목표는 엔터프라이즈 데이터베이스를 컨텍스트와 의미를 정의하는 관계를 통해 보다 이해하기 쉬운 그래프 데이터베이스로 변환하여 LLM 엔진이 더 쉽게 학습하고 대화식 쿼리와 실시간 쿼리의 조합을 통해 최종 고객의 프롬프트에 응답할 수 있도록 하는 것이다. 엔터프라이즈 데이터를 LLM에 사용할 수 있도록 하는 이 작업은 기록 시스템 경험에 대한 엔드투엔드 참여 시스템을 제공하고 사용자 경험을 완벽하게 구현하는 데 핵심이다.
다음은 무엇일까?
현 시점에서 이러한 데이터 및 AI의 발전으로 가장 즉각적인 영향은 소프트웨어 코드 생성 영역에 나타난다. 이는 Microsoft Copilot, Amazone CodeWhisperer 및 기타 개발자 도구의 등장으로 입증된다. 이러한 도구는 레거시 현대화 프로그램을 활성화하는데, 그 중 다수는 시간과 비용 문제로 인해 중단되는 경우가 많다. 생성AI가 제공하는 코드 생성 도구를 사용하면 현대화 프로젝트의 일정이 20~40% 단축되는 것을 볼 수 있다. 그린필드 코드 개발 프로젝트에서 이러한 도구를 사용하면 개발자는 시간과 생산성 절감 효과를 디자인적 사고와 보다 혁신적인 프로젝트로 전환할 수 있다.
소프트웨어 코드 개발 외에도 생성AI 도구는 기업의 가장 시급한 문제를 해결하는 것을 목표로 하는 새로운 수직 사용 사례 및 시나리오의 생성을 이끌고 있다. 그리고 우리는 이러한 추세를 최대한 활용하기 위해 수행해야 할 작업의 표면만 긁기 시작했다. 그럼에도 불구하고 우리는 이미 생성AI를 활용하여 소매 및 물류 부문의 여러 문제와 질문을 해결하고 있다.
창고에 얼마나 많은 재고가 있고 언제 보충을 시작해야 할까? 미리 재고해 두는 것이 유리할까? 내 낙하산 가격이 맞는가, 아니면 가격이 오를 예정인가? 수익을 높이기 위해 어떤 품목을 묶을 수 있고 어떤 종류의 개인화를 제공할 수 있을까?
이러한 종류의 질문에 대답하려면 대화식 프런트 엔드, 백엔드의 높은 정확도 데이터 기반 쿼리, 예측과 미래 지침을 제공하는 도메인 중심 머신러닝 모델의 조합이 필요하다. 따라서 기업에 대한 나의 조언은 다음과 같다. AI 탐험가이든 생성 AI 파괴자이든 관계없이 비즈니스 요구 사항에 적합한 생성AI 모델을 활용하고 앞서 나갈 수 있도록 지원하는 입증된 AI 전문 지식과 강력한 데이터 및 분석 기능을 갖춘 서비스 제공업체와 협력해야 한다.
