Gleen AI, 기업 자체 데이터로 AI 환각을 막기 위해 490만 달러 투자 유치
전 세계의 기업들이 무대 뒤에서, 고객 인터페이스의 일부로, 또는 두 가지 모두를 아우르는 방식으로 생성 인공 지능을 신속하게 평가하고 실험하며 운영에 통합하기 위해 노력하는 가운데, 의사 결정을 담당하는 수많은 개인은 특정 지속적인 과제, 특히 AI가 생성하는 환각 사례와 관련된 과제에 대해 계속해서 정당한 우려를 품고 있습니다.
하지만 새로운 스타트업인 Gleen AI, 가 등장해 “환각을 해결한다"고 주장하고 있다고 본 사이트와의 화상 통화 인터뷰에서 독점적으로 밝힌 Gleen의 CEO 겸 공동 설립자 Ashu Dubey는 말합니다.
Gleen AI는 최근 총 490만 달러 규모의 시리즈 시드 펀딩 라운드를 확보했으며, Slow Ventures, 6th Man Ventures, South Park Commons, Spartan Group과 같은 저명한 벤처 캐피탈 회사와 전직 Facebook 및 Meta Platforms의 샘 레신과 같은 유명 엔젤 투자자가 주도하고 있습니다. 이 대규모 투자를 통해 고급 구성 기술을 통해 AI 기반 고객 서비스 기능을 최적화하고자 하는 기업을 위해 특별히 설계된 혁신적인 환각 방지 데이터 레이어 소프트웨어 솔루션을 지속적으로 개발할 수 있게 되었습니다.
환각의 문제
ChatGPT, 클로드 2, LLaMA 2, 바드 등 널리 사용되는 상용 언어 모델과 같은 고급 인공 지능 시스템은 인간이 제공한 입력에 따라 응답을 생성하는 훈련 프로세스를 사용합니다. 이러한 응답 생성은 사용자가 입력한 특정 키워드 및 개념과 연관된 정보를 생성함으로써 이루어집니다.
인공지능 모델은 정확성을 위해 노력하지만, 간혹 정확도가 부족하거나 사용자의 입력과 관련이 없는 주제와 관련된 정보를 생성할 수 있습니다. 그럼에도 불구하고 이러한 사례는 모델 학습 단계에서 인간 사용자가 유사한 감정을 표현했던 이전 연관성을 기반으로 합니다.
최근의 한 가지 좋은 예로, ChatGPT가 “지구가 화성을 언제 식었나요?“라는 질문에 에 대한 답변을 시도하면서 완전히 부정확한 설명을 설득력 있게 제공했습니다(질문의 전제 자체가 결함이 있고 부정확합니다. 지구는 화성을 일식할 수 없습니다).
이러한 부정확한 답변으로 인해 때때로 재미있거나 흥미로운 결과가 나올 수 있지만, 직원이나 최종 사용자에게 정확한 정보를 제공하기 위해 이러한 답변에 의존하는 기업은 특히 의료, 제약 및 고위험 산업과 같이 인류 복지의 중요한 문제와 관련된 규제 부문의 경우 상당한 위험에 노출될 수 있습니다.
환각을 방지하기 위해 글린이 하는 일
글린에서는 사용자의 의견을 받을 때 특정 프로세스를 따릅니다. 먼저, 적절한 응답을 생성하기 위해 관련 정보를 대규모 언어 모델(LLM)로 전송합니다. 그러나 그 전에 정확하고 만족스러운 답변을 생성하는 데 필요한 사실 데이터를 충분히 확보하고 있는지 확인합니다. 사용 가능한 세부 정보가 충분하지 않다고 판단되는 경우 사용자의 입력을 LLM에 전달하지 않습니다.
특히 글렌은 기업 고객이 조직 내에서 구현하고자 하는 대규모 언어 모델과는 별개의 독자적인 인공 지능 및 기계 학습(ML) 인프라를 개발했습니다.
솔루션의 핵심 구성 요소는 조직의 고유 정보를 처리하여 벡터화된 리포지토리를 생성한 다음, 이를 활용하여 정확한 응답을 제공하는 인공지능 모델의 성능을 향상시킵니다.
사용자 측에서 Gleen AI의 레이어가 생성되는 과정을 보여주는 스크린샷. 크레딧: Gleen AI
Gleen의 레이어는 다음을 수행합니다:
도움말 문서, FAQ, 제품 사양, 설명서, 위키, 포럼, 과거 채팅 로그 등 다양한 소스에서 정형 및 비정형 엔터프라이즈 지식을 모두 수집하여 포괄적인 솔루션을 제공합니다. 엄격한 큐레이션 프로세스를 통해 관련 없는 정보와 노이즈는 걸러내고 검증되고 검증된 필수 사실만 남깁니다. 이러한 접근 방식을 통해 글레네바의 AI 에이전트는 수많은 데이터 속에서 중요한 인사이트를 찾아낼 수 있습니다. 서로 다른 엔티티 간의 상호 연결성을 나타내는 지식 그래프를 구축함으로써 Gleneva는 특정 문의에 대한 관련 세부 정보를 효율적으로 검색할 수 있습니다. 또한 이 시스템은 대규모 언어 모델에서 생성된 응답을 선별된 지식 기반과 교차 확인하여 정확성을 보장합니다. AI가
을 제공할 수 없는 경우 AI 계층은 LLM과 최종 사용자 간의 커뮤니케이션 프로세스에서 중간 단계로 작동하여 LLM이 제공하는 정보가 정확하고 신뢰할 수 있는지 확인하는 역할을 합니다. 이러한 역할은 최종 사용자에게 도달하기 전에 챗봇이 생성한 결과물을 검토하고 검증하는 역할을 하는 품질 관리 관리자와 유사하다고 볼 수 있습니다.
Dubey는 주어진 사실을 완전히 이해하고 있다는 확신이 있을 때만 언어 모델(LLM)을 활용한다고 강조했습니다. 추가 설명이 필요한 경우 사용자에게 이를 투명하게 전달하고 추가 정보를 요청합니다.
글렌의 소프트웨어를 사용하면 용도에 따라 ‘페르소나’를 쉽게 변경하여 특정 요구 사항에 맞는 맞춤형 고객 지원 챗봇을 효율적으로 생성할 수 있습니다.
Gleen AI의 봇 성격 제어 설정 스크린샷. 출처: Gleen AI
글렌이 제안한 솔루션은 인공지능 모델에 구애받지 않도록 설계되었으며, API 통합 기능을 통해 다양한 주요 모델을 지원할 수 있습니다.
높은 평가를 받고 있는 LLM을 원하는 개인을 위해 저희 플랫폼은 OpenAI의 고급 GPT-3.5 터보 모델과의 호환성을 제공합니다. 또한, 유니티는 LLM 제공업체로의 데이터 전송과 관련된 개인정보 보호 우려를 이해하고 존중합니다. 따라서 저희는 자체 보안 인프라 내에서만 작동하는 LLaMA 2를 활용할 수 있는 대안을 제공합니다. OpenAI는 명시적인 동의 없이 교육 목적으로 고객 정보에 액세스하거나 이를 활용하지 않겠다는 약속을 일관되게 주장해 왔지만, 이는 절대적인 보장이 아닌 신중함의 문제임을 인정합니다.
Gleen은 공용 인터넷과 격리된 독점적인 대규모 언어 모델(LLM)을 활용하여 보안 수준이 높은 특정 고객을 위한 대안을 제공합니다. 그러나 두베이는 망상적 사고의 원인을 LLM 자체에 두지 않고 다른 요인을 잠재적 원인으로 간주합니다.
두베이는 “언어 모델에 적절한 사실 데이터가 제공되지 않으면 잘못된 응답을 생성할 수 있다"며 잘못된 출력을 피하기 위해 언어 모델에 충분한 맥락 정보를 제공하는 것이 중요하다고 강조했습니다. 또한 ‘정확도 레이어’로 알려진 이 솔루션은 LLM에 제공되는 입력 데이터를 제어하고 필터링하여 보다 정확한 결과를 보장하는 데 도움이 된다고 설명했습니다.
초기 피드백이 유망하다
현재 Glenn을 활용하면 고객의 Slack 플랫폼에 원활하게 통합되거나 사용자 대면 지원 담당자로 제공될 수 있는 맞춤형 챗봇을 만들 수 있습니다.
Gleen AI 챗봇의 예입니다. 출처: GleenAI
글렌 AI는 양자 컴퓨팅, 암호화 및 정밀도가 가장 중요한 기타 다양한 전문 분야의 고객사에서 활용되고 있습니다.
디지털 통화인 이더리움의 기업적 매력을 높이기 위해 노력하는 조직인 매터 랩스에서는 몇 가지 관련 링크만 제공하면 그 이후 프로세스가 원활하게 진행되었기 때문에 글렌 AI를 구현하는 데 우리 팀의 노력이 거의 필요하지 않았다고 커뮤니티 지원 담당자인 에스테반 빌라(Estevan Vilar)는 말합니다.
Slack에 Gleen AI 챗봇을 통합한 예시. 크레딧: Gleen AI
Gleen은 잠재 고객에게 회사 데이터를 사용하여 자신만의 맞춤형 챗봇을 만들 수 있는 무료 " AI 놀이터 “을 제공하고 있습니다.
대규모 언어 모델(LLM)의 잠재력을 활용하는 동시에 고유의 단점을 해결하려는 기업들의 관심이 높아지는 상황에서 정확도 계층을 통한 글렌 AI의 정밀도 중심 접근 방식은 향상된 신뢰성으로 고급 인공 지능 기능을 구현하여 궁극적으로 기업과 고객의 기대치를 모두 충족시킬 수 있는 실행 가능한 솔루션을 제시할 수 있습니다.
저희는 각 기업이 독자적인 지식 그래프 기반 인공지능(AI) 비서를 보유하는 미래를 꿈꾸고 있습니다. 이러한 벡터 데이터베이스는 기업의 웹사이트에 필적하는 중요한 자산으로 간주될 것이며, 고객 여정 전반에 걸쳐 맞춤형 자동화를 촉진할 수 있을 것이라고 두베이는 설명합니다.