Hercules AI, 엔터프라이즈급 차세대 AI 앱 구축을 위한 조립 라인 접근 방식 공개

헤라클레스 AI 미래의 업무 환경을 혁신하는 제너레이티브 AI 기업 헤라클레스는 가상 AI 워커를 기업에 신속하게 배치할 수 있는 새로운 방법론을 개발했습니다. 또한, 이전에 제로 시스템(Zero Systems)으로 알려진 이 회사는 규제 산업에 속한 기업이 인지적 의사 결정이 필요한 복잡한 워크플로우를 자동화하는 데 도움이 되는 모델인 RosettaStoneLLM을 도입했습니다.

‘조립 라인’으로 알려진 간소화된 접근 방식을 활용하여 조직은 다양한 사전 조립식 요소 중에서 선택하여 가상 AI 직원을 만들고 구현할 수 있습니다. 이렇게 사전 구축, 검사 및 구성된 요소는 개인화된 주문 없이도 효율성과 효과를 보장합니다. 헤라클레스 AI는 이 방법론을 사용하면 뛰어난 품질, 경제성, 적응력을 갖춘 AI 작업자 개체를 만들 수 있다고 주장합니다. 필요한 수정은 미리 정해진 작업 프로세스에 맞게 모델을 조정하는 것뿐입니다.

기업은 일반적으로 특정 요구사항과 사양에 맞춘 봇을 원하지만, 이러한 노력은 종종 시간과 자원의 상당한 지출을 수반하여 궁극적으로 고객 복지에 해를 끼치기 때문에 엄격한 규제가 적용되는 산업에서는 특히 어려운 일입니다. 그럼에도 불구하고 금융, 보험, 법률 서비스 등의 분야에서 활동하는 비즈니스는 규제 기관에서 개별 구성 요소를 정기적으로 면밀히 조사하여 확립된 법률을 준수하고 데이터 보호를 유지하기 때문에 더 큰 수용성을 보일 수 있습니다. 따라서 이러한 분야의 다른 기업이 유사한 솔루션을 성공적으로 구현했다면 이와 유사한 접근 방식을 채택하는 것이 유리할 수 있습니다. 사용자 정의 옵션은 주로 대규모 언어 모델(LLM)의 활용으로 제한되는 것으로 보입니다.

Hercules AI에서 개발한 RosettaStoneLLM은 70억 개의 파라미터 수를 가진 Mistral-7B 및 WizardCoder-13B의 강력한 기능을 활용합니다. 이 도구를 활용하면 기업은 스프레드시트에 저장된 구조화된 데이터를 변환하여 AI 기술과 원활하게 통합할 수 있습니다. 특히, 방대한 양의 데이터베이스 내보내기 및 스프레드시트 변환은 수작업 처리에 필요한 높은 비용과 긴 시간으로 인해 규제 대상 산업에서 상당한 어려움을 겪고 있습니다. 이 프로세스를 간소화하여 구조화된 데이터를 조직 전반의 기존 워크플로우와 호환되는 형식으로 효율적으로 변환할 수 있도록 하는 것이 RosettaStoneLLM의 목적입니다.

회사의 예비 조사 결과에 따르면, 로제타스톤LLM은 GPT-4의 일반 모델에 비해 엔티티 매핑 및 코드 생성 작업 수행 측면에서 주목할 만한 이점을 보여주었으며 최대 30%의 개선이 이루어졌다고 합니다.

Hercules AI의 RosettaStone 대규모 언어 모델(LLM)을 추론에 활용하는 모습을 보여주는 그림은 Hercules AI에서 제공한 것입니다.

회사 관계자에 따르면 “기업, 특히 보험 및 금융 분야의 기업들은 효율적인 기능을 위해 구조화된 데이터에 크게 의존하고 있습니다. 예를 들어 보험사가 보험 가입자를 위한 의료 보장 견적을 생성해야 하는 경우를 상상해 보세요. 이러한 경우 고객은 열, 행, 약어에 고유한 명칭을 사용하여 다양한 파일 형식과 구성 체계로 나타나는 종합적인 건강 기록을 제공합니다. 기존에는 이렇게 다양한 데이터를 보험사의 고유한 분석 플랫폼과 호환되는 구성으로 변환하려면 상당한 수작업이 필요했습니다. 하지만 로제타스톤의 기능을 활용하면 이 과정을 즉각적으로 수행할 수 있으므로 많은 사람의 개입이 필요하지 않습니다.

캘리포니아주 캠벨에 본사를 둔 Hercules AI는 현재까지 벤처 캐피탈 투자를 통해 1,210만 달러를 성공적으로 확보했습니다. 고객사에 대한 구체적인 세부 정보는 공개되지 않았지만, 포춘지 선정 1000대 기업 중 상당수와 미국 내 주요 로펌 중 상당수(전체의 약 30%)가 자사 서비스를 이용하고 있다고 자랑스럽게 밝히고 있습니다.