메타는 오픈 소스 Llama 3 LLM으로 기준을 높입니다.

Meta는 최첨단 오픈 소스 LLM(대규모 언어 모델)의 차세대 버전인 Llama 3 를 출시했습니다. 이 거대 기술 기업은 Llama 3가 실제 시나리오에서 GPT-3.5와 같은 업계 선도적인 이전 모델을 능가하는 새로운 성능 벤치마크를 수립했다고 주장합니다.

최근의 노력에서 우리는 현재 가장 존경받는 독점 모델에 필적할 수 있는 뛰어난 오픈 소스 모델을 개발하기 위해 노력했습니다.“라고 Meta는 라마 3 출시를 기념하는 공식 블로그 게시물에서 밝혔습니다.

라마 3의 첫 번째 반복은 인상적인 80억 개의 매개 변수와 더 광범위한 700억 개를 자랑하는 두 가지 변형으로 공개되었습니다. 그럼에도 불구하고 메타의 개발자들은 수백억 개의 추가 파라미터로 더 큰 모델을 계속 훈련하고 있으며, 몇 달 안에 그 결과를 요약한 연구 논문을 발표할 계획인 것으로 알려졌습니다.

라마 3의 개발에는 2년이 넘는 기간 동안 상당한 시간과 자원이 투자되었습니다. 이 기간 동안 뛰어난 품질의 종합적인 학습 데이터를 생성하고, 분산 학습 기능을 확장하고, 모델의 아키텍처를 개선하고, 지침을 미세 조정하기 위한 새로운 기술을 탐구하는 데 집중했습니다.

700억 개 이상의 파라미터가 포함된 방대한 데이터 세트를 통해 개선된 Meta의 대규모 언어 모델은 프로그래밍, 문제 해결, 상상력 콘텐츠 생성 등 다양한 애플리케이션에서 GPT-3.5, Claude 및 기타 유사한 규모의 모델에 비해 우수한 성능을 보였으며, 12가지 사용 사례에 걸쳐 실시한 인적 평가에 따르면, 그 성능은 GPT-3.5와 비교하여 월등히 우수한 것으로 나타났습니다. 또한, Meta의 작지만 여전히 상당한 80억 개의 파라미터로 구성된 사전 학습 모델은 언어 모델에 널리 사용되는 여러 벤치마킹 테스트에서 인상적인 결과를 얻었습니다.

Meta는 앞서 언급한 오픈 소스 모델이 각 카테고리의 정점을 대표한다는 확신을 주저함이나 자격 조건 없이 표명했습니다.

이 기술 회사는 인공지능 개발을 위한 활기찬 생태계를 조성하기 위해 ‘오픈 액세스’ 패러다임을 통해 자사의 인공지능 모델에 접근할 수 있도록 하는 적극적인 전략을 채택하고 있습니다. 이를 염두에 두고 여러 유명 클라우드 서비스 제공업체, 모델 저장소, 하드웨어 제조업체 및 AI 플랫폼에서 라마 3를 쉽게 사용할 수 있도록 할 예정입니다.

메타의 라마 3 모델 출시와 관련해 최고기술책임자이자 Iris.ai의 공동 설립자인 빅터 보테프(Victor Botev)가 발표한 성명서는 전 세계적으로 인공지능 규제가 강화되는 추세에 부합한다는 점에서 주목할 만합니다. 이러한 접근 방식은 투명한 개발과 인공지능의 윤리적 원칙 준수에 대한 약속을 반영합니다.

또한 이러한 접근 방식은 개방형 모델이 다양한 전략의 개발 및 평가에 대한 창을 제공하기 때문에 규제 프로세스에 대한 대중의 인식과 이해를 높일 수 있습니다. 이렇게 향상된 가시성은 정책의 수립과 시행에 정보를 제공하고 영향을 미쳐 보다 효과적인 거버넌스로 이어질 수 있습니다.

Meta의 최신 모델에는 위험 식별을 위한 차세대 라마 가드와 남용 가능성 평가를 위한 CyberSec 평가 등 개정된 AI 안전 도구 세트가 함께 제공됩니다. 또한 추론을 도출하는 과정에서 보안되지 않은 코드 제안을 걸러내기 위해 코드 쉴드라는 새로운 요소가 통합되었습니다.

오픈소스 모델은 접근성과 협업 측면에서 특정 이점이 있을 수 있지만, 오픈소스라는 명칭만으로는 윤리적 인공 지능(AI)을 보장하지 않는다는 점을 고려하는 것이 중요합니다. 데이터 보호, 편향되지 않은 알고리즘, 사회적 영향 등 AI를 둘러싼 다양한 우려를 효과적으로 해결하기 위해서는 전 세계적으로 AI 규제 조치가 강화되는 추세에 발맞춰 다각적인 전략을 세워야 합니다.

투명성과 협력을 촉진하는 데 있어 라마 3와 같은 개방형 이니셔티브의 효과는 AI 거버넌스 표준 준수를 보장하고 인공지능 시스템의 개발 단계 전반에 걸쳐 윤리적 원칙을 통합하는 포괄적인 전략에 달려 있습니다. 메타의 지속적인 라마 모델 연구는 긍정적인 진전이지만, 윤리적 AI를 실현하려면 관련된 모든 당사자의 지속적인 헌신이 필요합니다.

메타는 라마 3 기술을 통해 책임감 있는 AI 개발 및 구현을 위한 ‘총체적’ 전략을 구현하고 있다고 주장합니다. 시스템은 엄격한 안전 테스트를 거쳤지만, 개발자가 애플리케이션의 고유한 요구 사항에 따라 고유한 입출력 필터를 통합하는 것이 중요하다고 강조합니다.

Llama 3를 통합한 이 회사의 최종 사용자 제품은 Meta AI로, Meta는 이 새로운 모델 덕분에 세계 최고의 AI 어시스턴트가 되었다고 주장합니다. 사용자는 생산성, 학습, 창의성 및 일반 문의를 위해 Facebook, Instagram, WhatsApp, Messenger 및 웹 을 통해 Meta AI에 액세스할 수 있습니다.

시각적 요소를 통합한 메타 AI의 고급 버전이 개발 중이며, 혁신적인 Ray-Ban 증강 현실 안경에서 예비 시연을 통해 공개될 예정입니다.

라마 3의 인상적인 성과에도 불구하고, 인공지능 커뮤니티 내 일부 사람들 사이에서는 ‘더 나은 사회를 위한’ 개방적 접근 방식을 공언한 메타의 약속에 대해 어느 정도 회의적인 시각이 남아 있습니다.

실제로 미스트랄 AI가 Mixtral 8x22B를 통해 오픈 소스 모델에 대한 새로운 표준을 수립한 지 불과 며칠 만에 Meta는 최신 버전을 통해 공개적으로 액세스할 수 있는 대규모 언어 모델에 대한 가능성의 매개변수를 재정의했습니다.

또한, SAS는 광범위한 기술 전문 지식이나 리소스 없이도 쉽게 구현할 수 있는 사전 패키지형 AI 솔루션을 제공함으로써 인공지능에 대한 접근성을 대중화하기 위해 노력해 왔습니다. 이러한 접근 방식을 통해 조직과 개인 모두 고급 분석 기능을 활용하고 데이터에서 가치 있는 인사이트를 얻을 수 있습니다.