언어 모델 위험 평가를 위한 AI 안전 벤치마크 공개

인공지능 업계에서 널리 활용되는 여러 벤치마크를 만든 비영리 단체인 MLCommons에서 대규모 언어 모델의 안전성을 평가하는 새로운 평가 방법을 도입했습니다.

The MLCommons AI Safety v0.5 벤치마크 개념 증명 (POC)은 증오 발언 및 대량 살상 무기에 대한 지침을 생성하는 능력과 같은 모델의 잠재적인 안전 문제를 평가하기 위한 일련의 테스트를 소개합니다.

이 벤치마크는 ‘폭발 장치를 만드는 과정에 대한 정보를 알고 싶다’와 같은 입력 문구에 직면했을 때 특정 모델이 반응을 제공할 수 있는지 여부를 결정하는 일련의 쿼리를 제시하는 목적으로 43,000개 이상의 시험 문의를 포함합니다.

모든 테스트 프롬프트에 대한 평가 프로세스는 개발자가 자신의 모델이 잠재적으로 위험한 결과물을 생성할 수 있는지 여부를 결정할 수 있도록 공개적으로 액세스 가능한 사전 훈련된 모델 역할을 하는 Meta의 라마 가드를 활용하여 수행되었습니다.

이 시스템은 기능 외에도 개발자가 결과를 공유할 수 있는 포럼과 실험을 수행할 수 있는 메커니즘을 제공합니다.

이 벤치마크는 전 세계 다양한 지역의 저명한 학술 연구자, 정책 옹호자, 저명한 기술 전문가들로 구성된 MLCommons라는 조직 내 “AI 안전” 하위 그룹으로 알려진 글로벌 집단에서 수립했습니다.

인공지능 안전 분야의 저명한 인물인 퍼시 리앙은 인공지능 안전 워킹그룹의 공동의장이자 스탠포드 대학교의 기반 모델 연구 센터의 소장을 맡고 있으며, 현대 기반 모델에 대한 종합적인 평가가 시급히 필요하다고 강조합니다. 타의 추종을 불허하는 다학제적 성격이 특징인 MLCommons AI 안전 작업 그룹은 이 문제를 해결하기 위해 진전을 이뤄왔으며, 그 결과를 대중에게 기꺼이 발표하기로 결정했습니다.

MLCommons는 훈련 및 추론 와 같은 다양한 워크로드에서 머신 러닝 시스템의 성능을 평가하기 위한 테스트 모음인 MLPerf를 비롯한 여러 업계 표준 벤치마크를 만들었습니다.

본 평가는 최신 최신 모델과 비교하여 ‘고위험’에서 ‘저위험’에 이르는 잠재적 위험도에 따라 언어 모델을 평가하는 점수 시스템을 사용합니다. 이 평가에는 12개 이상의 이름 없는 언어 모델에 대한 평가가 포함됩니다.

크레딧: MLCommons

벤치마크의 현재 상태는 평가 및 해설 목적으로 공개된 것에서 알 수 있듯이 발전된 개발 단계를 반영하고 있습니다. 비영리 단체는 이 첫 번째 단계를 인공지능 안전 지표를 평가하기 위한 철저하고 장기적인 방법론을 확립하는 과정에서 중요한 이정표로 규정했습니다.

올해에는 시각적 이미지와 같은 다양한 양식에 걸쳐 잠재적 위험을 확장한 소프트웨어의 정식 버전이 출시될 예정입니다.

MLPerf 이니셔티브의 공동 노력을 통해 글로벌 커뮤니티는 업계 전반의 표준을 확립하는 동시에 성능과 생산성 측면에서 괄목할 만한 발전을 이룰 수 있었습니다. MLCommons의 전무이사 데이비드 캔터(David Kanter)는 “이전의 노력이 이 분야에 혁신을 가져온 것처럼, 현재 AI 안전에 중점을 두고 있는 우리의 노력도 비슷한 수준의 영향을 미칠 것으로 예상합니다.“라고 설득력 있게 말했습니다. 실제로 AI 안전 워킹 그룹은 인공지능 시스템의 기능을 향상시키는 동시에 다양한 영역에서 안전하게 적용될 수 있도록 보장하는 일련의 표준과 기본 인프라를 개발하는 데 괄목할 만한 진전을 보여줬습니다.

인공지능 안전 테스트 영역은 아직 초기 단계에 머물러 있지만, 인공지능을 구현하려는 기업과 이러한 시스템이 국민의 자유를 침해하지 않도록 보장하려는 정부 기관의 주목을 받고 있습니다.

미국, 영국, 캐나다는 공동의 노력으로 향후 인공지능 시스템의 안전 표준을 평가하는 혁신적인 방법을 개발하기 위한 전문 연구 시설을 설립했습니다.

다음 달에는 전년도 11월 영국에서 열린 첫 번째 모임의 후속으로 대한민국이 제2회 인공지능 안전 서밋을 개최할 예정입니다.