메타 AI 언어 모델 투명성 도구를 소개합니다: 트랜스포머 기반 언어 모델 분석을 위한 오픈 소스 대화형 툴킷

LLM-TT(대규모 언어 모델 투명성 도구) 은 Transformer 기반 언어 모델을 분석하는 Meta Research의 오픈 소스 대화형 툴킷입니다. 이 도구는 입출력 정보 흐름의 중요한 부분을 묘사하고 개별 주의 헤드와 뉴런의 기여도를 검사할 수 있게 해줍니다. 트랜스포머렌즈 후크는 허깅 페이스의 다양한 모델과 호환되는 플러그 앤 플레이 환경을 제공합니다. 사용자는 포워드 패스 동안 정보가 네트워크를 통해 이동하는 방식을 관찰하고 주의 에지와 노드를 탐색하여 특정 구성 요소가 모델 출력에 미치는 영향을 검사할 수 있습니다.

LLM-TT 개발의 필요성은 의사 결정 및 자료 생성 등 다양한 분야에서 언어 모델(LLM)의 복잡성과 영향력이 증가함에 따라 생겨났습니다. 이 장치는 선택 결정 절차에 대한 투명성을 제공함으로써 이러한 시스템의 운영을 이해하고 감독하는 데 있어 필수적인 공백을 메우는 것을 목표로 합니다. 모델 행동을 검증하고 편견을 드러내며 도덕적 원칙 준수를 보장하는 역량을 강화함으로써 AI 구현에 대한 신뢰와 신뢰성을 강화하여 궁극적으로 대중의 신뢰를 증진합니다.

LLM-TT의 주요 기능은 다음과 같습니다:

사용자가 모델을 선택하고 추론을 시작하라는 메시지를 표시합니다. 주요 기능에는 기여도 그래프를 탐색하고 이 그래프를 구축할 토큰을 선택하는 것이 포함됩니다. 사용자는 기여도 임계값을 조정하고 블록 이후 토큰의 표현을 선택할 수 있습니다. 각 토큰 표현에 대해 출력 어휘에 대한 투영이 표시되며, 이전 블록에서 어떤 토큰이 승격되거나 억제되었는지를 보여줍니다. 대화형 요소에는 클릭 가능한 가장자리와 기여한 관심 헤드에 대한 자세한 정보를 표시하는 헤드, 가장자리를 선택하면 승격 또는 억제 세부 정보를 표시하는 헤드가 포함됩니다. 피드포워드 네트워크(FFN) 블록과 이러한 블록 내의 뉴런도 상호 작용이 가능하므로 세부적인 검사가 가능합니다.

요약하면, LLM-TT를 활용하면 Transformer 기반 언어 모델에 대한 이해도, 형평성, 책임감을 크게 향상시킬 수 있습니다. 이 접근 방식은 데이터 처리 활동에 대한 철저한 분석을 제시하는 모델의 숙련도를 드러내므로 각 구성 요소의 역할에 대한 세심한 평가가 용이해집니다. 이를 통해 LLM의 작동 원리를 더욱 명확하게 파악할 수 있으므로 인공지능 기술을 보다 책임감 있고 정보에 입각한 방식으로 적용할 수 있습니다.

GitHub 및 HF 페이지 을 확인하세요. 이 연구에 대한 모든 저작권은 이 프로젝트의 연구진에게 있습니다.또한 트위터를 팔로우하는 것도 잊지 마세요. 텔레그램 채널, 디스코드 채널, 링크드인 그룹에 가입하세요.

저희의 노력에 감사하는 분들께는 여러분의 관심을 불러일으킬 만한 최신 노력과 업데이트에 대한 정보를 얻을 수 있는 훌륭한 플랫폼인 뉴스레터 구독을 진심으로 권해드립니다.

4만 명이 넘는 회원을 자랑하는 Reddit의 광범위한 머신러닝 커뮤니티의 일원이 될 수 있는 기회를 놓치지 마세요.

콘텐츠 파트너십을 원하시면 여기에서 이 양식을 작성하세요.

Google, NVIDIA, Meta, 스탠포드 대학교, 매사추세츠 공과대학, Microsoft 및 기타 수많은 저명한 기관의 저명한 전문가들이 구독하는 빠르게 확장 중인 AI 연구 뉴스레터를 구독하세요.