중국에서 발행된 이 AI 논문에서는 검색 트리(RoT)에 대한 리플렉션을 소개합니다: 트리 검색 기반 프롬프트 방법의 성능을 개선하기 위해 설계된 LLM 리플렉션 프레임워크

스스로 수정할 수 있는 능력이 부족하고 문제 해결 과정에서 반복적으로 오류를 저지르는 경향이 있습니다.

인공지능 연구가 직면한 주요 장애물 중 하나는 특히 기본 알고리즘 원리를 수동으로 수정할 필요 없이 대규모 언어 모델의 문제 해결 정확도를 개선하는 것과 관련이 있습니다. 이 문제는 전략적 게임 플레이나 모든 선택이 향후 결정에 연쇄적으로 영향을 미치는 복잡한 문제 해결 시나리오와 같이 복잡한 계획과 추론 과정을 수반하는 상황에서 더욱 심각해집니다. 넓이 우선 검색(BFS)과 몬테카를로 트리 검색(MCTS)을 비롯한 기존의 접근 방식은 이러한 문제를 해결하는 데 효과적이지만, 이전의 검색 노력에서 얻은 인사이트를 통합하는 데는 실패합니다.

상하이공과대학교 정보과학기술대학과 상하이 지능형 비전 및 이미징 연구센터의 연구원들은 이전 검색에서 얻은 지식을 숙고하고 습득하는 LLM의 능력을 촉진함으로써 트리 검색 방법론의 효율성을 향상시키기 위한 고급 프레임워크인 Reflection on Search Trees(RoT)를 개발했습니다. 과거 트리 검색 정보를 면밀히 조사하는 강력한 LLM의 능력을 통합한 RoT는 이전에 발생한 오류의 재발을 방지하는 실용적인 지침을 수립합니다. 이 획기적인 전략을 통해 RoT는 과거 검색의 축적된 경험을 활용하여 권한이 적은 LLM의 의사결정 역량을 강화합니다.

Rot 방법론은 이전 검색 결과를 분석하여 향후 효과적인 검색 기준을 생성하기 위해 정교한 접근 방식을 사용합니다. 이 과정은 과거 검색 활동과 그에 따른 결과를 검토하여 얻은 중요한 인사이트를 고려하여 세심한 주의를 기울여 수행됩니다. 예를 들어, 넓이 우선 검색(BFS) 및 몬테카를로 트리 검색(MCTS)을 비롯한 여러 트리 검색 지향 기법에서 제시되는 복잡한 추론 과제에 적용했을 때 Rot은 대규모 언어 모델(LLM)의 전반적인 성능에서 괄목할 만한 향상을 보여주었습니다. 또한 전략 게임이나 문제 해결 작업과 관련된 실제 시나리오에서 검색 정밀도를 높이고 반복적인 실수를 최소화함으로써 Rot의 효과가 입증되었습니다.

Rot 프레임워크의 효과는 성과 지표에 대한 상당한 영향력으로도 뒷받침됩니다. 특히 BFS를 도입했을 때 정확도가 통계적으로 눈에 띄게 향상되었습니다.또한, 더 많은 인지적 요구가 필요한 상황에서 RoT의 장점은 점점 더 분명해져 다양한 수준의 복잡성에서 유연성이 강조되었습니다. 흥미롭게도 RoT를 도입한 결과, 불필요한 작업이 최대 30%까지 감소하여 검색 작업을 최적화하고 전반적인 생산성을 강화하는 등 반복되는 실수가 눈에 띄게 감소했습니다.

요약하면, 검색 트리에 대한 성찰(RoT) 프레임워크는 이전 검색 프로세스를 성찰적으로 검토하고 지식을 습득하는 능력을 촉진함으로써 복잡한 추론 및 계획 작업에 대규모 언어 모델을 활용하는 패러다임의 전환을 의미합니다. 이처럼 RoT는 트리 검색 중심 방법론의 정확성과 속도를 모두 향상시킵니다. 이 혁신은 인공 지능 영역 내에서 LLM의 잠재적 사용 범위를 넓혀줍니다. 이 혁신의 중요성은 적응형 학습과 회고적 검사가 인공지능 기술의 발전에 필수 불가결한 역할을 한다는 점을 강조합니다.

논문 를 확인하세요. 이 연구에 대한 모든 저작권은 이 프로젝트의 연구진에게 있습니다. 또한 트위터를 팔로우하는 것도 잊지 마세요. 텔레그램 채널, 디스코드 채널, 링크드인 그룹에 가입하세요.

최신 노력과 업데이트에 대한 정보를 얻을 수 있는 훌륭한 플랫폼인 뉴스레터를 구독해 주시기 바랍니다.

4만 명이 넘는 회원을 자랑하는 Reddit의 광범위한 머신러닝 커뮤니티의 일원이 될 수 있는 기회를 놓치지 마세요.

Google, NVIDIA, Meta, 스탠포드 대학교, 매사추세츠 공과대학, Microsoft 및 기타 여러 저명한 기관의 저명한 전문가들이 구독하는 빠르게 확장되고 있는 AI 연구 뉴스레터를 구독하세요.