OpenAI, ChatGPT에 장기 대화 메모리 제공 실험

Maya Patel included in Ai Memory Biz & It Chatgtp Gpt-4 Turbo Machine Learning Ai Chatbot Chatbots Chatgpt Gpt-4 Large Language Models

2024-02-14 548 words 3 minutes

Contents

ChatGPT는 연구를 수행할 때 픽셀 형태로 나타나는 일련의 디지털 손을 사용하며, Benj Edwards가 게티 이미지를 위해 제공한 그림에 묘사된 것처럼 종이 기록을 넘기는 물리적 행위를 연상시키는 가상 문서를 정독하는 데 관여합니다.

화요일에 OpenAI 는 대화 사이의 세부 사항을 기억할 수 있는 일종의 장기 기억 기능을 ChatGPT에 추가하는 실험을 하고 있다고 발표했습니다. 사용자는 ChatGPT에 무언가를 기억하도록 요청하고, 기억한 내용을 확인하고, 잊어버리도록 요청할 수 있습니다. 현재 이 기능은 소수의 ChatGPT 사용자만 테스트용으로 사용할 수 있습니다.

하나는 개발 단계(배포되기 전)에 AI 시스템의 프레임워크에 본질적으로 통합되어 있고, 다른 하나는 대화가 진행되는 동안 지속되는 임시 메모리 구성 요소(즉, 대화 연대기)입니다. 일반적으로 ChatGPT의 기억상실 속성은 새 세션을 시작할 때 동일한 대화 중에 이전에 전달된 모든 정보를 무시할 수 있도록 합니다.

다양한 프로젝트에서 LLM에 컨텍스트 창을 넘어 지속되는 메모리를 제공하는 실험을 해왔습니다. (컨텍스트 창은 LLM이 한 번에 처리할 수 있는 토큰 수에 대한 엄격한 제한입니다.) 이러한 기술에는 동적으로 컨텍스트 히스토리 관리 요약, 외부에 정보를 저장하는 벡터 데이터베이스 링크, 또는 단순히 시스템 프롬프트에 주기적으로 정보를 주입하는 방법(모든 채팅 시작 시 ChatGPT가 수신하는 지침)이 포함됩니다.

이 이미지는 화면 캡처를 통해 보여드리는 것처럼 OpenAI의 ChatGPT가 제공하는 메모리 제어 기능을 시각적으로 표현한 것입니다.

OpenAI가 사용한 방법론은 명시적으로 공개되지 않았지만, 실행은 2023년 7월 OpenAI가 도입한 ‘사용자 지정 지침’이라는 속성과 공명하며, 이를 통해 사용자는 ChatGPT의 체계적 문의에 사용자 지정 수정 사항을 통합하여 그 수행을 수정할 수 있습니다.

OpenAI가 제공하는 메모리 기능의 잠재적 용도는 다양하고 다재다능합니다. 사용자는 이 기능을 활용하여 회의록에 선호하는 형식을 지정하고, 자신이 커피숍을 운영한다고 AI에 알려주면 AI가 그에 맞게 응답을 조정할 수 있습니다. 또한 해파리와 같은 독특한 관심사를 가진 자녀를 둔 부모는 이 기능을 활용하여 자녀의 흥미와 관련된 시각적 콘텐츠를 만들 수 있습니다. 또한 교육자는 이 기능을 활용하여 개인별 선호도에 따라 어린 학습자를 위한 맞춤형 수업 계획을 저장할 수 있습니다.

또한 OpenAI는 메모리를 활용하면 그룹 내에서 사용되는 특정 문서 스타일 선택이나 선호하는 프로그래밍 프레임워크에 대한 집단 기억을 보존하여 ChatGPT Enterprise 및 Team 가입자 간의 협업을 향상시킬 수 있다고 제안합니다. 또한, OpenAI는 가까운 시일 내에 메모리를 GPT에 통합하여 개별 GPT 유닛이 독립된 메모리 용량을 보유할 수 있도록 할 계획입니다.

메모리 제어

실제로 정보를 불러오는 행위는 개인 정보 보호에 중대한 영향을 미칠 수 있습니다. 멀리 떨어진 서버에서 처리하기 위해 데이터를 OpenAI로 전송하면 의도치 않게 개인정보가 공개될 수 있으며, 이는 OpenAI 서비스를 이용할 때 흔히 발생하는 일입니다. 이러한 경우, 이 기능을 비활성화하기 위한 명시적인 조치를 취하지 않거나 사용자가 기업 또는 팀 계정 요금제를 사용하는 경우를 제외하고는 일반적으로 회사가 인공지능 알고리즘의 입력으로 사용자가 생성한 콘텐츠에 의존한다는 점에 유의하는 것이 중요합니다.

이에 따라 OpenAI는 특정 전제 조건이 충족되지 않는 한 사용자가 저장한 모든 기억을 학습 목적으로도 활용할 수 있음을 명시했습니다. 그럼에도 불구하고 메모리 기능을 완전히 비활성화하는 옵션은 사용할 수 있습니다. 또한, 사용자의 명시적인 요청이 있는 경우를 제외하고는 개인 건강 정보와 같은 민감한 데이터를 보관하지 않도록 ChatGPT에 지시하면서 잠재적인 편견을 평가하고 최소화하기 위한 조치를 시행하고 있음을 확인합니다.

사용자는 저장된 데이터를 카탈로그화하는 “메모리 관리” 인터페이스를 통해 ChatGPT의 정보 보존을 조작할 수 있습니다. 이러한 기억의 진화는 특정 거래소에 묶여 있기보다는 사용자 상호 작용에 따라 달라진다고 OpenAI는 주장합니다. 따라서 대화를 삭제한다고 해서 관련 기억이 지워지는 것이 아니라 개별 기억을 하나씩 삭제해야 합니다.

ChatGPT의 메모리 기능은 플랫폼 내에서 일부 계정만 사용할 수 있기 때문에 지금까지는 액세스가 제한되어 있었습니다. 평가 과정에서 무료 및 유료 ChatGPT 계정 모두에 무작위로 액세스 권한이 부여되는 것을 관찰했습니다. 사용자들의 피드백에 따라, OpenAI는 이번 주부터 일부 ChatGPT 사용자들에게 이러한 기능을 도입하여 점진적으로 이용 가능성을 확대할 계획이라고 밝혔습니다. 더 광범위한 출시에 대한 자세한 내용은 추후에 공유될 예정입니다.