샘플 품질 향상: OpenAI의 일관성 모델 훈련 기법으로 게임 재정의
일관성 모델은 인공 지능 연구 영역에서 새롭게 떠오르는 생성 모델 클래스입니다. 이러한 모델은 이러한 시스템과 관례적으로 관련된 정교한 적대적 훈련 없이도 통합된 단계에서 고품질의 결과물을 생성할 수 있다는 점에서 주목할 만한 특징이 있습니다. 이러한 모델의 주요 장점은 기존 확산 모델에서 지식을 추출하고 학습된 지각 이미지 패치 유사도(LPIPS)와 같은 기존 지표를 활용하여 성능을 향상시킬 수 있다는 점입니다. 그러나 이 접근 방식은 일관성 모델에 해당 확산 모델과 동일한 수준의 품질을 부여하는 동시에 LPIPS 평가를 활용하여 잠재적인 편향성을 추가로 도입한다는 점에 유의해야 합니다.
당면한 과제를 해결하기 위해 최근 발간된 “일관성 모델 훈련 기법"에서는 일관성 모델이 데이터 소스에서 직접 지식을 습득하여 기존의 일관성 증류 기법에 비해 최상위 샘플을 생성하는 데 탁월한 결과를 달성하고 LPIPS 메트릭의 제약에서 벗어날 수 있는 획기적인 접근법을 제시합니다.
일관성 증류(CD)는 기존 교사 모델에서 지식을 추출하여 보다 일관성 있는 학생 모델을 생성하거나, 일관성 훈련(CT)은 교사 모델을 직접 사용하여 더 나은 성과를 위해 학생 모델을 훈련하는 방식입니다. 여러 연구에 따르면 CD는 결과 측면에서 CT를 능가하지만, 별도의 확산 모델을 훈련해야 하므로 추가적인 계산 오버헤드가 발생하여 일관성 모델의 샘플 품질이 저하된다는 사실이 반복적으로 입증되었습니다.
이 연구는 딥 메트릭 학습을 위한 기존의 대조 학습 기법에서 확인된 단점을 해결하며, 특히 신뢰도와 안정성을 개선할 필요성에 중점을 둡니다. 이러한 목표를 달성하기 위해 이론적 인사이트와 CIFAR-10 데이터 세트를 사용한 광범위한 경험적 평가를 결합한 포괄적인 접근 방식을 채택했습니다. 맥락화된 훈련 프로세스 내에서 가중치 함수, 노이즈 임베딩, 드롭아웃과 같은 주요 구성 요소에 대한 세심한 조사를 통해 실제적인 의미에 대한 새로운 관점을 제시합니다. 특히 이전의 이론적 분석에서는 발견되지 않았던 문제를 발견하고 교사 네트워크에서 지수이동평균(EMA) 구성요소를 제거함으로써 간단한 해결책을 제시했습니다.
LPIPS 평가 편향의 영향을 완화하기 위해 저희 그룹은 일반적으로 강건 통계 분야에서 활용되는 의사-허버 손실 함수를 통합했습니다.또한, 이산 단계의 수가 증가함에 따라 샘플의 품질이 어떻게 향상되는지 조사했으며, 이 지식을 활용하여 총 이산 단계 수를 점진적으로 증가시키는 간단하지만 효과적인 커리큘럼을 개발했습니다. 또한 상황별 트레이드오프(CT) 목표에서 샘플링 노이즈 수준을 설정하는 새로운 방식을 제안했는데, 이 방식은 로그 정규 분포를 사용하여 프로세스를 안내합니다.
최근 컴퓨터 사진의 발전으로 컴퓨터 삼각측량(CT)이라는 새로운 기술이 개발되었으며, 이 기술은 CIFAR-10 및 ImageNet 64x64와 같은 벤치마크 데이터 세트에서 탁월한 성능을 입증했습니다. 특히 이 방법은 단 한 번의 샘플링 단계만으로 각각 2.51과 3.25의 최첨단 FID 점수를 달성했습니다. 또한 이러한 점수는 기존 CD 방식에서 얻은 점수보다 현저히 높은 수치로, 각각 약 3배와 4배의 개선을 나타냅니다. 또한 이러한 결과는 증류 없이도 얻을 수 있었으며, 실제로 제안된 접근 방식은 확산 모델에 일반적으로 사용되는 몇 단계의 주요 확산 증류 기법을 능가했습니다.
본질적으로 컴퓨터 단층 촬영(CT)의 발전은 이전의 제약을 성공적으로 뛰어넘어 최첨단 확산 모델 및 생성적 적대 네트워크(GAN)와 비교할 수 있는 결과를 도출했습니다. 이러한 성과는 일관성 모델이 자급자족하고 유망한 생성 모델의 한 종류로서 상당한 잠재력을 가지고 있음을 강조합니다.