AI-ML/LLM
2025. 11. 4.
LLM은 왜 환각((Hallucinate)) 증상에 빠질까?
OpenAI와 Georgia Tech의 연구원들은 대규모 언어 모델의 환각이 완벽한 데이터에서도 사전 훈련에서 발생하는 본질적인 통계적 오류임을 입증했습니다. 그들의 분석에 따르면, 지나친 확신을 가진 거짓 정보의 지속은 주로 불확실성 표현에 불이익을 주는 현재의 평가 벤치마크에 의해 주도되며, 이는 명시적인 확신 목표를 통한 평가 개혁 제안으로 이어집니다.목차언어 모델의 환각 이해환각의 통계적 본질사전 훈련 오류의 원인평가 문제보정 분석사회-기술적 해결책시사점 및 향후 방향관련 인용언어 모델의 환각 이해언어 모델은 놀라운 능력을 달성했지만, 그럴듯하지만 틀린 진술을 계속 생성합니다. 이는 환각(hallucination)으로 알려진 현상입니다. OpenAI와 조지아 테크 연구자들이 발표한 이 논문은 이러..