ハルシネーション
はるしねーしょん
Hallucination
一言でいうと
LLMがもっともらしい嘘を自信たっぷりに生成してしまう現象のこと。
詳しい意味
ハルシネーション（hallucination、幻覚）は、LLMが事実と異なる情報を、もっともらしい文体で自信たっぷりに生成してしまう現象です。実在しない人物の経歴、存在しないAPIの関数名、誤った日付や数字を堂々と述べる、といった形で現れます。原因はLLMが「次に来る確率の高い単語」を予測しているだけで、生成内容の真偽を検証していないため。対策には「RAGで実情報を参照させる」「出力に根拠（出典）を併記させる」「重要な情報は必ず人間が検証する」「temperature を下げる」などがあります。「LLMの出力を業務利用する時の前提リスク」として認識しておく必要があります。
何に使うか
LLMを社内ツールに組み込むときの設計判断。重要な意思決定にLLM出力を直接使わないルール作り。RAGの導入根拠を説明するとき。
どんな時に出るか
「ハルシってる」「これハルシかもしれない」「ハルシ対策にRAG入れた」といった場面で登場します。
具体例
- 社内Botの回答にハルシネーションが混じったので、RAGで根拠ドキュメントを必ず併記する設計に変えた。
- ハルシ対策として、temperature を 0 に固定し、出典必須プロンプトに修正した。
別名・略称
hallucination(はるしねーしょん)幻覚(げんかく)ハルシ(はるし)
初心者向けメモ
とても物知り風に話す人が、たまに作り話を本当のことのように混ぜてくる、という状態に近いです。本当か嘘か聞いただけでは判別できない説得力で話すので、重要な情報は必ず別ソースで裏取りが必要です。