AI用語集
AIハルシネーション（幻覚）
AIハルシネーションとは、AIが自信たっぷりでもっともらしく聞こえる情報を出力しても、実際にはそれが誤っていたり、完全な作り話だったりする現象のことです。
このガイドの内容
AIハルシネーションの意味
言語モデルは、事実を確認しているのではなく、しっくりくると思われるものを予測して文章を生成しています。適切な情報を持っていない場合でも、モデルは流暢で自信のある答えを出してしまうことがあり、それが単純に事実と違うことがあるのです。
たとえば、ニッチなテーマについて出典を尋ねると、AIは存在しない、いかにも本物らしいタイトルや著者名を作り出してしまうことがあります。その返答は説得力を持って読めてしまうため、まさにそれがハルシネーションを見抜きにくくしている理由です。
AIハルシネーションが重要な理由
ハルシネーションを理解しておくことは、AIを責任を持って使ううえで欠かせません。重要な出力は必ず検証し、正確さを保てるツールを作る姿勢につながります。
重要なAI出力をファクトチェックすべき理由がここにあります
RAGのような技術は、答えを実際の情報に根拠づけることでハルシネーションを減らします
明確なプロンプトと質の良い情報源が、作り話のコンテンツを抑える助けになります
これを知ることで、信頼できるAIツールを作れるようになります
よくある質問
正確な参考資料をAIに与え、提供した情報だけをもとに答えるよう指示し、重要な事実は必ず検証してください。RAGのような技術も、答えを実際の信頼できるデータに根拠づけてくれます。