ハルシネーションとは

ハルシネーションとは、生成AIが実際には存在しない情報や誤った内容を、まるで正しい事実のように回答してしまう現象のことです。

英語の「Hallucination」は「幻覚」や「妄想」という意味があり、AIが“もっともらしい嘘”を作り出してしまう様子から、この名前が使われています。

例えば、生成AIに「存在しない本の著者」を質問した場合、AIが架空の人物名や出版情報を自信ありげに答えることがあります。

また、実在しない法律や統計データを示してしまうケースもあります。

そのため、AIの回答をそのまま信じるのではなく、利用者自身が内容を確認することが重要です。

ITパスポート試験では、「生成AIは常に正しいわけではない」という点を理解しておくことが大切です。

特に、ハルシネーションは生成AI特有のリスクとして問われやすく、AIの回答には事実確認が必要であることを覚えておきましょう。

こちらもご覧ください：マルチモーダルAIとは