にこぽ
ハルシネーションとは？
生成AIが、事実と違う内容や、根拠を確認できない内容をもっともらしく答えることがあります。この現象は、一般に「ハルシネーション」と呼ばれます。
自然な言葉で、はっきり答えていても起こります。文章の読みやすさだけでは、正しさを判断できません。
「人に嘘をついている」とは限らない
AIが人をだまそうとして嘘をついている、という意味ではありません。
生成AIは、学習した言葉のパターンを手がかりに、入力の続きとして合いそうな言葉を組み立てます。そのため、確かな根拠がないときでも、自然に読める答えを作ることがあります。
起こりやすいのは、名前・数字・出典
次のような部分は、特に立ち止まって確認します。
- 人名、会社名、サービス名
- 日付、金額、割合、回数
- 本や記事の題名、引用、URL
- 最近変わった制度やサービスの内容
情報が足りない質問や、答えが一つに決まらない質問でも、AIは空欄を残さず答えようとすることがあります。
こんな答えには注意する
たとえば、架空の地域イベントについて質問したのに、AIが開催日や参加費、公式ページらしいURLまで答える場合があります。
文章が具体的でも、そのイベントやURLが実在する証拠にはなりません。固有名詞・数字・出典が出たら、確認する印として見ます。
聞き直すだけでは、確認にならない
「本当に正しい？」と聞き直すと、AIが答えを変えたり、同じ答えを繰り返したりします。どちらも、事実を確認した証拠にはなりません。
まず、元の情報源を開けるか、発信元と日付を確かめられるかを見ます。
まずこれを試す
AIの返答から、固有名詞、日付、数字、出典に線を引くつもりで拾います。その中から大事なものを一つ選び、元の情報を探します。
次は、答えを確かめる
間違いが起こることを知ったら、次は初心者でもできる確認手順へ進みましょう。