AIの誤り(ハルシネーション)とは｜なぜ起きる?対策をやさしく解説

ハルシネーションとは「もっともらしい嘘」

AIが事実と異なる内容を、いかにも本当らしく答えてしまうことを「ハルシネーション(幻覚)」と呼びます。編集部の検証でも、存在しない本や間違った日付を自信満々に答える場面がありました。

AIチャットは「次に来そうな言葉」を確率で選んで文章を作ります。意味を理解しているわけではないため、文として自然でも中身が事実とは限らないのです。情報が不足している話題ほど、それらしい作り話が出やすくなります。

「具体的で固有の情報」ほど誤りが混じりやすい印象でした。

「AIはたたき台、確認は自分」という役割分担を徹底すると、被害を防げます。

次のような頼み方をすると、誤りに気づきやすくなります。

ただし、これで誤りがなくなるわけではありません。あくまで気づくための工夫です。

間違いに気づいたら、そのまま指摘して訂正してもらえます。ただし、訂正後の答えもまた誤っている場合があります。

公式サイトや信頼できる資料で最終確認し、共有や投稿の前に見直す癖をつけましょう。

Q. 有料版なら誤りは起きませんか。 A. プランに関わらず、誤りが起きる可能性はあります。改善の度合いは、公式サイトで最新の情報を確認してください。

Q. 検索機能つきのAIなら安心ですか。 A. 情報源が示されると確認しやすくなりますが、示された内容の読み違いもあり得ます。リンク先を自分で開いて確かめましょう。

家族で使う場合は、AIの答えが常に正しいわけではないことを、先に共有しておきましょう。調べ学習などでは、答えをそのまま写さず、本や公式サイトで確かめる流れを習慣にすると安心です。

間違いの影響が大きいほど、確認の手間をかけるのが基本です。

専門用語が並んでいると、つい信じてしまいがちです。聞き慣れない名前が出たら、検索して実在を確かめましょう。

使い慣れると、答えを確認する手間を省きたくなります。長く使っている人ほど、誤りに気づかないまま共有してしまうことがあります。

人に見せる前に一呼吸おいて、重要な点だけでも確かめる習慣を持っておくと安心です。

AIの答えに含まれる固有名詞や数字を、検索エンジンにそのまま入れて確かめます。公式サイトや公的機関のページが上位に出てきたら、そちらの記載を優先してください。

すべてを疑うと疲れてしまいます。「間違えると困る部分」だけに絞って確認するのが現実的です。日付、金額、人名、法律や制度の名前は、とくに確かめる項目と決めておくと迷いません。

「重要なことは、別の情報源でも確かめる」を合言葉にしておきましょう。2つ以上の信頼できる情報源で同じ内容が確認できれば、安心して使えます。食い違うときは、公式の情報を優先してください。

間違いを見つけたら、どんな質問でどんな誤りが出たかを一行メモしておくと、似た質問のときに気をつけられます。自分用の「注意リスト」が育つと、確認の精度も上がります。

ハルシネーションは仕組み上どのAIにも起こり得ます。もっともらしさに惑わされず、重要な情報は裏取りする。これを習慣にすれば、AIアプリを安心して活用できます。