ハルシネーションがある生成AIは仕事で使える?向く業務・向かない業務
この記事のポイント
- ハルシネーションがあっても、生成AIは「間違えることがある前提」で使う場所を選べば仕事に使えます。
- 正確さが必要な業務は出典の確認や人のチェックを必ず挟み、厳密な計算は表計算ソフトなど別の道具に任せます。
- アイデア出しのように量と意外性がほしい場面では、ありきたりでない出力がかえって役に立つこともあります。
「AIは平気で嘘をつくから、仕事には使えない」。生成AIの社内導入で、いちばんよく聞く反対意見のひとつです。
この記事では、運営会社代表のハヤカワ五味がnoteや連載で書いた内容をもとに、ハルシネーション(もっともらしい間違い)との付き合い方を整理しました。結論から言うと、**ハルシネーションは「使えない理由」ではなく「使う場所を選ぶ理由」**です。
ハルシネーションがあるAIは仕事で使える?
使えます。間違えることがある前提で、使う業務と確認の仕方を決めれば十分に役立ちます。
ハヤカワ五味はAdverTimesの連載で、ハルシネーションで「使えない」と感じるのは、多くの場合「使い方が悪い」か「使う場所が間違っている」かのどちらかだと書いています。電卓に文章を書かせようとして怒るのと同じで、道具の得意・不得意を理解していないだけだ、と。
そのうえで、AIを「何でもできる魔法の杖」ではなく「間違えることもある新入社員」くらいの感覚で付き合うことを勧めています。新入社員に頼んだ仕事を確認せずに社外に出さないのと同じで、AIの出力も確認する前提で使えばよいのです。
どんな業務なら間違いを気にせず使える?
自分で内容を確認できる業務と、正確さより量や発想の広さがほしい業務です。
| 業務 | 向き・不向き | 使い方のポイント |
|---|---|---|
| アイデア出し・ブレスト | 向いている | 変な案が混じってもよい。むしろ思考の起点になる |
| 文章の下書き・言い換え | 向いている | 自分で読んで直せる範囲で使う |
| 議事録・資料の要約 | おおむね向いている | 元の資料を渡し、重要な数字は原文で確認する |
| 調べもの | 条件つきで向いている | 出典を示す機能を使い、出典を自分で開いて確かめる |
| 厳密な計算・データの引用 | 向いていない | 表計算ソフトや元データを使う |
| 法令・契約・医療など専門判断 | 単独では向いていない | 専門家の確認を必ず挟む |
ハヤカワ五味はnoteで、厳密な数字の計算やデータの引用が必要な場面では生成AIより表計算ソフトのほうがよく、AIにも人と同じように向き不向きがあると書いています。適材適所で使い分けることが大切です。
間違いを見抜くにはどうすればいい?
自分が評価できる分野の仕事から任せ、数字・固有名詞・出典は必ず原典で確認します。
ハヤカワ五味はnoteで、仕事でAIを使うときに必要なものとして「やりたいことの意志」「アウトプットのイメージ」「評価できる程度のスキル」を挙げています。自分が詳しくない分野の仕事をAIに任せると、正しいかどうか判断できず、量だけ多い役に立たない出力になりがちです。
だからこそ、自分ができるけど面倒なことから任せる。これが、間違いに振り回されない一番の方法です。
ハルシネーションを減らす方法は?
参照してほしい資料を渡し、出典を示すよう頼み、わからないときは「わからない」と答えるよう伝えることです。
AIは、必要な情報が足りないと、それらしい内容で埋めようとします。社内の規程や過去の資料など、前提となる情報を一緒に渡すと間違いは減ります。連載では、2025年2月に登場したディープリサーチ(出典を示しながら調べる機能)で参照元が明示されるようになり、信頼性が大きく上がったとも書かれています。
ただし、どれだけ工夫してもゼロにはなりません。社内では「AIの出力は人が確認してから使う」というルールを決めておきましょう。ルールの決め方は生成AIの社内ガイドラインの作り方で扱っています。
ハルシネーションが役に立つこともある?
あります。アイデアの数がほしいときや、自分にない視点がほしいときは、ありきたりでない出力がかえって役に立ちます。
ハヤカワ五味はnote「AIのハルシネーションは、悪ではない」で、AIはもっとも確からしい答えを出すため、回答が平均的になりやすいと書いています。非連続な発想がほしい場面では、正確で無難な答えはあまり役に立たない、と。
noteで紹介されている、あえて発想を広げる工夫は次の3つです。
- 関係なさそうな資料まで含めて、情報を大量に渡す
- 「1週間で100万個売れるものを」のように、極端な条件をつける
- 「何にでも否定的な人」など、偏った立場のキャラクターを設定する
正確さがほしい場面と、量と意外性がほしい場面を分けて考えると、ハルシネーションの見え方が変わります。
まとめ:「使えない」ではなく「使う場所を選ぶ」
- ハルシネーションは、間違える前提で使う場所を選べば問題になりにくい
- 正確さが必要な業務は、出典確認と人のチェックを必ず挟む
- 自分が評価できる仕事から任せるのが、間違いに振り回されないコツ
- アイデア出しでは、ありきたりでない出力が役に立つこともある
社内で「AIは嘘をつくから」と反対されたときの向き合い方は、「AIなんかやだ」と言われたら?もあわせて読んでみてください。
よくある質問
ハルシネーションとは何ですか?
生成AIが、事実と違う内容をもっともらしく出力してしまう現象です。存在しない資料や数字、人物の発言などを、自然な文章で答えてしまうことがあります。
ハルシネーションはなぜ起きるのですか?
生成AIは、文章の続きとしてもっともらしい言葉を選んで出力する仕組みのため、知らないことや情報が足りないことでも、それらしく答えてしまうことがあります。質問に必要な情報(前提や資料)が足りないときに起きやすくなります。
ハルシネーションを減らすにはどうすればいいですか?
参照してほしい資料を渡す、出典を示すよう指示する、わからない場合は「わからない」と答えるよう伝える、出典を示してくれる調べもの機能を使う、などの方法があります。ただしゼロにはならないため、重要な内容は人が確認する前提で使いましょう。
社内の資料作成にAIを使っても大丈夫ですか?
自分が内容を確認できる資料なら、下書きや構成づくりに使うのは有効です。社外に出す資料や、数字・固有名詞・法令が絡む内容は、必ず原典で確認してから使いましょう。社内ルールで確認の手順を決めておくと安心です。
「AIは嘘をつくから使わない」と言う同僚にはどう伝えればいいですか?
「間違える前提で、確認できる仕事から任せればよい」と伝えるのがおすすめです。AdverTimesの連載では、AIを「間違えることもある新入社員」くらいの感覚で捉え、使い方と使う場所を選ぶことを勧めています。
どのAIがいちばんハルシネーションが少ないですか?
モデルの性能は数か月単位で入れ替わるため、特定の製品を「いちばん」と言い切るのは難しいです。社内で使えるツールの中で、同じ質問を出して結果を比べ、自社の業務に合うものを選ぶのが確実です。
参考にした情報
- AIのハルシネーションは、悪ではない|ハヤカワ五味(note)
- なぜAI推進は頓挫するのか 技術・組織・人に潜む“3つの壁”(AdverTimes 第2回)
- AI時代に必要なのは「ツール選定」じゃなくて「組織設計の再構築」だった|ハヤカワ五味(note)
- 生成AIは使い方を間違えると、ボリューミィなゴミが出るという話。|ハヤカワ五味(note)
料金や条件は変わることがあります。申込・購入前に各公式サイトで最新情報をご確認ください。