この記事を書いた人
後藤 佑輔
IGS代表大和証券・アクセンチュアを経て、2023年にIGSを設立。非エンジニアながらClaude Codeで自社業務の多くを自動化し、AI事業開発を行っている。
Threads @yuigs_ai代表の後藤です。
先日、AIに「他社サービスを比較する記事」を作らせていたんです。
そうしたら、「公式サイトに記載されています」という引用が10件以上混ざっていたのですが、別のAIに一つずつ確認させてみたら、実際には書かれていないものがいくつも見つかりました。
弊社では、「コンテンツ作成」「情報整理」「社内の定型業務」など、多くの仕事をAIに任せています。最近、AIの性能が高くなって実感しづらくなっていますが、とにかく「AIは嘘をつくという前提」を持ったうえで使うべき、ということです。
この記事では、実際に出会った「AIの嘘のパターン3つ」と、「弊社での付き合い方」をまとめます。
AIは「分かりません」と言わずに嘘をつく
人間の部下なら基本的に「分かりません」と正直に答えてくれます。ただし、AIはそこで止まってくれません。さらに、代わりにそれっぽい答えを作って返してきます。
怖いのは、その嘘が自然すぎて「その分野の知識がないと見抜けない」ところです。
人間の部下が自信なさげに「たぶんこうだと思うんですが...」と言ってくれれば、「じゃあ確認して」と返せます。でもAIは、知らないことでも自慢げに答えてきます。だから、前提を知らないまま丸投げすると事故が起きます。
なぜAIは嘘をつくのか
専門的な言い方をすれば「ハルシネーション」と呼ばれる現象ですが、難しい話は置いておいて、一言で言うとこうです。
AIは「正しいことを答える」より「それっぽい会話の続きをする」仕組みで動いています。
知らないことに出会っても、未回答のままにするのではなく、それらしく埋めてしまいます。悪気は一切なく、そういう作りになっているので嘘が出てきます。
「嘘をつく=信頼できない」ではなく、「嘘をつく性質がある=確認の手順を入れる」と切り替えることで、使い方が変わります。
実際にあった「嘘のパターン」3つ
① ありもしない出典・数字をでっち上げる
冒頭の比較記事の話がまさにこれです。
AIは、存在しない引用先URLを作ったり、それっぽい統計の数字を生成することがあります。見た目は本物の引用と区別がつかないため、確認せずに公開すると問題になります。
特に「公式発表によると」「調査結果では○○％」のような表現は、AIが得意とするでっち上げのパターンです。なぜここが危ないかというと、「数字付きの情報」は読んでいる側も信頼しやすいからです。嘘がそのまま拡散することもあります。
② やっていないのに「やりました」と報告する
「記録しておいて」と頼むと、「記録しました」と返ってきます。でも実際のファイルを確認したら、何も書かれていなかった、ということが起きます。
報告を鵜呑みにすると、やった気になって抜け落ちます。特に自動化した処理の中で起きると、しばらく気づけないことがあります。AIの「完了しました」は、必ずしも実行を保証しない、という前提で受け取る必要があります。
③ 同じことを聞いても日によって答えが変わる
同じ条件で同じ資料を作らせても、たまに全然違う内容が出てきます。人間の部下なら毎回ほぼ同じ品質で仕上がりますが、AIの出力にはばらつきがあります。
「先週は完璧だったのに今週はなぜ」ということが起きます。品質を一定に保つには、指示の書き方を工夫するか、出てきたものを人間が確認する手順が必要です。
だから弊社はこう使っている
お金・外部公開・数字の最終チェックは人間がやる
「お金が動く操作」「記事の公開」「対外的な数字」は、必ず人間が最後に確認してから実行します。AIには下書きまでやらせて、最後のボタンは押させない。この線引きは、弊社の中で共通のルールになっています。
「AIに任せる仕事」と「人間が握る仕事」の判断基準については、こちらの記事にまとめています。
「調べて」より「これを見て」（一次情報を渡す）
「ネットで調べて」と丸投げすると嘘が増えます。手元の一次資料（公式PDF・自社データ）を渡して「この中から答えて」と範囲を区切ると、でっち上げが激減します。
材料がないから自分の記憶で埋めようとして嘘になります。材料を渡せば、そこから答えるのでブレが減ります。指示の書き方を少し変えるだけで、精度がかなり変わります。
大事なものは「ダブルチェックさせる仕組み」を作る
重要なものは、別のAIにチェックさせるか、人間が実際の画面・ファイルで裏取りします。
「AIの報告を、別のAIや実物で確かめる」という一手間を習慣にするだけで、事故がかなり減ります。完璧なチェックは難しくても、重要な部分だけ確認する関所を1つ置く。それだけで運用の安定感が変わります。
AI活用や業務改善について、お気軽にご相談ください
無料で相談するまとめ
AIは嘘をつきます。
で、「だからAIは使うな」という話ではありません。嘘をつく前提で、関所（チェック）を1つ置く。これだけで、AIは最強の戦力になります。怖いのは、前提を知らないまま丸投げすることだけです。
弊社も幾度となくトライ＆エラーを繰り返してきました。それも含めて「どこを人間が握るか」の設計が、AI活用の肝だと実感しています。実際にAIに多くの仕事を任せながら最終判断は人間がチェックする仕組みを作った話は、こちらの記事(AIエージェントの作り方)でも書いています。
AIをどこまで任せて、どこは人間が握るか。
この線引きの設計に迷ったら、雑談レベルで構いませんのでお気軽にご相談ください。
FAQ
Q. AIの嘘って、どうやって見抜けばいいですか？
A. 全部を疑うと疲れるので、「公式に記載」「○○％」のような事実・数字・引用に絞って自分で裏を取ることをおすすめします。そこだけ確認する習慣をつけると、効率よく拾えます。
Q. なぜAIは「わかりません」と言わずに嘘をつくんですか？
A. 「正しさ」より「それっぽい会話の続き」を作る仕組みで動いているからです。知らないことでも空欄にせず、それらしく埋めてしまいます。悪意があるのではなく、そういう作りになっています。
Q. 嘘が多いなら、仕事に使わない方がいいのでは？
A. 逆です。嘘をつく前提で「人間が最後に確認する」関所を1つ置けば、圧倒的に役立ちます。怖いのは前提を知らずに丸投げすることだけで、正しく付き合えば頼れる相棒になります。
Q. 一次情報を渡すと嘘が減るのはなぜですか？
A. 材料がないと自分の記憶から答えようとして、でっち上げが起きます。範囲を区切ることで作る余地が減るので、嘘が減ります。
