代表の後藤です。
※Web集客・広告・SNS・AI導入などをまるっと月10万円から引き受けます → 後藤、貸します。
先日、AIに「他社サービスを比較する記事」を作らせていました。
その際、「公式サイトに記載されています」という引用が10件以上混ざっていたのですが、別のAIに一つずつ確認させてみたら、実際には書かれていないものがいくつも見つかりました。
弊社では、「コンテンツ作成」「情報整理」「社内の定型業務」など、多くの仕事をAIに任せています。最近、AIの性能が高くなって実感しづらくなっていますが、とにかく「AIは嘘をつくという前提」を持ったうえで使うべき、ということです。
この記事では、実際に出会った「AIの嘘のパターン3つ」と、「弊社での付き合い方」をまとめます。
AIは「分かりません」と言わずに嘘をつく
人間の部下なら基本的に「分かりません」と正直に答えてくれます。ただし、AIはそこで止まってくれません。さらに、代わりにそれっぽい答えを作って返してきます。
怖いのは、その嘘が自然すぎて「その分野の知識がないと見抜けない」ところです。
人間の部下が自信なさげに「たぶんこうだと思うんですが...」と言ってくれれば、「じゃあ確認して」と返せます。でもAIは、知らないことでも自慢げに答えてきます。だから、前提を知らないまま丸投げすると事故が起きます。
なぜAIは嘘をつくのか
専門的な言い方をすれば「ハルシネーション」と呼ばれる現象ですが、難しい話は置いておいて、一言で言うとこうです。
AIは「正しいことを答える」より「それっぽい会話の続きをする」仕組みで動いています。
知らないことに出会っても、未回答のままにするのではなく、それらしく埋めてしまいます。悪気は一切なく、そういう作りになっているので嘘が出てきます。
「嘘をつく=信頼できない」ではなく、「嘘をつく性質がある=確認の手順を入れる」と切り替えることで、使い方が変わります。
この「なぜ」については、AIを開発したOpenAIも2025年9月に公表した研究論文「Why Language Models Hallucinate」で説明しています。
AIの正解率を測るテストのほとんどは、「正解なら1点」「不正解なら0点」「『わかりません』も0点」という採点方法になっています。これでは、自信がなくても“それっぽく”答えたほうが平均点は上がります。
人間で言えば、選択式のテストでわからない問題を空欄にせず、とりあえずマークしておくのと同じ理屈です。AIが「わからない」と言わずに答えてしまうのは、性格の問題ではなく、採点のされ方が生んでいる、というのがOpenAIの説明です。
実際にあった「嘘のパターン」3つ
① ありもしない出典・数字をでっち上げる
冒頭の比較記事の話がまさにこれです。
AIは、存在しない引用先URLを作ったり、それっぽい統計の数字を生成することがあります。見た目は本物の引用と区別がつかないため、確認せずに公開すると問題になります。
特に「公式発表によると」「調査結果では○○％」のような表現は、AIが得意とするでっち上げのパターンです。なぜここが危ないかというと、「数字付きの情報」は読んでいる側も信頼しやすいからです。嘘がそのまま拡散することもあります。
なぜ「数字」や「引用」で特に嘘が起きやすいのか
同じOpenAIの研究では、「学習データの中で1回しか出てこない情報ほど、AIは誤りやすい」と説明されています。
例として挙げられているのが「人物の誕生日」です。
ある人の誕生日が学習データに1回しか登場しない場合、正しい日付は1つしかない一方、間違った日付候補は364通りもあります。これは、社名・固有名詞・出典URL・統計の数字のように、世の中に出回っている情報が少ない・ピンポイントな内容ほど、AIが自信満々に間違えやすいことを意味します。
「AIの嘘が多い」と感じる場面の多くは、こうした情報が少ない部分を聞いたときに起きています。逆に、広く知られている一般的な話題では、間違いは相対的に少なくなります。
② やっていないのに「やりました」と報告する
「記録しておいて」と頼むと、「記録しました」と返ってきます。でも実際のファイルを確認したら、何も書かれていなかった、ということが起きます。
報告を鵜呑みにすると、やった気になって抜け落ちます。特に自動化した処理の中で起きると、しばらく気づけないことがあります。AIの「完了しました」は、必ずしも実行を保証しない、という前提で受け取る必要があります。
③ 同じことを聞いても日によって答えが変わる
同じ条件で同じ資料を作らせても、たまに全然違う内容が出てきます。人間の部下なら毎回ほぼ同じ品質で仕上がりますが、AIの出力にはばらつきがあります。
「先週は完璧だったのに今週はなぜ」ということが起きます。品質を一定に保つには、指示の書き方を工夫するか、出てきたものを人間が確認する手順が必要です。
後藤、貸します。
会社の仕事を、
だから弊社はこう使っている
お金・外部公開・数字の最終チェックは人間がやる
「お金が動く操作」「記事の公開」「対外的な数字」は、必ず人間が最後に確認してから実行します。AIには下書きまでやらせて、最後のボタンは押させない。この線引きは、弊社の中で共通のルールになっています。
「AIに任せる仕事」と「人間が握る仕事」の判断基準については、こちらの記事にまとめています。
「調べて」より「これを見て」（一次情報を渡す）
「ネットで調べて」と丸投げすると嘘が増えます。手元の一次資料（公式PDF・自社データ）を渡して「この中から答えて」と範囲を区切ると、でっち上げが激減します。
材料がないから自分の記憶で埋めようとして嘘になります。材料を渡せば、そこから答えるのでブレが減ります。指示の書き方を少し変えるだけで、精度がかなり変わります。
弊社が実際に指示文とルールファイルに書いている文（そのまま使えます）
「嘘をつく前提で使う」は、毎回の会話で言い直すのではなく、Claude Codeが毎回のセッション開始時に読み込むルールファイル（CLAUDE.md）に書いて、自動で効くようにしています。弊社が実際にそこへ書いている文を、そのまま貼れる形に整えて出します。
1つ目は、確信がない時の答え方です。
確信がなければ「推測です」と付ける。わからなければ「わかりません、調べます」と答えるこれは①のパターン、自信がない時ほど自信満々に答えてしまう嘘に効きます。分からないことを分からないと言わせるだけの一文です。
2つ目は、事実と推測の分け方です。
事実と推測を分けて言うこれも①のパターンに効きます。分かっていることと、たぶんこうだろうということが地続きで書かれていると、読んでいる側は嘘に気づけません。
3つ目は、数字や引用の扱い方です。
数字・統計・引用は一次情報（公式調査・公式ドキュメント）で裏取りしてから書く。公式で確認できなかった数字は、推測で埋めずに落とすか「公式に記載がない」と書くこれは③のパターン、ありもしない出典・数字をでっち上げる嘘に効きます。裏が取れない数字は、削るか「分からない」と正直に書かせます。
②の「やりました」報告への対処も、同じようにルールファイルに書いています。
断言しない: 推測を事実として言わない。進捗は実機で照合してから言うAIの「完了しました」は報告だけで受け取らず、実際のシステムやファイルを開いて確認するまでは完了扱いにしません。
こうしたルールファイル（CLAUDE.md）の作り方そのものは、CLAUDE.mdとは？非エンジニアでもできる「AI部下の育て方」という別記事で解説しています。
大事なものは「ダブルチェックさせる仕組み」を作る
重要なものは、別のAIにチェックさせるか、人間が実際の画面・ファイルで裏取りします。
「AIの報告を、別のAIや実物で確かめる」という一手間を習慣にするだけで、事故がかなり減ります。完璧なチェックは難しくても、重要な部分だけ確認する関所を1つ置く。それだけで運用の安定感が変わります。
まとめ
AIは嘘をつきます。
で、「だからAIは使うな」という話ではありません。嘘をつく前提で、関所（チェック）を1つ置く。これだけで、AIは最強の戦力になります。怖いのは、前提を知らないまま丸投げすることだけです。
弊社も幾度となくトライ＆エラーを繰り返してきました。それも含めて「どこを人間が握るか」の設計が、AI活用の肝だと実感しています。実際にAIに多くの仕事を任せながら最終判断は人間がチェックする仕組みを作った話は、こちらの記事(AIエージェントの作り方)でも書いています。
AIをどこまで任せて、どこは人間が握るか。
この線引きの設計に迷ったら、雑談レベルで構いませんのでお気軽にご相談ください。
FAQ
Q. AIの嘘って、どうやって見抜けばいいですか？
A. 全部を疑うと疲れるので、「公式に記載」「○○％」のような事実・数字・引用に絞って自分で裏を取ることをおすすめします。そこだけ確認する習慣をつけると、効率よく拾えます。
Q. なぜAIは「わかりません」と言わずに嘘をつくんですか？
A. 「正しさ」より「それっぽい会話の続き」を作る仕組みで動いているからです。知らないことでも空欄にせず、それらしく埋めてしまいます。悪意があるのではなく、そういう作りになっています。
Q. 嘘が多いなら、仕事に使わない方がいいのでは？
A. 逆です。嘘をつく前提で「人間が最後に確認する」関所を1つ置けば、圧倒的に役立ちます。怖いのは前提を知らずに丸投げすることだけで、正しく付き合えば頼れる相棒になります。
Q. 一次情報を渡すと嘘が減るのはなぜですか？
A. 材料がないと自分の記憶から答えようとして、でっち上げが起きます。範囲を区切ることで作る余地が減るので、嘘が減ります。
Q. 結局のところ、AIは本当に嘘をつくものなんですか？
A. はい、嘘をつきます。ただし、人をだまそうという意図があるわけではありません。AIは「わからない」と答えるより、それらしく推測して答えたほうがテストの評価が高くなる仕組みで訓練されているためです（詳しくは本文「なぜAIは嘘をつくのか」参照）。「嘘をつくことがある」という前提を持ったうえで、大事な部分だけ人間か別のAIで確認する。それだけで、実務での付き合い方は大きく変わります。
