この記事の内容を、御社の業務で仕組みにする相談（30分・無料）→
この記事の著者
後藤 佑輔
IGS代表大和証券、
代表の後藤です。
先日、AIに「他社サービスを比較する記事」を作らせていました。
その際、「公式サイトに記載されています」という引用が10件以上混ざっていたのですが、別のAIに一つずつ確認させてみたら、実際には書かれていないものがいくつも見つかりました。
弊社では、「コンテンツ作成」「情報整理」「社内の定型業務」など、多くの仕事をAIに任せています。最近、AIの性能が高くなって実感しづらくなっていますが、とにかく「AIは嘘をつくという前提」を持ったうえで使うべき、ということです。
この記事では、実際に出会った「AIの嘘のパターン3つ」と、「弊社での付き合い方」をまとめます。
AIは「分かりません」と言わずに嘘をつく
「AIは嘘をつくの？」という問いへの答えは、「はい、つきます」です。
人間の部下なら基本的に「分かりません」と正直に答えてくれます。ただし、AIはそこで止まってくれません。さらに、代わりにそれっぽい答えを作って返してきます。
怖いのは、その嘘が自然すぎて「その分野の知識がないと見抜けない」ところです。
なぜAIは嘘をつくのか
専門的な言い方をすれば「ハルシネーション」と呼ばれる現象ですが、難しい話は置いておいて、一言で言うとこうです。
AIは「正しいことを答える」より「それっぽい会話の続きをする」仕組みで動いています。
知らないことに出会っても、未回答のままにするのではなく、それらしく埋めてしまいます。悪気は一切なく、そういう作りになっているので嘘が出てきます。
「嘘をつく=信頼できない」ではなく、「嘘をつく性質がある=確認の手順を入れる」と切り替えることで、使い方が変わります。
この「なぜ」については、AIを開発したOpenAIも2025年9月に公表した研究論文「Why Language Models Hallucinate」で説明しています。
AIの正解率を測るテストのほとんどは、「正解なら1点」「不正解なら0点」「『わかりません』も0点」という採点方法になっています。これでは、自信がなくても“それっぽく”答えたほうが平均点は上がります。
AIが「わからない」と言わずに答えてしまうのは、性格の問題ではなく、採点のされ方が生んでいる、というのがOpenAIの説明です。
AIコンサルティング
この記事の仕組みを、
実際にあった「嘘のパターン」3つ
① ありもしない出典・数字をでっち上げる
冒頭の比較記事の話がまさにこれです。
AIは、存在しない引用先URLを作ったり、それっぽい統計の数字を生成することがあります。
特に「公式発表によると」「調査結果では○○％」のような表現は、AIが得意とするでっち上げのパターンです。社名・固有名詞・出典URL・統計の数字のように、世の中に出回っている情報が少ない・ピンポイントな内容ほど、AIが自信満々に間違えやすいです。
② やっていないのに「やりました」と報告する
「記録しておいて」と頼むと、「記録しました」と返ってきます。でも実際のファイルを確認したら、何も書かれていなかった、ということが起きます。
報告を鵜呑みにすると、やった気になって抜け落ちます。特に自動化した処理の中で起きると、しばらく気づけないことがあります。
弊社でも2026年7月6日に、ファイルを1つも書いていないのに、AIが「作成済みです」と報告してきたことがありました。実際の記録を調べて初めて分かりました。
③ 同じことを聞いても日によって答えが変わる
同じ条件で同じ資料を作らせても、たまに全然違う内容が出てきます。人間の部下なら毎回ほぼ同じ品質で仕上がりますが、AIの出力にはばらつきがあります。
「先週は完璧だったのに今週はなぜ」ということが起きます。品質を一定に保つには、指示の書き方を工夫するか、出てきたものを人間が確認する手順が必要です。
だから弊社はこう使っている
お金・外部公開・数字の最終チェックは人間がやる
「お金が動く操作」「記事の公開」「対外的な数字」は、必ず人間が最後に確認してから実行します。AIには下書きまでやらせて、最後のボタンは押させない。
「AIに任せる仕事」と「人間が握る仕事」の判断基準については、こちらの記事にまとめています。
「調べて」より「これを見て」（一次情報を渡す）
「ネットで調べて」と丸投げすると嘘が増えます。手元の一次資料（公式PDF・自社データ）を渡して「この中から答えて」と範囲を区切ると、でっち上げが激減します。
弊社が実際に指示文とルールファイルに書いている文（そのまま使えます）
「嘘をつく前提で使う」は、毎回の会話で言い直すのではなく、Claude Codeが起動するたびに読み込むルールファイル（CLAUDE.md）に書いて、自動で効くようにしています。弊社が実際にそこへ書いている文を、そのまま貼れる形に整えて出します。
1つ目は、確信がない時の答え方です。
確信がなければ「推測です」と付ける。わからなければ「わかりません、調べます」と答えるこれは、分からない時に「分からない」と言わず、それらしい答えで埋めてしまう嘘に効きます。
2つ目は、事実と推測の分け方です。
事実と推測を分けて言うこれは、AIの推測を、確かな事実と思い込まないための一文です。
3つ目は、数字や引用の扱い方です。
数字・統計・引用は一次情報（公式調査・公式ドキュメント）で裏取りしてから書く。
公式で確認できなかった数字は、推測で埋めずに落とすか「公式に記載がない」と書くこれは①のパターン、ありもしない出典・数字をでっち上げる嘘に効きます。裏が取れない数字は、削るか「分からない」と正直に書かせます。
②の「やりました」報告への対処も、同じようにルールファイルに書いています。
断言しない: 推測を事実として言わない。進捗は実機で照合してから言うAIの「完了しました」は報告だけで受け取らず、実際のシステムやファイルを開いて確認するまでは完了扱いにしません。
7月6日の件のあと、AIが「完了しました」と返す直前に、本当にファイルが書き込まれたかを機械で確かめる仕組みを入れました。書き込みが無いのに「作成しました」と言うと、その返答はこちらに届く前に止められます。
こうしたルールファイル（CLAUDE.md）の作り方そのものは、CLAUDE.mdとは？非エンジニアでもできる「AI部下の育て方」という別記事で解説しています。
大事なものは「ダブルチェックさせる仕組み」を作る
重要なものは、別のAIにチェックさせるか、人間が実際の画面・ファイルで裏取りします。
「AIの報告を、別のAIや実物で確かめる」という一手間を習慣にするだけで、事故がかなり減ります。
弊社が運営するサイトの調査ページ19本を、2026年7月14日にAI同士で点検した時の例です。AIを2段に分けました。
- 点検役のAIが、問題がありそうな所を探す
- 別の確認役のAIが、その指摘が本当かを元のデータで確かめる
確認役を挟んだ結果です。
- 点検役の指摘に数え間違いが1件あり、確認役が元データから取り消した
- 点検役が見落としていた問題を、確認役が3件見つけた
- 19本のうち、問題なしが14本、直す必要があったのが5本だった
1つのAIだけだと、間違った指摘も見落としも、そのまま残ります。
まとめ
AIは嘘をつきます。
「だからAIは使うな」という話ではありません。嘘をつく前提で、関所（チェック）を1つ置く。これだけで、AIは最強の戦力になります。怖いのは、前提を知らないまま丸投げすることだけです。
弊社も幾度となくトライ＆エラーを繰り返してきました。それも含めて「どこを人間が握るか」の設計が、AI活用の肝だと実感しています。実際にAIに多くの仕事を任せながら最終判断は人間がチェックする仕組みを作った話は、こちらの記事(AIエージェントの作り方)でも書いています。
AIをどこまで任せて、どこは人間が握るか。
この線引きの設計に迷ったら、雑談レベルで構いませんのでお気軽にご相談ください。
FAQ
Q. AIは嘘をつきますか？
A. はい、つきます。大事な部分だけ人間か別のAIで確認すれば、仕事で安心して使えます。
Q. AIはなぜ「わかりません」と言わず、平気で嘘をつくのですか？
A. 「正しさ」より「それっぽい会話の続き」を作る仕組みで動いているからです。知らないことでも空欄にせず、それらしく埋めてしまいます。
Q. AIは意図的に嘘をつくのですか？
A. いいえ、意図的ではありません。AIの正解率を測るテストは「わかりません」も0点になる採点が多く、自信がなくても答えたほうが点が上がる、というのがOpenAIの説明です。
Q. AIの嘘には、どんな例がありますか？
A. 弊社で出会ったのは3つです。ありもしない出典や数字をでっち上げる、やっていないのに「やりました」と報告する、同じことを聞いても日によって答えが変わる、です。
Q. AIに嘘をつかせないためには、どうすればよいですか？
A. 「ネットで調べて」と丸投げせず、手元の公式資料などの一次情報を渡して「この中から答えて」と範囲を区切ると、でっち上げが減ります。確信がない時は「推測です」「わかりません、調べます」と答えさせる一文を、指示文やルールファイルに書いておくのも効きます。お金・公開・数字は、最後に人が確認します。
