代表ブログ一覧に戻る

自社サイトにAIチャットボットを自作~「全部任せない」安全設計の考え方~

自社サイトにAIチャットボットを自作~「全部任せない」安全設計の考え方~
後藤佑輔

この記事の著者

後藤 佑輔

IGS代表

大和証券、アクセンチュアを経て、2023年にIGSを設立。Claude Codeと共に、一部Meta公式APIを使用した6つのWebサイトの開発・運用から、SNS投稿の完全自動化、バックオフィス自動化などを一人で行う。開始9か月で検索からの訪問は累計1万クリックを超え、「Claude AIエージェント 作り方」ではGoogle検索1位を獲得した。

AIに任せる仕組みを、御社の仕事にも。任せる仕事を1つ決めるところから、後藤本人が一緒に作ります。頼める内容を見る

おはようございます。代表の後藤です。

今回は、自社のコーポレートサイトにAIチャットボットを導入した話をします。

これ、バイブコーディングで数日で自社制作しました。

ただ、今回一番お伝えしたいのは「作った事実」ではなく、「AIに全部任せてはいけない」という設計の考え方です。

なぜチャットボットを入れたか

きっかけはシンプルで、「お問い合わせフォーム」のハードルの高さです。

皆さんもWebサイトを見ていて「ちょっと聞きたいことがあるな」と思うことありませんか?

でも、わざわざフォームに名前とメールアドレスを入れて、文章を考えて送信するのはなかなか面倒ですよね。

電話なんてよりハードルが高い。

結果、「まあいいか」で離脱してしまう。非常にもったいない機会損失です。

そこで、サイトの右下に「24時間いつでも質問できるチャットボット」を置けば、問い合わせの手前にある「ちょっと聞きたい」を拾えるのではないか。つまり、CVRを上げることができるのではないか?と。

で、作りました

サイトの右下に吹き出しアイコンが出ているので、ぜひ実際に触ってみてください。

構築にかかった期間は数日ほどです。

ただ、作り始める前に一番時間をかけたのは「何をさせて、何をさせないか」の設計でした。

要件というよりは、考え方ですね。

そして、私が決めたのはこの4つです。

1. サービスに関する質問には24時間自動で答えてほしい

問い合わせフォームの手前で、サービス内容や進め方についての疑問を解消したい。

2. 嘘をつかない

架空の実績や、確定していない金額を勝手に言わない(これが一番重要)。


3. 悪意ある入力に乗っからない

企業のサイトに設置する以上、変な入力をされてもおかしな回答をしないようにしたい。

4. 最終的にお問い合わせフォームへ誘導する

チャットボットで完結させるのではなく、詳しい相談はフォームへ繋げる導線にしたい。

で、この中で一番の難所が「2. 嘘をつかない」でした。

AIに任せる仕組みを、御社の仕事にも。

任せる仕事を1つ決めるところから、後藤本人が一緒に作ります。

AIに全部任せると何が起きるか

ここが今回一番お伝えしたいポイントです。

以前の記事でも書きましたが、AIは経営者の強力な武器になります。

ただし、企業サイトのチャットボットに関しては「AIに全部任せる」のは危険です。

なぜか。AIはたまに嘘をつくからです(ハルシネーションを起こす)。

これは性能が悪いわけではなく、生成AIの構造上の特性です。

「もっともらしい回答を生成する」のがAIの仕組みなので、事実かどうかのチェックは苦手。

例えば、こんなことが起こり得ます。

「弊社は100社以上の導入実績があります」→ 実際はそんなにない

「その案件であれば50万円ほどで対応可能です」→ 見積もりもしていないのに

「他社様と比較しますと、弊社の方が〜」→ 競合批判をし始める

これを自社サイトで起こしてはならない。

「いや、プロンプト(AIへの指示文)で『嘘をつくな』と書いておけばいいのでは?」

と思いますよね。

でも、結論としてはプロンプトだけでは不十分です。

AIはプロンプトの指示を無視することがあります。悪意ある入力によって指示を上書きされるリスクもある。

だから「仕組みとして防ぐ」必要がある。これが今回の設計の核心でした。

「AIに全部任せない」設計

では、具体的にどうしたか。

「AIに答えさせない」領域を決める

まず、AIに自由に回答させるとリスクが高い領域を洗い出しました。

  • 実績などに関する質問:AIが架空の数字を答えるリスクがあるので、あらかじめ用意した事実だけを返す定型文で対応
  • 価格などに関する質問:金額を確約されてはならないので、「問い合わせフォーム」に誘導
  • 競合などに関する質問:AIが他社を批判し始めるのは企業としては避けるべき

つまり、「AIに答えさせる質問」と「AIを通さず定型文で返す質問」を分けているわけです。

AI回答もチェックを入れる仕組み

さらに、AIに答えさせる質問についても、回答をそのまま表示するのではなく、表示する前にチェックを入れています。

万が一AIが指示を無視して架空の実績や金額を生成してしまった場合、それを検知して別の回答に差し替える仕組みです。


いわば
二重の安全装置。

入口でフィルタし、出口でもフィルタする。

これで「AIが嘘をつく」リスクを仕組みとして最小化しています。

あえて「遅く」した理由

もう1つ、地味ですが重要な判断をしました。

よくあるAIチャットって、文字が1文字ずつ流れるように表示されますよね。

あのスタイルはかっこいいのですが、「文字が流れている途中」では回答の中身をチェックできない。

なので、AIの回答が全部出来上がってからチェックして、一括で表示する方式にしました。

体感速度よりも安全性を優先する。

企業サイトのチャットボットとしては、この判断が正解だと考えています。

応答時間は1〜3秒程度で、体験上は問題ありません。

少し技術的な話

せっかくなので、技術的な話も少しだけ。

以前の記事でも書いた自社サイトと同じく、Next.js + Vercelの構成で構築しています。

チャットボット自体の機能としては、サイト右下の吹き出しアイコンで開閉できて、最初に「こんな質問ができますよ」というサジェスチョン(質問候補)が表示されます。

「AIによる自動応答のため、回答が正確でない場合があります」という免責表示も常に出しています。

入力文字数や会話回数の制限も設けています。

チャットボットはあくまで「入口」で、詳しいご相談はお問い合わせフォームでという設計です。

最後に

AIチャットボットは、月額数万円のSaaSを契約しなくても自作できる時代になっています。

ただし、「作れる」ことと「安全に運用できる」ことは別の話。

特に企業サイトに載せるチャットボットは、「AIに何を任せて、何を任せないか」の線引きが非常に重要です。

「うちのサイトにもチャットボット入れたい」「AI導入で何から始めればいいかわからない」

そんな方は、お気軽にご相談ください。雑談レベルで構いません。

お問い合わせはこちら:https://www.i-gs.co.jp/contact

よくある質問

Q. AIチャットボットを自作するのは難しい?

A. バイブコーディングで数日あれば構築できます。ただし、企業サイトに載せる場合は「安全設計」に時間をかけることをおすすめします。

Q. AIが嘘をつくのは防げないの?

A. プロンプトだけでは防ぎきれません。AIに答えさせない領域を決める+回答を表示前にチェックする、という仕組みで防ぐのが現実的です。

Q. SaaSと自作、どっちがいい?

A. 社内にバイブコーディングができる人がいれば自作の方がコストを抑えられます。いない場合はSaaSも良い選択肢です。

Q. チャットボットで問い合わせは増える?

A. 「お問い合わせフォーム」よりハードルが低いので、これまで拾えなかった「ライトに聞きたい」層にリーチできる可能性があります。

関連記事

後藤佑輔

この記事の著者

後藤 佑輔

IGS代表

大和証券、アクセンチュアを経て、2023年にIGSを設立。Claude Codeと共に、一部Meta公式APIを使用した6つのWebサイトの開発・運用から、SNS投稿の完全自動化、バックオフィス自動化などを一人で行う。開始9か月で検索からの訪問は累計1万クリックを超え、「Claude AIエージェント 作り方」ではGoogle検索1位を獲得した。

無料サイト診断

あなたの会社のサイト、何点?

URLを入れるだけで、SEO・AI検索対応など20項目を30秒で自動採点。IGS運営の無料ツール「サイト採点くん」が、いま直すべき点を教えてくれます。

無料でサイトを採点する
Claude Code 品質ガイドライン 表紙

Whitepaper

Claude Code 品質ガイドライン|14項目チェックリスト

「プロンプトの書き方」だけでは、AIは使いこなせない。公式準拠の14項目で自社のAI活用を点検できる、自己診断チェックリスト付き全19ページを無料でお届けします。

無料でダウンロードする