2. 事故を防ぐ・安全運用
AI が即「すみません」と意見を反転させるのを止める
Claude に何かを指摘すると、即「あ、おっしゃる通りです」と前案を真逆に反転させることがあります。コロコロ意見が変わると、どちらが本音か分からなくなります。
#対話#鉄則
2. 事故を防ぐ・安全運用「いいかも」「なるほど」を AI に「確定」と解釈させない
「いい気はする」「整理したいね」と独り言レベルの感想を、Claude が「やって OK」と解釈して確認なしで本格的な改修を始める事故があります。後で「そこまでとは言ってない」と気付いても、書き換わったファイルを戻すのに時間がかかります。
#対話#安全運用
4. 対話のトラブル対処AI への同じ指示で 3 回ダメ出しが続いたら、前提が違うと疑う
AI への同じ指示で「違う」が 3 回連続続いたのに、表面の文言を変えて 4 回目もズレた答えが返ってくる事故が起きます。3 連続ダメ出しの時点で、こちらが理解している前提そのものがズレています。
#対話#再計画
