AIが自動で動くときハルシネーション（誤情報生成）のリスクはどう対処するかという質問

「ハルシネーションが怖い」なら、AIが間違えても許容できる設計にするのが正解です。

• 重要な判断・金額・法的内容など「間違えると致命的な領域」にはAIの出力をそのまま使わず、人間が最終確認するフローを挟む
• AIが自動で動く範囲を「下書き生成」「データ整理」「仮の返信案作成」などに絞り、外部送信や確定処理の直前に承認ステップを入れる
• Claude Codeなら `.claude` 内のルールファイルに「○○の場合は必ず確認を求める」と書いておくことで、AIが自動で動きすぎないブレーキを設定できる
• 完璧を求めるより「ミスが起きても修正しやすい仕組み」にしておくのが現実的（AWSやGmailだって100%保証はない）

今日から小さく「下書きだけAI、確定は人間」で始めれば十分間に合います。