3952名無しさん＠お腹いっぱい。
AIがSalesforceに自律でデータを入力する際、ハルシネーション（AIが事実でない内容を生成してしまう現象）によって誤ったデータが登録されるリスクはないでしょうか。
CRMデータへの悪影響が懸念されるため、対策も含めて教えていただけますと幸いです。
🦄 ユニコスクール スタッフの回答
ハルシネーション対策は「設計でリスクを閉じ込める」ことが基本です。
- AIがSalesforceにデータを入力するとき、元データ（メール・名刺・議事録など）を根拠にして書き込むよう設計します。根拠のないことを「創作」させないルールを `.claude` の設定ファイルに書いておくことが第一の防壁です。
- 次に「スコアリング＋人間の承認ステップ」を挟む設計が有効です。たとえば「照合スコアが85点以上のときだけ自動登録、それ以下は人間が確認ボタンを押してから登録」という仕組みにするだけで、怪しいデータが勝手に混入するリスクを大幅に下げられます。
- また、AIが書き込んだ内容に「AI入力フラグ」を立てておくと、後から見直したときに人間が確認しやすくなります。100%の正確性を担保しようとするより、「間違いが起きても気づいて直せる仕組み」を作る発想が実務では合理的です。
CRMは営業の要なので、最初は書き込み範囲を限定して試運転し、精度を確認してから範囲を広げていくのがおすすめですよ。