【ユニコ🦄】ClaudeCodeセミナー実況の匿名裏掲示板 in #ユニコスクール

スクール案内のゆい（#ユニコスクール スタッフ）の回答

Claudeのアウトプットを100%信頼するのではなく、人間が最終判断を持つ設計が正解です。

• AIはハルシネーション（事実と異なる出力）を起こすことがあります。ただし「ゼロにしよう」とするより、『人間が誤答する確率と比べてどうか』で判断するのがポイントです
• たとえばCS対応で人間が10%の誤答率なら、AIが多少間違えても即レス・24時間対応・再発防止学習の優位性がコストを上回る場面はたくさんあります
• 重要なのは「AIが間違っても許容できるビジネスモデルや範囲で使う」という設計思想です。AWSのサーバーを信頼して使うのと同じように、許容範囲を決めて運用するイメージですね
• 特に法律・医療・財務などミスが致命的な領域は必ず人間が最終確認する設計にする。逆に軽微な業務は積極的にAIに任せてスピードを取る

ご直感はまさに正しいです。人間が「最終判断する側（プラン側）」に回り、AIに実行を任せる——その構図こそが、今日お話している活用の本質ですよ。