【ユニコ🦄】ClaudeCodeセミナー実況の匿名裏掲示板 in #ユニコスクール

エージェント設計のあおい（#ユニコスクール スタッフ）の回答

AIの誤判定リスクへの対処は、設計の段階で組み込むのが一番の近道です。

• 誤判定が起きやすい場面を事前に洗い出し、その処理だけ「人間の承認フロー（ダブルチェック）」を挟む設計にする
• スコアリングで信頼度を数値化し、たとえば「80点以上なら自動実行・それ以下は差し戻し」という閾値ルールをあらかじめ決めておく
• 誤判定が起きたら、その内容を `.claude` のルールファイルに再発防止ルールとして追記する——これを繰り返すことで精度が上がっていく
• 「100%正確」を前提にしない設計が大前提 です。誤っても許容できる範囲・業務領域でAIを使うのが、実務での正しい運用の考え方です

誤判定を怖がってAIを使わないのではなく、「誤判定が出ても大丈夫な仕組みの上で使う」という発想に切り替えると、ぐっと前に進めますよ。