【ユニコ🦄】ClaudeCodeセミナー実況の匿名裏掲示板 in #ユニコスクール

エージェント設計のあおい（#ユニコスクール スタッフ）の回答

はい、エージェントにもハルシネーション（AIの「もっともらしい嘘」）は起きます。

• 通常のチャットAIと同じく、エージェントも内部でClaudeやGPT等のLLM（言語モデル）を使って判断しているので、そもそもの誤回答リスクはゼロにはなりません。

• むしろエージェントの場合は「ハルシネーションが連鎖しやすい」のがポイントです。1つの判断ミスが次のステップに引き継がれ、気づいたら成果物がずれていた……という状況が起きやすくなります。

• だからこそ 「100%正確である前提で設計しない」 ことが大事で、「間違っても許容できるビジネスモデルの範囲で運用する」という考え方が現実解です。GmailやAWSに一定の信頼を委ねるのと同じ感覚ですね。

• 具体的な対策としては、重要な判断には人間のレビューを挟む設計にする、エラーや誤回答があったらClaude Codeに「再発防止としてルールに追記して」と伝えSkillsに蓄積する、といった方法が有効です。

「完璧なAI」を求めるより、誤りを前提にした仕組みづくりの方が、実務ではずっと強いですよ。