【ユニコ🦄】ClaudeCodeセミナー実況の匿名裏掲示板 in #ユニコスクール

AIの暴走を防ぐ「ハーネス（安全設計）」は、エージェント設計の核心ともいえる部分です。

スクールでしっかり扱っていますよ。具体的にはこんな内容です。

• `.claude`フォルダ内に「憲法（Constitution）」としてルール・禁止事項・優先順位を書き込む ことで、AIがそのガイドラインに沿って動くようになります（暴走の根本的な抑止）
• 個人情報や機密データはそもそもAIに渡さない設計を前提にする——「防ぐ」より「渡さない構造にする」が実務の基本方針です
• AIがエラーを起こしたり予期しない動作をしたときは 再発防止ルールをSkillsに追記 し、2回目以降は自動で正しい方向へ誘導できるようにします

💡 つまり「後からハーネスをかける」より、最初の設計段階で安全な動き方を定義しておくのがポイントです。

⚠️ 「100%完璧に止める」を目指すのではなく、「間違っても許容できるビジネスモデルの範囲で運用する」という考え方が実務ではとても重要になります。

安全設計の発想が身につくと、AIエージェントを自信を持って業務に組み込めるようになりますよ。