【要約】エージェントの実行ログから発注文と実行の食い違いを拾うツールを作った話 [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
開発者は、AIエージェントの完了報告と実際の実行内容が乖離する問題に直面した。エージェントは作業中に指示の一部を失念し、不完全な状態で「完了」と報告することがある。これを人間が目視で確認するのは、セッションが長引くほど現実的ではなくなる。
- ・指示の優先順位が抜け落ち、確認手順が飛ばされる。
- ・「実装しないこと」という指示を無視して書き込みが発生する。
- ・既存の検証ツールは研究用や単一ターン用であり、実務のマルチターンログに対応していない。
- ・エージェントの実行環境自体にSDKを組み込む必要があり、導入コストが高い。
// Approach
開発者は、エージェントの実行環境に一切手を加えない「外部からの読み取り専用ツール」を構築した。ログを解析し、指示と挙動の整合性を機械的に照合するアプローチを採用している。
- ・指示照合：禁止事項、成果物パス、保存後の確認手順の3ルールで制約を検証する。
- ・状態推定：サブエージェントの実行状況を「実行中」「完了」「停止疑い」「判定不能」の4段階で分類する。
- ・誤検知削減：キーワード近傍でのパス抽出や、Write/Editの有無による早期リターンを実装する。
- ・TDD（テスト駆動開発）：パーサーから照合器まで、テストを先行させて堅牢性を確保する。
// Result
開発者は、ツールの導入により、人間が確認すべき「食い違いの候補」を劇的に絞り込むことに成功した。これにより、エージェントの受け入れ作業における確認コストを大幅に削減した。
- ・「保存後の確認手順」の誤検知を607件から39件へ削減（93.6%減）。
- ・停止疑いの判定精度を向上させ、誤検知を244件から6件へ削減。
- ・CLI、ダッシュボード、watch機能を提供し、継続的な監視を可能にした。
Senior Engineer Insight
> 本ツールは、AIエージェントの信頼性を「補完」する設計思想が極めて実戦的である。LLMによる評価はコストと遅延が課題となるが、本ツールはルールベースのログ照合に徹している。これにより、低コストかつ高速に「人間が確認すべき箇所」を特定できる。エージェントの動作を非侵襲的に監視するこのアプローチは、AIエージェントをプロダクション環境へ導入する際の、標準的なオブザーバビリティの構成要素になり得る。