【要約】AI に PR の merge 可否を判定させると本番が止まるので、ルールエンジン先行 + AI advisory にした話 [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
- ・AIのFalse Positiveによる開発フローの停止。
- ・誤判定のたびにTLがブロック解除を行う運用負荷。
- ・信頼喪失によるAI機能の無効化。
- ・誤判定時に、元のイベントが追跡不能になる問題。
// Approach
1.**ルールエンジン先行**:
FILE_PATH_GLOB 等の4種で判定。2.**決定論的スコアリング**:
weight の合計で high_risk を判定。3.**AIの役割限定**:
precheck のドラフト提案や suggestion に限定。4.**データの分離保存**:
raw_events, derived_facts, ai_suggestions を別管理。// Result
- ・AIの誤判定が開発フローを止めるリスクを排除。
- ・
is_dismissedにより、AIの提案をTLが制御可能。 - ・データの分離により、誤判定時の再計算や監査が可能。
Senior Engineer Insight
> AIを意思決定の主軸に据えるのは、実戦では極めて危険だ。本設計は、決定論的なルールでガードレールを敷く。その上でAIを補助に留める。この「権限の分離」が、開発速度と安全性の両立を実現する。また、データの3段分離による監査性の確保は、運用フェーズでのデバッグコストを最小化する。極めて堅実で、スケーラブルな設計である。