【要約】AI consultation が突然 400 BadRequest ループに陥る原因と、3層防御で直した話 [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
Codens Greenの開発チームは、特定のユーザーの会話が継続不能になる問題に直面した。Claude APIとの対話履歴を毎回全件送信する設計において、過去のメッセージに空のコンテンツが混入することで、以降の全リクエストが拒絶される事態が発生した。詳細は以下の通りである。
// Approach
開発チームは、汚染された会話の救済と再発防止を目的として、3つのレイヤーによる防御策を導入した。単なる事後対応ではなく、データの整合性とシステムの堅牢性を両立させる設計を選択した。具体的な手法は以下の通りである。
// Result
3層防御の導入により、AI相談機能の可用性が大幅に向上した。データ移行を行わずに、既存の不具合を抱えた会話を救済することに成功した。具体的な成果は以下の通りである。
Senior Engineer Insight
> LLM連携システムにおいて、APIの成功レスポンスを盲信するのは極めて危険である。本件は「200 OKだが中身が不正」という、AI特有の不整合が引き起こした典型的な事例だ。設計思想として、入出力の境界に厳格なバリデーションを設ける「二重のガード」が不可欠である。Layer 1（救済）とLayer 2（防止）を分けた判断は、運用コストとデータ整合性のバランスを考慮した実戦的な判断と言える。単なる修正ではなく、システムの「免疫」を強化する視点が重要だ。