【要約】最小構成のRAG実装例と、静かに壊れる所まで [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
開発者は、RAGの精度低下時に、原因を特定できない問題に直面する。フレームワークを利用すると、内部挙動がブラックボックス化するため、以下の課題が生じる。
- ・各パーツの役割が隠蔽され、どこで失敗したか判別できない。
- ・検索（Retrieval）の失敗が、生成（Generation）の品質に直結する。
- ・回答が不完全でも文章として成立するため、異常に気づきにくい。
// Approach
著者は、各パーツの役割を理解するため、最小構成での自作実装を提示した。約80行のコードで、以下のステップを順に構築する。
- ・Load: BeautifulSoupを用い、imgタグのalt属性を保持して情報損失を防ぐ。
- ・Chunk: 文単位で分割し、文脈維持のためにチャンク間で文を重複させる。
- ・Embed: Geminiを用い、文書と質問で異なるtask_typeを指定する非対称埋め込みを行う。
- ・Store: ChromaDBにコサイン距離を用いてベクトルを格納する。
- ・Generate: プロンプトで「コンテキストのみ使用」と「回答拒否の許容」を明示する。
// Result
実装者は、RAGの内部構造と、検索失敗が引き起こす特有の不具合を理解できる。具体的には以下の知見が得られる。
- ・検索精度が低いと、回答が「情報不足」と誤判定されるリスクがある。
- ・検索件数（k）の不足により、必要な情報が欠落したまま回答される。
- ・非対称埋め込みが、検索性能の向上に寄与することを実証した。
Senior Engineer Insight
> フレームワークへの過度な依存は、トラブルシューティング時の致命的な遅延を招く。本記事が示す「非対称埋め込み」や「オーバーラップ」は、実戦でも必須の勘所だ。ただし、本実装は最小構成である。本番投入には、検索精度の定量的評価（RAGAS等）と、ハイブリッド検索の導入が不可欠である。