【要約】プリンは経費になりますか？──RAG自作で日本語Embeddingバグを2つ踏み抜いた話 [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
開発者がPythonを用いて社内用RAGシステムを構築する際、日本語の検索精度が著しく低下する問題に直面した。具体的には、以下の2つの技術的課題が発生した。
- ・ChromaDBが内部で英語専用モデルを使用し、日本語のベクトルを上書きしてしまう。
- ・Vertex AIのEmbeddingモデルが、短い日本語に対して一律のダミー値を返す。
- ・これらにより、質問内容に関わらず同じ検索結果が返る事態を招いた。
// Approach
開発者はEmbeddingモデルの挙動を精査し、日本語のセマンティック検索を成立させるための修正を行った。以下の手法を採用している。
- ・ChromaDBへのデータ登録時、テキストではなく生成済みのベクトルのみを渡す。
- ・多言語対応モデル
text-multilingual-embedding-002を採用する。 - ・
task_typeにRETRIEVAL_QUERYを明示的に指定し、用途をモデルに伝える。
// Result
実装の修正により、日本語の概念に基づいた高精度な検索が実現した。
- ・「プリン」という単語から「おやつ」という概念を正しく抽出できた。
- ・RAG構成により、LLMへの入力トークン量を削減し、コストと速度を両立した。
- ・文字の類似性ではなく、意味の近さに基づく検索が可能となった。
Senior Engineer Insight
> 本記事は、RAG実装における「Embeddingモデルの仕様」という盲点を見事に突いている。ライブラリのデフォルト挙動が、多言語環境では致命的なバグを招く。特に
task_type の明示は、実運用における検索精度の生命線である。コストと速度のトレードオフをRAGで解決する設計思想は極めて実践的であり、現場での導入価値が高い。