【要約】閉域構成のOracleDB運用支援LLMを作り、RAGでハルシネーションがどこまで減るか18問で実測してみた [Qiita_Trend] | Summary by TechDistill
> Source: Qiita_Trend
Execute Primary Source
// Problem
エンタープライズ環境では、機密保持のためネットワークを閉域に保ったままLLMを利用したいニーズがある。しかし、Oracle DBの運用支援において、LLMは実在しないビューや列名を提示するハルシネーションを起こしやすい。これが運用現場では、誤ったSQLの実行によるシステム障害を招くリスクとなる。
- ・閉域環境でのLLM利用要件。
- ・専門的なDB知識に関するハルシネーション。
- ・誤ったSQL実行による運用事故の懸念。
// Approach
著者はOCIのマネージドRAGサービスを用い、Oracleマニュアル等のナレッジベースを構築して検証を行った。
- ・OCI Generative AI AgentsによるRAG基盤の構築。
- ・マニュアル、自作のルーティング索引、用語集によるKB整備。
- ・実機で正解を固定した18問の評価セットによる比較検証。
- ・指示文（Instruction）の最適化による改善サイクルの実施。
// Result
RAGの導入により、ハルシネーション率は劇的に改善した。
- ・Llama 3.3 70Bにおいて、ハルシネーション率を77.8%から22.2%へ低減。
- ・平均スコアを1.00から1.67へ向上。
- ・ただし、ハルシネーションをゼロにすることはできず、実行前検証の運用ルールが不可欠であると結論付けた。
Senior Engineer Insight
> RAGはハルシネーションを「大幅に減らす」手段として極めて有効だ。しかし、残存する「列の混同」は、名前自体は実在するため検知が難しく、極めて危険である。実戦投入においては、LLMの回答を鵜呑みにせず、ディクショナリを用いた機械的な検証プロセスをパイプラインに組み込む設計が求められる。単なるモデルの選定以上に、検証プロセスを含めたシステム全体の設計が重要である。