【要約】家計簿に「過去と比べる」を実装したら、比べてはいけないものを比較しだしたLLM [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
開発者が、ローカルLLMによる家計簿の比較機能の実装中に、LLMが誤ったアドバイスを行う問題に直面した。計算をPythonで行い、説明をLLMに任せる設計であったが、入力データの統計的妥当性が欠如していた。
- ・性質の異なるデータの混在。繰上返済を支出に含めたことで、住居費の平均が実額の1.7倍に膨らんだ。
- ・判定ロジックの不備。月単位の集計や部分一致による誤検知が、正確な分類を妨げた。
- ・比較対象の不整合。データソースの欠落により、統計的に無意味な「過去最高」判定が発生した。
// Approach
データの意味論的な整理と、統計的な妥当性を検証するバリデーション処理を導入した。具体的には以下の手順で改善を行った。
- ・属性の分離。繰上返済を「支出」ではなく「資産」の区分へ振り替えた。
- ・ロジックの厳密化。判定を日単位へ変更し、摘要の照合を完全一致（exact）へ切り替えた。
- ・比較の妥当性検査。データソースの有無や母数を検証し、不適切な場合は比較から除外した。
- ・除外理由の明示。単に除外するのではなく、理由をテキストとして出力し、誤読を防いだ。
// Result
統計データの精度が向上し、LLMの誤診を防止することに成功した。誰にとっても信頼できる分析基盤となった。
- ・住居費の平均が実額と一致し、1.7倍の乖離が解消された。
- ・データソースの欠落による「常に最高」という誤判定を抑制した。
- ・定額支出の自動検出により、金額の変化ではなく「継続性」という新たな知見を得た。
Senior Engineer Insight
> LLMの出力精度は、入力データの「統計的妥当性」に完全に依存する。計算をPythonに寄せても、入力の前提が壊れていればLLMは「壊れた統計」を「正しい事実」として解釈し、致命的な誤診を下す。実戦では、モデルの性能向上よりも、データの意味論的整合性と統計的母数の検証にリソースを割くべきだ。入力の品質こそが、AIシステムの信頼性を決定付ける。