「Pythonが計算し、Claudeが判断する」— 自作投資分析システム RakuScan の設計思想を本にまとめた | TechDistill

> Source: Zenn_Python

// Problem

当初、分析の全工程をLLMに委ねたことで、月間3,000万トークンに及ぶ膨大なAPIコストが発生した。また、単一スクリプトによるモノリスな設計では、新しい分析手法の追加時に既存ロジックを破壊するリスクがあり、外部APIのレートリミットによるデータ取得の遅延も大きな課題であった。

// Approach

LLMを「推論」に特化させ、数値計算はPythonで行う分業設計を採用し、トークン消費を1/500以下に抑制。設計面では、YAMLとimportlibを用いたプラグイン型アーキテクチャを導入して拡張性を確保した。さらに、3段階のフィルタリングと2層キャッシュにより、API制約下での効率的なデータ取得を実現した。

// Result

月額コスト0円での運用を実現。トークン効率の劇的な改善、キャッシュヒット率90%以上の達成、および12日間で19,000行に及ぶ堅牢なシステムの構築に成功した。設計判断の根拠（不採用とした選択肢を含む）が明確化された。

Senior Engineer Insight

> LLMを「万能な計算機」ではなく「高度な判断器」として定義し、計算負荷の高い処理を従来のプログラムに切り離した点は、実運用におけるコスト・レイテンシ管理の観点から極めて合理的である。また、APIのレートリミットという物理的制約を、フィルタリング工程の設計に昇華させている点も評価できる。ただし、プラグインの動的ロードはデバッグの複雑性を増すため、厳格なインターフェース定義とテスト自動化が運用の鍵となるだろう。