【要約】DSPy ReActV2 登場 -- ReAct とどこが変わったか試してみた [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
LLMエージェントを構築するエンジニアは、従来のReActパターンにおいて以下の課題に直面していた。
- ・逐次実行の制約:1ターンに1つのツールしか呼べず、独立した処理も順番に実行する必要がある。
- ・コストと遅延の増大:ターン数が増えるほど会話履歴が累積し、トークン消費量とレイテンシが悪化する。
// Approach
開発者はDSPy 3.3.0b1で追加された「ReActV2」を採用することで、実行効率の改善を図る。
- ・並列ツール呼び出し:独立した複数のツールを1ターンでまとめて実行する。
- ・ネイティブFunction Calling:ツール呼び出しをJSON形式で行い、プロンプトの構造化と効率化を図る。
// Result
登山計画エージェントを用いた比較実験の結果、ReActV2は従来のReActを圧倒する性能を示した。
- ・実行効率の向上:ReActと比較し、ターン数を50%削減(8 $\rightarrow$ 4)した。
- ・コストの削減:LM呼び出し回数を56%削減、合計トークン数を約71%削減(32,989 $\rightarrow$ 9,671)した。
- ・最適化の有効性:Function Callingを有効にすることで、テキストベースより約28%のトークン節約が可能となった。
Senior Engineer Insight
> 実戦的な観点では、ReActV2はエージェントのコスト効率を劇的に変える。特に複数APIを跨ぐワークフローでは、並列化によるレイテンシ削減がユーザー体験に直結する。Function Callingの活用によるトークン節約も、大規模運用では無視できない。ただし、本機能は実験的段階である。APIの変更リスクを考慮し、本番環境への導入は慎重な検証を要する。