【要約】Claude Code でモデルを切り替えると、そのターンだけ書き直しが287倍 [Qiita_Trend] | Summary by TechDistill
> Source: Qiita_Trend
Execute Primary Source
// Problem
開発者がClaude Codeを利用する際、実行方法によって意図せず膨大なトークンを消費する問題がある。キャッシュの仕組みを理解せずに運用すると、コストが予測不能になる。
- ・モデルを切り替えると、各モデルが持つキャッシュが利用できず、書き直しトークンが激増する。
- ・
-pオプションによる単発実行を繰り返すと、キャッシュヒット率が低下し、コストが増大する。 - ・TTL(キャッシュ保持期間)の設定変更が、既存キャッシュの再利用を妨げる。
// Approach
筆者はキャッシュの挙動を解明するため、
/usage を用いてトークン消費量を定量的に測定した。- ・同一セッション内でモデルを切り替える実験を行い、書き直しトークンの変化を測定した。
- ・環境変数
FORCE_PROMPT_CACHING_5Mを使い、TTL変更によるキャッシュの分離を検証した。 - ・
-pによる単発実行とセッション継続の比較を行い、ヒット率の差を算出した。 - ・
--output-format jsonを活用し、詳細なトークン数データを取得した。
// Result
検証により、モデル切り替え等の操作がコストに与える影響を、具体的な数値で把握可能となった。
- ・モデル切り替え時の書き直しトークンは、最大287倍(197 $ o$ 56,584)に跳ね上がる。
- ・セッションを継続すれば、ヒット率は99.8%に達し、書き直しを約400分の1に抑えられる。
- ・TTLを変更しても、設定を戻せば元のキャッシュが復活する挙動を確認した。
Senior Engineer Insight
> AIエージェントの運用において、キャッシュ戦略はコスト管理の要である。モデルの動的な切り替えは、単なる精度の変更ではなく、計算リソースの爆発的な消費を伴う。CI/CD等の自動化環境では、セッションを維持する設計を徹底すべきだ。
-p による使い捨て実行は、キャッシュ効率を著しく低下させる。実戦投入時は、トークン消費の「行きは高く、帰りは安い」という非対称な挙動を念頭に置く必要がある。