【要約】Claude Opus 5 の effort を3段階振ったら、コストは0.6円しか変わらなかった [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
日本語の長文記事を生成するツールの開発者が、APIコストの正確な見積もりと制御に直面した。1本あたりのコストが設計上の重要論点であり、事前の見積もりと実測値の乖離が課題となった。
- ・effortパラメータを下げればコストが下がるという仮説が、実測では裏切られた。
- ・プロンプトキャッシュを利用した際、初回実行時のコストを大幅に過少見積もっていた。
- ・キャッシュが期待通りに読み出されず、毎回書き込みが発生する挙動に直面した。
- ・これらにより、無料枠の設計や事業計画の精度に影響を及ぼすリスクが生じた。
// Approach
開発者は、実測値に基づいたコスト計算ロジックの修正と、パラメータの影響調査を行った。まず、effort（low/medium/high）を変化させ、出力トークン数とコストの相関を検証した。次に、キャッシュ利用時のコスト計算式を、以下の手順で厳密に再構築した。
- ・cache_creation_input_tokensを計上対象に明示的に追加。
- ・キャッシュ書き込み単価を、入力単価の1.25倍として計算式に組み込み。
- ・キャッシュ読み出し単価を、入力単価の0.1倍として計算式に組み込み。
- ・出力トークン数がeffortに依存しない可能性を、実測データから分析。
// Result
開発者は、実測を通じてコスト計算の精度を向上させ、運用設計を最適化した。
- ・出力文字数をプロンプトで制限するタスクでは、effortによるコスト差は3.3%に留まることを特定。
- ・キャッシュ書き込みコストを考慮したことで、実額の約19%の計上漏れを解消。
- ・当初の見積もり36円に対し、実測が17円前後であることを突き止め、設計を修正。
- ・effortの値がキャッシュのキーに影響する可能性という、新たな技術的仮説を得た。
- ・これにより、コストと品質のトレードオフをより正確に判断可能となった。
Senior Engineer Insight
> コスト管理において「キャッシュは常に安価」という認識は危険だ。書き込みコスト（1.25倍）の考慮は必須である。また、effortがキャッシュキーに含まれる場合、ヒット率が低下するリスクがある。スケーラビリティを考慮するなら、パラメータの組み合わせによるキャッシュ効率の低下を設計段階で予見すべきだ。