【要約】PythonのTenacityで堅牢なリトライ処理を書く：AI API・外部API・バッチ処理で使える実践パターン [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
開発者は外部APIやLLMを利用する際、ネットワーク瞬断やレート制限等のエラーに直面する。これらに対し、場当たり的な実装を行うと以下の問題が生じる。
- ・try-exceptとsleepを組み合わせた冗長なコードの増殖。
- ・リトライの集中による、システム全体への負荷増大（Thundering Herd問題）。
- ・認証エラー等のリトライ不要なエラーまで再試行することによるリソースの浪費。
- ・リトライ状況が可視化されず、運用フェーズでの原因特定が困難になる。
// Approach
Tenacityライブラリを用い、リトライ条件を宣言的に記述することで、制御ロジックを分離し堅牢性を高める。以下のステップで実装を構成する。
- ・stop_after_attemptによる最大試行回数の明示。
- ・wait_random_exponentialを用いた、ランダム性を伴う指数バックオフの導入。
- ・retry_if_exception_typeによる、リトライすべき例外（TimeoutError等）の厳選。
- ・before_sleep_logによる、リトライ試行回数や待機時間のログ出力。
- ・戻り値に基づくリトライ（retry_if_result）や非同期処理（async def）への対応。
// Result
Tenacityを適切に導入することで、一時的な障害に対するシステムの回復力が向上する。特にAI API利用時において、以下の効果が得られる。
- ・レート制限や一時的なサーバーエラーに対する自動復旧。
- ・ランダムバックオフによる、複数ワーカー間でのリトライ衝突の回避。
- ・ログ出力による、リトライ頻度やコスト増大の可視化。
- ・バッチ処理において、一部のジョブ失敗が全体に波及するのを防ぐ設計の実現。
Senior Engineer Insight
> 本記事は、単なるライブラリ紹介に留まらず、実戦的な「信頼性設計」に踏み込んでいる。特に、ランダム指数バックオフによる衝突回避や、例外の限定、ログ出力の重要性は、大規模システム運用において不可欠な視点だ。ただし、LLM APIのようなコストのかかるリソースを扱う場合、リトライは「コスト」であることを忘れてはならない。冪等性の確保とタイムアウト設計をセットで行い、必要に応じてメッセージキューと組み合わせる、多層的な防御策を検討すべきである。