【要約】OpenAI API 会話履歴（メモリ） [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
LLMエージェントを構築する開発者が、会話の文脈を維持するためのメモリ管理手法の選定に直面している。具体的には以下の課題がある。
- ・会話履歴が長大化することによる管理の複雑化。
- ・ToolCallなどの複雑な構造を含む履歴の扱い。
- ・ステート（状態）の永続化と、複数デバイス間での履歴共有。
// Approach
筆者は、履歴の複雑さと要件に応じて3つの異なる管理手法を検証した。
- ・方式1（手動管理）:
responses.createのinput引数に、全履歴をroleとcontentの辞書形式で渡す。 - ・方式2（ID紐付け）:
previous_response_idを用い、レスポンス単位で履歴を紐付ける。 - ・方式3（Conversations API）:
conversation.idを使用し、サーバー側で管理される会話スレッドを利用する。
// Result
検証の結果、履歴の複雑さに応じた使い分けの指針が示された。
- ・単純な履歴管理には「方式1」を採用する。
- ・ToolCallを含む複雑な履歴には「方式2」を検討する。
- ・高度な永続化やパーソナライズが必要な場合は「方式3」を選択する。
Senior Engineer Insight
> 実装の抽象度と制御性のトレードオフが明確である。方式1はトークン管理の責務が開発者にあり、方式2は制御性は高いが実装が煩雑だ。方式3は開発体験に優れるが、APIの仕様変更リスクを考慮すべきである。大規模システムでは、方式3の永続化能力と方式2の制御性をどう組み合わせるかが鍵となる。