【要約】ROS2とPython asyncioを組み合わせた非同期処理【LLM API統合の実装例】 [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
ロボット開発者が、LLMなどの外部APIをROS2のコールバック内で呼び出す際に、制御ループが停止する問題に直面する。APIの応答待ちが制御スレッドを占有することで、ロボットの動作継続が困難になるためである。
- ・API呼び出し（低速）がコールバック内で同期的に実行される。
- ・スレッドがブロックされ、cmd_velなどの重要な制御コマンドの送出が止まる。
- ・ROS2のspin()とPythonのasyncioイベントループは別物であり、直接混在できない。
// Approach
制御ループのリアルタイム性を維持するため、API呼び出しをメインのROS2スレッドから分離する2つのアプローチを提案する。用途に応じて、I/O多重化の効率か実装の簡潔かを選択する。
- run_coroutine_threadsafeを用いて、ROS2スレッドから非同期タスクを安全に投入する。
- 実装が容易であり、LLMのような低頻度な呼び出しに最適である。
- ・asyncioを別スレッドで動かす手法
- run_coroutine_threadsafeを用いて、ROS2スレッドから非同期タスクを安全に投入する。
- ・ThreadPoolExecutorを利用する手法
- 実装が容易であり、LLMのような低頻度な呼び出しに最適である。
// Result
開発者は、通信の頻度や要求されるスケーラビリティに基づき、最適な非同期モデルを選択できる。これにより、外部知能との連携とリアルタイム制御の両立が可能になる。
- ・大量のリクエストを捌く場合はasyncioによるI/O多重化を選択できる。
- ・LLMのような低頻度な通信では、実装コストの低いThreadPoolExecutorを選択できる。
- ・タイムアウト設定やMultiThreadedExecutorの活用により、システムの堅牢性が向上する。
Senior Engineer Insight
> 実戦において、LLMのような数秒単位のレイテンシを伴う処理を、ミリ秒単位の制御ループに混ぜる設計は極めて危険である。本記事が示す「スレッド分離」は必須の作法だ。ただし、APIの応答待ち中にロボットが「思考停止」状態にならないよう、安全なデフォルト動作（Fail-safe）の設計も併せて検討すべきである。また、MultiThreadedExecutorの使用は、リソース競合やデッドロックのリスクを伴うため、スレッドセーフな設計に細心の注意を払う必要がある。