【要約】熊本のクレソン農家がAIチャットボットを作った——農家エンジニアのチャットボット開発記② [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
- ・ターミナル実行では一般ユーザーが利用不能。
- ・LLMのステートレス性による会話履歴の消失。
- ・巨大なSystemプロンプトによるCookieサイズ上限（4KB）の超過。
- ・会話履歴の増大に伴うトークンコストと遅延の増加。
- ・GLM-4.7の推論モードによるタイムアウトの発生。
// Approach
1.JavaScriptの
fetch()を用いたSPA型UIへの刷新。2.
session.modified = TrueによるFlaskセッションの明示的更新。3.会話履歴を最新10件に制限し、コストと遅延を抑制。
4.Systemプロンプトをセッションから分離し、Cookie容量問題を回避。
5.リトライ処理と60秒のタイムアウト設定を実装。
// Result
専門的な料理提案が可能なWebアプリを実現。Cookie制限やAPIの応答遅延といった、実戦的な課題を解決した。これにより、スマートフォン等のブラウザから利用可能な実用的なツールへと進化した。
Senior Engineer Insight
> 参考書のコードを「素材」と捉える視点が秀逸。Cookie制限やモデル特有の遅延への対処は、実運用を見据えた実践的な判断だ。特に、Systemプロンプトの分離による容量対策は、Web開発の制約を理解した賢明な回避策といえる。プロトタイプから実用段階へ移行する際の、典型的な課題解決パターンが凝縮されている。