【要約】愚痴に戦国武将がAIで答えてくれるWebアプリをリリースしました！ [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
開発者が、ユーザーに笑いを提供するためのエンタメ特化型AIアプリを構築する際、以下の技術的課題に直面した。単なる情報提供ではなく、キャラクターの個性を際立たせつつ、実用的なレスポンス速度と持続可能なコスト構造を両立させる必要があった。
- ・LLMが武将のキャラクターを再現できず、無難なビジネスアドバイスを返してしまう。
- ・複数の武将に同時に回答させる際、直列処理ではユーザーの待ち時間が長くなる。
- ・API利用料が膨らみ、個人開発における収益性が確保できない。
// Approach
開発者は、キャラクター性、レスポンス速度、コストの3点を最適化するために、以下の手法を採用した。ユーザー体験を損なわず、かつ経済的に成立するシステム構成を目指し、プロンプト、非同期処理、認証基盤の各レイヤーで対策を講じた。
- ・プロンプトエンジニアリングの徹底：エンタメ重視の指示、決め台詞の強制、詳細な性格データの注入。
- ・非同期並列処理の採用：
asyncio.gatherを用い、複数武将の回答生成を並列化。 - ・コスト管理策の実施：Firebase匿名認証による1日10回の利用制限と広告モデルの導入。
// Result
開発者は、コストとキャラクター性のバランスが最も優れた「GPT-5 mini」を選択し、以下の成果を得た。これにより、低コストでありながら、ユーザーがストレスを感じない速度で、個性の際立つ回答を提供する仕組みを構築した。
- ・体感待ち時間の削減：並列処理により、武将の人数に関わらずレスポンス速度を維持。
- ・運用コストの抑制：1リクエストあたり約0.15円に抑え、広告収益でペイ可能な設計を実現。
- ・高いキャラクター再現性：武将ごとの個性が際立つ回答生成に成功。
Senior Engineer Insight
> エンタメ用途におけるLLM活用として、プロンプトによるキャラ制御、非同期処理によるUX改善、コスト管理の三原則を実戦的に示している。特に
asyncio.gatherによるレイテンシ対策や、匿名認証を用いたコスト抑制策は、小規模なAIサービスを継続運用する際の定石と言える。ただし、LLMの出力品質に依存するため、プロンプトの堅牢性向上は継続的な課題となる。