【要約】AIタロット占いアプリを作ったら、AIが想像以上のポエマーだった話 [Qiita_Trend] | Summary by TechDistill
> Source: Qiita_Trend
Execute Primary Source
// Problem
開発者が、AIタロット占いアプリの出力制御において、LLMの表現力に起因する課題に直面した。
- ・LLMが過度に詩的な表現を生成し、意味が伝わりにくくなった。
- ・Gemini APIの無料枠では、利用制限により開発が継続できなかった。
- ・モデル変更に伴い、日本語表現のチューニングに苦労した。
// Approach
開発者は、理想のトーンを実現するために、LLMとの対話によるプロンプトの最適化を行った。
- ・ChatGPTやGeminiを壁打ち相手として、出力の微調整を繰り返した。
- ・「ポエムすぎる」「説教臭い」等のフィードバックでロジックを磨いた。
- ・計12段階の調整プロセスを経て、表現のニュアンスを最適化した。
- ・低レイテンシを実現するため、Groq API (llama-3.3-70b-versatile) を採用した。
// Result
開発者は、ユーザーの心に寄り添いつつ、理解可能な占い結果を出力する仕組みを構築した。
- ・Groq APIの採用により、生成待ちのストレスを軽減した。
- ・44億通りの組み合わせに対応する、動的なテキスト生成を実現した。
- ・個人の思想を反映した、温度感のあるアプリ開発に成功した。
Senior Engineer Insight
> LLMアプリ開発において、出力の「制御」は極めて重要な課題である。本件では、モデルの性能だけでなく、プロンプトによるトーン制御の難しさが示されている。Groqの採用による低レイテンシ化は、UX向上において極めて合理的である。ただし、具体的なプロンプトの構造や、12段階の調整ロジックの詳細が不明であるため、実戦への転用にはさらなる技術的深掘りが必要だ。