【要約】AIキャラクターに「黙る」ことを教える ― 自発メッセージを3段ゲートで設計した話 [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
AIキャラクターの開発者が、自発的なメッセージ機能を実装する際に、ボットがスパム化する問題に直面した。単純な定期実行によるLLM呼び出しでは、以下の課題が生じる。
- ・LLMの生成バイアスにより、無理にメッセージを生成してしまう。
- ・直近の会話文脈が欠如し、通知スパムのような挙動となる。
- ・ユーザーの反応（沈黙）を記憶できず、不自然な発話を繰り返す。
// Approach
開発者は、送信判定を3段階のゲートに分け、判断と生成を分離する設計を採用した。これにより、品質とコストを両立させている。
- ・[1] ヒューリスティック関門：LLMを使わず、頻度や時間帯で足切りを行う。
- ・[2] LLM 意図判定：発話の動機があるかをLLMで判定する。
- ・[3] LLM 最終判断：文脈に基づき、最終的な送信可否を判定する。
- ・沈黙の記憶：既読無視等の状態を保持し、キャラクターに自制させる。
// Result
この設計により、開発者はキャラクターのリアリティ向上と運用コストの抑制を同時に実現した。
- ・LLMコストの削減：判定段階での足切りにより、無駄な生成を防ぐ。
- ・UXの向上：スパム化を防ぎ、文脈に沿った自然な発話が可能になる。
- ・マルチチャネル対応：LINEやDiscord等へ、一貫した体験を提供できる。
Senior Engineer Insight
> 「判断と生成の分離」は、LLMアプリケーションにおける定石である。コスト管理と品質担保の両面で極めて合理的だ。また、沈黙を「状態」として扱う設計は、エージェントの自律性を高める。ただし、モデルごとの頻度差やテストの難易度には、実戦投入時に注意が必要である。