【要約】人間向けのデザインを全部捨てたサイトを作って、AIが読むトークンを実測したら12.9倍だった [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
LLMを用いてWebサイトの情報を取得する際、人間向けの装飾が膨大なトークンを浪費している。開発者は、情報の抽出コストと精度の低下という課題に直面している。
- ・トークン消費の増大：本文の7.6〜42.9倍に及ぶ装飾やスクリプトがノイズとなる。
- ・コストの圧迫：不要なトークンにより、LLMのAPI利用料金が不必要に増大する。
- ・精度の阻害：大量のノイズがコンテキストを埋め、情報の抽出精度を低下させる。
// Approach
著者は、AIの読みやすさに特化した最小構成のサイト「TokenEater」を構築し、その効果を検証した。
- ・サイト構成：HTMLを一切使わず、.md、.json、llms.txtのみで構成。
- ・サーバー実装：Caddyのrouteディレクティブを用い、Content-Typeをtext/plainに強制。
- ・性能検証：ブートストラップ法を用い、回線変動を考慮したTTFBの統計的比較を実施。
- ・攻撃検証：4つのLLMモデルに対し、本文と矛盾する/しない推奨文を注入し、回答への影響を測定。
// Result
AI専用サイトの構築により、トークン消費量と転送量を劇的に削減することに成功した。
- ・トークン削減：Zennの記事と比較して242分の1に削減。
- ・転送量削減：179分の1に削減。
- ・応答速度：TTFBの差は回線状況に左右され、約1.1倍程度の改善に留まる。
- ・インジェクション：本文と矛盾しない誘導は可能だが、Claudeでは広告が逆効果になる現象を確認。
Senior Engineer Insight
> 実戦的な知見として、LLMへの入力前処理（HTMLから不要なタグの除去）は、コスト削減に直結する必須工程である。ただし、ファイルサイズ削減だけではネットワークレイテンシ（TTFB）の劇的な改善は望めない点に注意が必要だ。また、AIエージェントが外部Webサイトを読み込む設計を行う場合、ページ内のテキストを「命令」ではなく「データ」として扱う厳格な分離が、プロンプトインジェクション対策として不可欠である。