【要約】Anthropic warns Fable 5 may block benign requests after US intervention [Ars_Technica] | Summary by TechDistill
> Source: Ars_Technica
Execute Primary Source
// Problem
米国政府がAnthropicの高度なモデルを国家安全保障上のリスクと見なし、輸出規制を課した。これにより、モデルの展開遅延とサイバー攻撃への悪用リスクが顕在化した。具体的には以下の問題が発生している。
- ・Mythos 5が、ソフトウェアの脆弱性を突く攻撃に悪用される懸念。
- ・Amazonの研究者が、モデルを操作して脆弱性攻撃コードを生成させる手法を発見。
- ・高度なサイバー能力が、電力網や銀行システムなどの重要インフラ攻撃に転用されるリスク。
// Approach
Anthropicは政府との連携を深め、モデルの安全性向上とリスク評価の標準化に取り組んでいる。技術的な防御策と、組織的な監視体制の両面からアプローチしている。
- ・高度な安全性を備えた新しいセーフティ・クラシファイアの導入。
- ・24時間体制の内部監視チームの設置と、HackerOneを通じた外部研究者への公開。
- ・脱獄（Jailbreak）の深刻度を、能力、タスク数、武器化の容易さ、専門知識の4基準で評価するフレームワークの策定。
// Result
Anthropicはセキュリティ強化とモデルの再展開を同時に実現した。特定の脱獄手法に対しては、高い防御性能を示している。
- ・特定の脱獄手法に対し、99%以上のブロック率を達成。
- ・Fable 5のグローバル展開と、Mythos 5の国内・国際パートナーへのアクセス復旧。
- ・副作用として、通常のコーディング作業が誤ってブロックされる事象が発生。ブロックされたリクエストは、自動的にOpus 4.8へ転送される仕組みを構築。
Senior Engineer Insight
> セキュリティと利便性のトレードオフが極めて顕著である。強力なガードレールは、開発者のコーディング体験（DX）を著しく損なうリスクがある。特に、誤検知によるリクエストのフォールバック（Opus 4.8への転送）は、レイテンシやコストに影響する。実戦投入時は、ガードレールの強度設定と、開発フローへの影響を慎重に評価すべきだ。