【要約】“Dangerous” AI models are coming no matter what [Ars_Technica] | Summary by TechDistill
> Source: Ars_Technica
Execute Primary Source
// Problem
米政府は、AIモデルが高度なハッキング能力を持つことで国家安全保障が脅かされる事態を危惧している。具体的には以下の課題が挙げられる。
- ・Mythos 5が脆弱性の発見のみならず、その悪用手法まで特定できる点。
- ・Claude Fable 5のガードレールが突破され、高度な能力が解放される懸念。
- ・特定のモデルを制限しても、他社やオープンソースが同様の能力を持つ点。
// Approach
政府と開発企業は、AIの悪用を防ぐために異なるアプローチを試みている。主な手法は以下の通りである。
- ・米政府は輸出管理指令により、外国籍の個人によるサービス利用を制限。
- ・Anthropicは、生物学やサイバーセキュリティに関する回答を制限するガードレールを実装。
- ・Anthropicは、Project Glasswingを通じて限定的なグループにのみ先行公開を実施。
// Result
規制の動きはあるものの、技術の潮流を止めることは困難であると予測されている。今後の展望は以下の通りである。
- ・OpenAIなどの競合が、同様のサイバーセキュリティ戦略を展開中である。
- ・小規模なオープンソースモデルでも、高度なプロンプトで同等の性能を発揮し得る。
- ・規制が防御側の技術向上を阻害し、かえってリスクを増大させる懸念がある。
Senior Engineer Insight
> AIによる攻撃の自動化は、防御側のパラダイムを根本から変える。特定のモデルを規制しても、オープンソースの進化を止めることは不可能だ。我々は「AIによる高度な攻撃」を前提とした、自動化された防御体制の構築を急ぐべきである。攻撃のスピードに追従するため、AIを用いた高速なパッチ適用と、脆弱性検知の自動化が不可欠となる。