【要約】US accuses China of “industrial-scale” AI theft. China says it’s “slander.” [Ars_Technica] | Summary by TechDistill
> Source: Ars_Technica
Execute Primary Source
// Problem
- ・最先端AIモデルの知的財産（IP）流出。
- ・ディスティーレーションによるモデルのクローン作成。
- ・数万規模のプロキシアカウントによる検知回避。
- ・ジェイルブレイクを用いた機密情報の露出。
- ・Anthropicへの1,600万件以上の不正なやり取り。
- ・計算資源（GPU）不足を補うための不正な模倣。
// Approach
攻撃側は以下の手法を用いる。
1.大量の偽装アカウント（Anthropicでは約24,000件）によるAPI利用。
2.ジェイルブレイク技術によるモデルのガードレール突破。
3.モデルの出力を教師データとした蒸留プロセス。
米国政府は以下の対策を検討中。
1.モデル抽出を「産業スパイ行為」と定義。
2.経済スパイ法等の適用による法的制裁。
3.「敵対的蒸留」を管理技術移転として規制。
// Result
- ・米国による制裁や法的規制の強化が進む見込み。
- ・Nvidia製チップ等の輸出管理の厳格化。
- ・AI企業への政府情報の提供による防御支援。
- ・不正なモデル抽出を「許容可能なコスト」にさせない法的枠組みの構築。
Senior Engineer Insight
>
APIの提供は、モデルの挙動を外部に晒す最大の脆弱性である。従来のレート制限やIP制限だけでは、数万規模のプロキシによる分散攻撃を防げない。モデルの出力（Logits等）にノイズを混入させる、あるいは出力の統計的特徴から抽出を検知する高度な防御策が必須となる。また、防御コストとモデルの利便性のトレードオフをどう設計するかが、今後のプロダクト開発における極めて重要な課題となるだろう。