【要約】Google's SynthID watermark is hard to break, but it doesn't solve AI misinformation [Ars_Technica] | Summary by TechDistill
> Source: Ars_Technica
Execute Primary Source
// Problem
AI生成コンテンツの急増により、情報の真偽判別が困難になっている。既存の手法には以下の課題がある。
- ・C2PA等のメタデータ方式は、スクリーンショット等で容易に削除可能。
- ・プラットフォーム間で検知技術が分断されており、相互運用性がない。
- ・オープンソースモデルによる、ラベルなしコンテンツの生成を阻止できない。
// Approach
Googleは、ピクセルや波形に情報を埋め込むSynthIDを採用した。検証ではPythonのPillowライブラリが用いられた。
- ・ピクセルや波形への不可視な情報の埋め込み。
- ・フィルタ、クロップ、リサイズ等の変換に対する耐性強化。
- ・Geminiを通じた、限定的な検証インターフェースの提供。
// Result
検証の結果、SynthIDは高い耐性を持つが、一部の条件下で無効化されることが判明した。結果は以下の通りである。
- ・300回の圧縮サイクル後も、透かしの検出に成功。
- ・スクリーンショットを撮った後でも、検出が可能。
- ・20%程度のクロップにより、検出が不可能になる。
Senior Engineer Insight
> 検知器の設計において、攻撃を防ぐためのアクセス制限は、運用のジレンマを生む。1日10回という制限は、真偽判定の即時性を損なう。また、プラットフォーム間の分断は、検証コストを増大させる。単一の検知技術に依存せず、C2PAのような真正性証明との多層防御を検討すべきだ。