【要約】Roblox must make changes after failing to block adults creeping on kids [Ars_Technica] | Summary by TechDistill
> Source: Ars_Technica
Execute Primary Source
// Problem
オーストラリアのeSafety局が、Robloxの子供保護機能に重大な欠陥があることを調査で明らかにした。成人が子供に不適切に接触できる状態が放置されている。
- ・プロフィールや接続リストが誰にでも公開されている。
- ・成人が子供に接続リクエストを送れるが、親への通知がない。
- ・ゲーム外のフォーラムで、親の同意なく子供にコメントが可能である。
- ・年齢推定の誤りにより、子供が大人向けコンテンツに接触するリスクがある。
// Approach
Robloxは規制当局との合意に基づき、プラットフォームの安全性向上と透明性の確保に取り組む。
- ・アカウント設定をデフォルトで非公開にし、子供の情報を保護する。
- ・自社開発のAIによる顔認証年齢推定システムを継続的に改善する。
- ・MLレイヤーを用い、ユーザーの行動と推定年齢の整合性を評価する。
- ・システムの信頼性を担保するため、第三者機関による監査を導入する。
// Result
Robloxは今後3ヶ月以内に、成人が子供に接触することを防ぐための具体的な措置を導入する。
- ・親の同意なしに成人が子供に連絡を取ることを防止する。
- ・AIによる年齢推定は、既に3.38億件の記録を処理している。
- ・大人に対する年齢推定の精度は、人間との一致率が80%を超えている。
- ・第三者監査により、規制当局による継続的な監視が可能となる。
Senior Engineer Insight
> 大規模プラットフォームでは、安全性は機能実装だけでなく、規制への適合性と監査耐性が不可欠だ。RobloxのMLを用いた年齢推定は、行動ログをフィードバックに使う点で高度だ。しかし、境界値付近の精度維持が運用上の課題となる。また、生体データの保持期間など、プライバシーと検知精度のトレードオフをどう設計するかが、法規制下でのエンジニアリングの核心である。