【要約】巨大MLPの3GB肥大化を解決：3D点群CVAEにおけるSet Attention（SAB）採用と、CAD化を見据えた幾何精度検証 [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
3D点群のCVAE開発において、デコーダの表現力を向上させようとした際に、モデルサイズが爆発的に増加する問題に直面した。開発者は、中間層の拡張に伴い重みファイルが3GBに達するという事態に陥った。具体的には以下の課題が挙げられる。
- ・MLPの拡張によるパラメータ数の幾何級数的な増加。
- ・巨大なモデルによる、エッジ環境へのデプロイ困難性。
- ・MLPが各点を独立して出力するため、表面に微小なノイズが生じやすい点。
// Approach
開発者は、パラメータ効率と幾何学的表現力に優れたSet Attention Block (SAB) をデコーダに採用することで、モデルの軽量化と精度の両立を図った。具体的な手法は以下の通りである。
- ・Set Transformerをベースに、SABを6層積層したFullSABDecoderを構築。
- ・潜在変数からトークン空間へ拡張し、Self-Attentionで点集合の順不変性を担保。
- ・内部チャネル数を256に絞り、点同士の関係性学習に計算リソースを集中。
// Result
SABの導入により、計算コストの増加を許容範囲内に留めつつ、モデル容量を100MB程度に維持することに成功した。検証の結果、以下の成果が得られた。
- ・重みファイル：MLPと同等の約105MBを維持。
- ・計算コスト：100エポックあたり189秒（MLP比で約1.4倍）。
- ・幾何品質：Self-Attentionにより面の連続性が向上し、CAD化への適性が示唆された。
Senior Engineer Insight
> 実務におけるデプロイを考慮すると、本件の判断は極めて合理的である。MLPのパラメータ爆発はスケーラビリティを著しく損なう。計算コストが1.4倍程度であれば、推論時のレイテンシへの影響は限定的だ。むしろ、後工程のCAD化を見据えた「幾何学的連続性」の確保は、システム全体の価値を高める。エッジAI展開を前提とするなら、SABのような構造的アプローチが定石となる。