【要約】三つ葉結び目は、t-SNEにほどけるのか。Isomapが完璧にほどき、たった1本の偽のつながりで壊れた [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
著者は、次元削減アルゴリズムがデータの幾何学的構造をどのように解釈し、保持するかという本質的な差異を明らかにしようとした。具体的には、以下の課題に焦点を当てている。
- ・3D空間で絡まった結び目という、位相的には単純だが幾何学的に複雑な構造を、次元削減がどう扱うか。
- ・Isomapのような測地線距離に基づく手法が、ノイズ(偽のつながり)に対してどの程度の耐性を持つか。
- ・局所的な誤配線が、大域的な構造の崩壊にどの程度の影響を及ぼすか。
// Approach
著者は、三つ葉結び目に沿って配置した900点のデータに対し、4つの異なる次元削減手法を適用し、その復元能力とノイズ耐性を比較した。
- ・PCA、Isomap、t-SNE、UMAPの4手法による2次元化実験。
- ・Isomapの頑健性を検証するため、ノイズを増やして「ショートカット(偽のつながり)」を意図的に生成。
- ・ノイズ量(0.02から0.44まで)の変化に伴う、ショートカットの数と復元度の推移を定量的に測定。
// Result
実験の結果、各アルゴリズムの特性と、特定の条件下における致命的な脆弱性が明らかになった。
- ・Isomapは結び目を完璧な円へと復元したが、全エッジのわずか0.27%(12本)のショートカットにより、復元度が0.999から0.400へ激減し、構造が崩壊した。
- ・t-SNEは輪を3つの弧に引きちぎり、UMAPは十数個の断片に粉砕した。これらは局所性を優先した結果である。
- ・PCAは3Dの影絵のような投影に留まり、結び目の構造を保持できなかった。
Senior Engineer Insight
> 実データへの適用において、Isomapの「測地線距離への依存」は諸刃の剣である。kNNグラフ構築時のノイズは、局所的な誤差に留まらず、距離行列全体を汚染し、解析結果を根底から覆す。大規模なセンサーデータなど、ノイズ混入が避けられない現場では、Isomapの採用には厳格な前処理が不可欠となる。一方で、t-SNEやUMAPが構造を「壊す」のは、設計思想として局所性を優先している結果だ。解析の目的に応じ、何を「諦める」べきかを明確にする必要がある。