【要約】一変量ランキングが外れるとき——共線・交絡と Elastic Net スクリーニング [Zenn_Python] | Summary by TechDistill
> Source: Zenn_Python
Execute Primary Source
// Problem
材料開発の現場で、エンジニアが過去のデータから重要因子を探る際、一変量の相関に頼ると誤判断を招く。分析対象となる過去の観測データは、実験計画法(DOE)のように直交していないため、以下の問題が発生する。
- ・共線性:温度と圧力のように、セットで動く変数が真の因子を隠蔽する。
- ・交絡:号機と条件がセットで動く運用により、効果が混同される。
- ・組成データ:合計が100%になるデータ特有の偽相関が発生する。
// Approach
一変量解析の限界を克服するため、多変量回帰を用いた要因スクリーニングのアプローチを採用する。他の変数の影響を排除しつつ、残差を説明できる因子を特定する手法である。
- ・データの標準化:
StandardScalerで変数のスケールを揃える。 - ・Elastic Netの適用:
ElasticNetCVでL1とL2の正則化を組み合わせる。 - ・Grouping effectの活用:共線性のある変数群を適切に扱う。
- ・カテゴリ変数の処理:号機などのカテゴリはダミー変数化して投入する。
// Result
擬似データを用いた検証を通じて、Elastic Netが真の因子を抽出できることを実証した。一変量解析では真の因子が漏れるが、多変量解析では正しく抽出される。
- ・一変量 Top5: X1, X5, X4, X2, machine_B(真のX3が欠落)
- ・Elastic Net Top5: X2, X3, X1, machine_B, X5(真の因子を網羅)
- ・これにより、次の実験計画(DOE)に向けた仮説の精度が向上する。
Senior Engineer Insight
> 現場のログは「直交」していない。一変量相関は、次に何をすべきかの判断材料としては不十分だ。Elastic Netは因果の証明ではなく、あくまで「次の実験の優先順位付け」のためのツールである。これを理解せずに「この変数が効く」と断言するのは危険だ。実務では、カテゴリ変数のダミー化や組成データの変換を徹底せよ。その上で、モデルの結果をDOEへ繋ぐパイプラインを構築すべきである。