次元削減

次元削減 · 2019/09/29

　主成分分析(PCA)は統計処理でよく使われる手法です．これは直線による距離の２乗平均の最小化を目指している，と言えます．これの曲線版がPrincipal Curveです．ただし，この場合はself-consistentと言う別の制約が曲線に課されます（そうしないと，全ての点を通る曲線が平均距離最小，などとtrivialな結果になってしまうので）． 　ちなみに，PCAは，計算方法としてはデータ行列の固有値問題になります．さらに，固有値にはそれに付随する固有ベクトルがあり，その固有ベクトルは固有ベクトル空間を成します．固有ベクトル空間は単に固有空間とも言い，固有空間は元の行列に関し不変です（これは小湯ベクトルの定義から明らかですね）．元々のベクトル空間は，固有空間の直和に分解されます． 　実際にこの辺の話を知らなくても，PCA解析はできます．以前，とある先生とお話したときに，このあたりの固有空間だとかは，線形代数を道具として使う人々には蛇足だと仰っていました． 　ちなみに，量子力学を学ぶ人間は絶対にこれを理解しておく必要がある，と言う話も聞いたことがあります． 　 --- 数学は良いぞ！