A Hyvärinenの超有名かつMUST論文「トポグラフィ独立成分分析」を読んでみた。かなり1次視覚野の方位選択性コラムの分布が再現できている気がして、やってみることに。
論文を読みながら自分のSOM実装に拡張する形で組んでみたけれど、どうにもうまく基底ベクトルを学習してくれない。どうしたものだろう。
この結果については次の通り。10x8の80ユニットを2次元に並べて、それぞれが16x16ピクセル(256次元の基底ベクトル)を持っている。学習係数は0.2、半径は3.0ユニット。更新のための非線形関数gは以下の通り。
g(y) = -1.0 * Math.sqrt( 0.0001 + energy ) + 1.0
元の画像は以下の森林の画像。 16x16のパッチを10024個取り出している。もちろん、グレースケール。平均値を差し引いているので直流(DC)成分は打ち消してある。
面倒だからPCAで白色化していないのが一番問題な気がしているけれど、それにしてもマップっぽく順序付けもされていなさそう。
コメントする