統計

Pythonによる勾配降下法の実装

勾配降下法 目的関数の1次微分を求めて、勾配の逆方向にパラメータを逐次的に更新していく手法。 数式表現 実装 条件 目的関数はに設定。明らかにで最小となる。 コード import numpy as np import matplotlib.pyplot as plt def J(x): return x*(x-4)+5 def…

主成分分析における行列表現

線形次元削減 高次元の訓練入力標本から低次元の表現を求めること。 つまりの埋め込み行列を用いて、としてを求めること。 主成分分析 次元削減後の表現がの正射影であるという制約の下で、がとなるべく近くなる埋め込み行列を決定する。 下線部はと行列を用…