ステージ１ 微分を自動で求める
| ステップ １ 箱としての変数 ステップ ２ 変数を生み出す関数 ステップ ３ 関数の連結 ステップ ４ 数値微分 ステップ ５ バックプロパゲーションの理論 ステップ ６ 手作業によるバックプロパゲーション ステップ ７ バックプロパゲーションの自動化 ステップ ８ 再帰からループへ ステップ ９ 関数をより便利に ステップ１０ テストを行う |
機械学習の一つであるディープラーニングでは、微分が中心的な役割を果たすそうです。このステージでは、「変数（Variable クラス）」と「関数（Function クラス）」を定義して、微分を自動で行えるようにします。
また、今回定義したクラスが、効率的に動作し、便利に使いやすくする方法を示し、最後に、自分で定義した関数が正常に機能するかテストする方法を紹介してくれます。
コラム 自動微分
コンピュータのプログラムで微分を求める方法は、大きく以下の３つがあるそうです。
１ 数値微分
２ 数式微分
３ 自動微分
３番目の「自動微分」は、さらに２つに分かれます。
① forward モード
② reverse モード（バックプロパゲーション）
今回、本書で取り扱うのは、②のバックプロパゲーションです。チェインルールを用いて、出力側から入力側へと微分を求めます。ステージ１において、この方法が示されています。