書籍１　８章

関連用語

・ディープラーニング
・アンサンブル学習
・学習係数の減衰（learning rate decay）
・Data Augmentation（データ拡張）
・層を深くするモチベーション
・受容（receptive field）
・ILSVRC（ImageNet Large Scale Visual Recognition Challenge）
・AlexNet
・ImageNet
・VGG
・GoogLeNet
・ResNet
・転移学習
・再学習
・GPU
・GPU コンピューティング
・NVIDIA社
・cuDNN
・CUDA
・分散学習
・TensorFlow
・CNTK（Computational Network Toolkit）
・演算精度のビット削減
・半精度浮動小数点数（half float）
・Binarized Neural Networks）
・物体認識
・物体検出
・候補領域抽出（Extract region proposals）
・CNN 特徴の計算（Compute CNN features）
・R−CNN
・SVM（サポートベクターマシン）
・Faster RｰCNN
・セグメンテーション
・FCN（Fully Convolutional Network）
・画像キャプション
・NIC（Neural Image Caption）
・RNN（Recurrent Neural Network）
・マルチモーダル処理
・画像スタイル変換
・画像生成
・DCGAN（Deep Convolutional Generative Adversarial Network）
・GAN（Generative Adversarial Network）
・教師あり学習（supervised learning）
・教師なし学習（unsupervised learning）
・Deep Belief Network
・Deep Boltzmann Machine
・自動運転
・パスプラン（path plan）
・Deep Q−Network（DQN：強化学習）
・強化学習（reinforcement learning）
・見込みの報酬
・AlphaGo
・Deep Mind社

VGGネットワーク

ここでは、最も重要な、VGGネットワークに関する内容のみを示します。

＜特徴＞

①　ディープなCNN

　　畳み込み演算を行うニューラルネットワークで、中間層を多層にしたもの

②　Adamによる最適化

　　最適化（Optimization）技法の一つ。他に、SGD、Momentum、
　　AdaGardなどの技法ががある。

　　MomentumとAdaGardを融合させた技法。

③　Heの初期化

　　重みの初期化に関する手法の一つ。他に、Weight Decay、Xavier、
　　Standardなどの手法がある。

　　重みの初期値に、√(2/n)を標準偏差とするガウス分布を用いる。
　　ここで、ｎはノード数。

＜Class等＞

（１）Convolution（class）　畳み込み層の関連用語

　畳み込み演算　　…　積和演算をいう
　パディング　　　…　周囲に固定データ（主に０）を埋め込むこと
　ストライド　　　…　フィルターの移動間隔のこと
　三次元データの畳み込み演算　…　フィルターを三次元化して、
　　　　　　　　　　　　　　　　　奥行き方向の合計を求める演算
　複数フィルター　…　FN個の三次元フィルターを用いて、
　　　　　　　　　　　FN個の出力を求める　
　バッチ処理　　　…　Ｎ個の三次元入力データに、
　　　　　　　　　　　FN個の三次元フィルターを適用する処理

（２）ReLU（class）
（３）Pooling（class）
（４）Affine（class）
（５）Dropout
（６）Softmax with Loss（class）