動画講義の要約 Section1: 勾配消失問題について 勾配消失問題とは、逆伝搬でどんどん下位層(出力層に近づく)に行くに連れて、微分値 が、どんどん0になっていく事がある。そうなると、 による重みの更新がされず、学習が行われなくなることを言う。 活性化…

動画講義の要約 Section1: 入力層～中間層 入力層とは、一番最初に値が入力される層の事である。そこに重み(入力層の値をどれくらいの割合で使うかの設定値)を作用させて、中間層へ出力させる 重みは は、入力 i と 中間層ユニット j に関して値が決定されて…