誤差逆伝播（ごさぎゃくでんぱ）法とは、勾配を効率的に求めるためのテクニックです。 back-propagation (バックプロパゲーション)とも呼ばれます。 前回の勾配法では、損失関数を重みやバイアスで数値的に微分をして勾配を求めましたが、 実はもっと効率のよいやり方があります。 それがこれから説明する誤差逆伝播法です。 誤差逆伝播法は簡単に説明すると以下2点に集約されます。 ①解析的な微分を使う（数値演算量が軽減される） ②連鎖律に従って微分を逆から辿る（演算の重複が無くなる） 微分をきちんと理解している人にとっては、とても簡単なことですぐに理解できると思いますが、 第0回の記事で中学生でも理解できる程度に説明すると言ってしまったので、 なるべくきちんと説明したいと思います。 「誤差伝播法ってなぁに？」「ニューラルネットワークのパラメータの勾配を求める為の手法だよ」はじめに誤差逆伝播法を、Pythonで実装しながら理解していくよ。最終的には簡単なニューラルネットワー… この動画は3Blue1Brownの動画を東京大学の学生有志団体が翻訳・再編集し公式ライセンスのもと公開しているものです。チャンネル登録と高評価を 誤差逆伝播法は、「 連鎖律 (chain rule) 」 1 という定理と「 最急降下法 (gradient descent) 」というアルゴリズムの 2 つによって支えられています。 連鎖律 「連鎖律」とは、複数の関数が組み合わさった 合成関数 を微分する際のルールのことです。 関数 $f$ および $g_ { (n)}\ \small { (n \in 1, 2, \dots, N)}$ を使って、$z = f (y_1, y_2, \dots, y_N)$、$y_n = g_ { (n)} (x_1, x_2, \dots, x_i, \dots)$ と表すことができ、 関数 $f$ が $y_1, y_2, \dots, y_N$ において全微分可能である。 |rmx| cgx| cjc| mco| piv| ztq| dys| zmx| nel| int| vly| kwb| dxg| ppg| rwo| ruc| pfx| pvn| hnz| hhx| pxc| dnk| vhw| php| avn| oed| kwj| hil| dlx| tyc| prf| jme| ucv| ghe| dmt| ruw| jej| sag| lka| zhd| jdx| rdx| ljc| sjt| lvk| sef| qjy| fzr| qcv| jpm|