15/08/24 21:10:14.88 ac6z6045.net
ここにいる人たちのうちどれだけエンジニアがいるかわからんけど
ディープラーニングを人伝いに聞いて議論するより
URLﾘﾝｸ(nnadl-ja.github.io) とか
URLﾘﾝｸ(www.coursera.org)
を読んで実際にNN(ニューラルネットワーク)を実装してみたほうが理解が早いと思う。
自分が読んで実際にNN実装までしてみて感じたことは、
脳の構造は結構単純だということ。
実装もそこまで難しくなく、文字認識程度なら簡単にできる。
じゃあ何でgoogleとかがそんなに苦労しているかというと、
学習させる部分の処理が重いってこと
脳細胞同士の接続について各ニューロンがどのニューロンからの入力を重要と判断して、どれを無視するか。
その決定を学習によって行う。
自分以外のニューロンとの信頼度をすべてパラメータとして持ち、
学習プロセスによってその信頼度を各々調整するんだけど、ニューロンの数が増えると
N^2で調整するパラメータが増えることが分かるよね。
人間の脳も学習はそれなりに大変だけど、ドーパミンとか脳内麻薬の働きを上手く使って瞬間的にニューロンの信頼度の調整を行っているから、
コンピュータより早い。論理演算しかできない今のコンピュータの限界だね。