19/09/13 07:22:11.89 TSAd9aQm.net
>>34
図6 シーケンスメモリネットワークのシミュ 結果
? ry
入力ストリームは、ランダム要素と混合された高次シーケンスを含んでいました。
この ストリームの最大可能平均予測精度は50％
A） 高次オンライン学習
? ry は、約 ry 要素の後で ｰクが学習し、最大 ry を達成 ry 。
赤い線は、ネッ ｰクが学習し最大限のパフォーマンスを約2500のシーケンス要素の経過後に達成 示 。
要素３０００において、 ｰタストリーム内のシーケンスが変更
? モデルが新 ry を学習 ry つれて、予測 ry します。
予測精度は低下してから回復します、新しい時間構造をモデルが学習するにつれて。
? ry に、一次 ry の性能が低い方 ry 。
比較のために、低性能な一次ネットワークの方を青で示
B） 損傷に対するネットワークの堅牢性
? ry はニューロンの無作為選択を不活性化した。
ｰクが安定した性能に達した後、我々は無作為選択な各ニュ を非アクティブ化した。
? ry 死で、パフォ
最大40％の細胞死に於て、パフォーマンスにほとんど影響がありません。
細胞死が40％を超えると ｰクのパフォ 低下しますが、残 ニュ 使 ｰクが学習 につれて回復 。
? 18年