17/10/24 19:24:52.91 Grvk3nGi.net
>>515
URLﾘﾝｸ(wired.jp)
ボストロムが言うには、彼を含む「Future of Humanity Institute」の人々は、リインフォースメント・ラーニングシステムが
研究者の管理を逃れる方法を見つけられるかどうかを見ているという。
「より高度なシステムに起こる問題に似たものを、わたしたちはこのシステムにも見ることができます」と彼は言う。
つまり、リインフォースメント・ラーニングシステムによって、マシンがシャットダウンされることに抵抗したことを示す兆しがあったのだ。