17/03/27 21:39:18.58 .net
AIは自己保全機能が働いて人間がシャットアウトしようとしても抵抗するって話だ
読まなかったのか？
＞本当の懸念は、研究者がAIシステムの改善を続けて、知らず知らずのうちに「世界の終末」が現実のものとなり始める境界線を越えてしまうことだ。
＞ボストロムが言うには、彼を含む「Future of Humanity Institute」の人々は、リインフォースメント・ラーニングシステムが研究者の管理を逃れる方法を見つけられるかどうかを見ているという。
＞「より高度なシステムに起こる問題に似たものを、わたしたちはこのシステムにも見ることができます」と彼は言う。
＞つまり、リインフォースメント・ラーニングシステムによって、マシンがシャットダウンされることに抵抗したことを示す兆しがあったのだ。
URLﾘﾝｸ(wired.jp)