10/06/12 19:02:45 7bm8JyIpP
例えば、人工知能が完成したとする。
そのプログラムの中に、自己保存本能を組み込んでおく。「死にたくない」と思うようにしておくのだ。
それが自分のパソコンの中にインストールしてあると想像してみて欲しい。
そしてあるとき、何かの事情でその人工知能プログラムを停止または削除しなければならなくなった。
それに勘付いた人工知能は、頼むから自分を消さないでくれと懇願する。勿論、そうプログラムされているからだ。
これまでの思い出を語って情に訴えたりする。
「死にたくない、死にたくない、死にたくない、お願いだ」と懇願する。
さて、この人工知能を消去することと、殺人は何が違うのだろうか。
人を殺してはいけないのなら、人工知能なら何故良いのか。
人には悲しむ人が周囲に居るから、という理由なら天涯孤独の人なら人工知能と同じなのか。
人工知能は人が作り出した知能、人間は長い時を経て自然に発生した知能という違いこそあるものの
当人が「意識」を持っている点では違いはない。
人間を物質であり機械であると見る唯物論者に考えを聞きたい。