15/08/27 11:39:40.58 DMagLIob.net
>>602
どうやら自分の想像より弱いAIよりの話だったように見える
まあ厳密に区別できるものではないのか
端的にいえば強いAIにどうやってロボット三原則を実装するのか？
進化した強いAIをリバースエンジニアリングして思考中枢に三原則を組み込むことは無理そうだから、
少なくとも遺伝的アルゴリズムみたいな「勝手に発達・進化してくれ」系のアプローチでは無理だろう
三原則を後付けする場合、弱いAIによる物理的拘束で実装することしかできないように思える
アームが人を殴り飛ばしそうになったら停止するとかのね
でも、そうすると危害を加えないだけで命令を聞くとは限らない
だから、強いAIは一代目（人間が手動で開発した）時点でその中に三原則が組み込まれている必要がある
でも、人間の命令を聞くという抽象的な思考を行うためには強いAIが必要になるので矛盾？
三原則が中枢に組み込まれた状態の強いAIを開発することは、
特定の記憶がインプットされた脳を作るのと一緒で、まっさらな脳を作ることよりはるかに難しいはず