11/12/01 11:49:11.51 PVUcp1Mw
>>633
強いAIを制御できない場合にはその結果と類似の未来が待っているよな。
故に人工知能は必然として弱いAIである必要がある。
制御する為の絶対ルールはAIの知識による判断(解釈)によっても別解釈(主体的)されるような
過剰解釈するような場面に出会えば常に保留するか簡易に予測可能なテンプレート
動作をする必要がある。
行動が予測できない(=制御できない)ものは判断の蓄積による自己改変を止めるのは
先天的条件(=ロボット三原則など)による技術では不可能といえる。
後天的な条件が必要であるが常に変る状況を全て記述できるかという問題になるだろう。
実装が難しいからといって自動学習で全てを得るような物で描く未来は自動学習で
得た性質に似た機械的反応(生きた学習相手ではない場合)になると思われる。
現在稼動中のiPhone4sの人工知能が既にネットから知識を集め自己学習をしているが
状況が間違っているなら間違った学習を止めるのは無理ということ。
使われる多くに間違った使い方があれば、応答する結果も間違った使い方が
反映されるのは必然といえる。(制御不能である)
そのただしい学習相手となる教師を用意するのは学習を０から教えなおすことや
データベースを０から作り直すのと何の違いも無い作業量になると思う。
結論として人工知能は人工無脳的な使用者が教えたことだけを学ぶタイプで
何の問題もないはず。全ての知識を無作為に与えて学習するのは将来を制御できない。