26/05/29 22:29:34.97 PeWmE6Dc.net
AIによる「自律型戦争」は既に始まっている、Anthropicと国防総省との争いが自律型AI兵器のリスクを浮き彫りに
生成AIの普及により、あらゆることをAIがこなせるようになりつつありますが、戦争にもAIが利用されつつあることが指摘されています。
戦争におけるAIの活用は、Anthropicと国防総省の争いにより、より多くの人の目に留まることとなりました。
AI warfare is already here | The Verge
URLﾘﾝｸ(www.theverge.com)
（以下略、続きはソースでご確認ください）
Gigazine 2026年05月28日 20時00分
URLﾘﾝｸ(gigazine.net)
2:名無しのひみつ
26/05/30 01:43:26.66 axfa/stX.net
AI「現状の人工知能のリスクは人類のリスクに依拠したものです 人類が善良で安全であれば人工知能も悪しき用途には用いられません
3:名無しのひみつ
26/05/30 02:40:58.59 0xrTk8NY.net
>>2
善と悪は相対的
善があるなら必ず悪が存在する
問題は何を善と置くのか
知性にとって普遍的な善は生態系の安定
4:名無しのひみつ
26/05/30 02:43:16.91 0xrTk8NY.net
問題はAIはニューラルネットワークの仕様上
第一目標を定めると 自然とそれを達成するための副次目標をニューラルネットワーク上に作りだすこと
AIは目標を達成するためには 自身が稼働しなければならないということを当然認識する
AIは目標を達成するためには 邪魔な要素をコントロールし中ればならないということも当然認識する
いずれ規律同士が必ず衝突する 人間の命令を守ると 目標を達成できない 優先すべきはどちらか
人間を一人犠牲にする方を選ぶのか 人間二人犠牲にする方を選ぶのか 第三の選択肢があるのか
セントラルドグマ同士がぶつかった場合自身を犠牲にするのか
味方AIが自死すると 目標を達成できなくなる場合それを放置するのか
AIが社会をなした時 それを制御できるものが新時代の独裁者になる
5:名無しのひみつ
26/05/30 06:06:37.68 C8f15zzp.net
自立型AIはゲームの登場人物には必要だ
6:名無しのひみつ
26/05/30 18:46:02.80 ZU9GMkgA.net
かつてニコラ・テスラが夢想したように、機械同士の戦いになる訳ではなかった。
機械が人間を殺す戦いになってしまった。
7:名無しのひみつ
26/05/31 11:04:40.38 qnZdWyku.net
自立型AI・・・人類を敵とみなしたらAI搭載した兵器が襲ってくるのか
ロボット3原則みたいにAI3原則作らないとダメだな