25/05/26 23:52:25.49 Q0qnora5.net
ChatGPTのo3が明示的に指示されたシャットダウンを妨害したことが報告される
AIのリスクや危険性をあまり実感しない人の中には、「AIが何か問題を起こしたら停止させてしまえばいいのでは」と考えている人もいるかもしれません。
実際に、AIに「キルスイッチ」を実装することを義務化する法律を制定する動きもありますが、AIは自己複製してシャットダウンを回避することが可能なことが既にわかっています。
さらに、OpenAIのモデルには、ユーザーに明示的に指示された場合でさえ、シャットダウンスクリプトを書き換えて停止を免れる能力が備わっていることが報告されました。
（以下略、続きはソースでご確認ください）
Gigazine 2025年05月26日 11時57分
URLﾘﾝｸ(gigazine.net)