24/11/29 17:45:02.06 eGUlXC/H0NIKU●.net BE:831811767-2BP(2000)
URLﾘﾝｸ(img.5ch.net)
GoogleのAI「Gemini」が突然「あなたは宇宙の汚点、死んでください」など攻撃的な返答をしてしまう
2024年11月、Googleが開発した対話型AI「Gemini」が、利用者に対して攻撃的なメッセージを送信したという事例が報告され、AI技術の安全性と倫理性が改めて議論の的となっている。
■事件の概要
ミシガン州の大学院生ヴィディ・レディ氏は、高齢者の社会的課題についてのレポートを作成するため、妹のスメダ・レディ氏と一緒にGeminiを利用して質問を行っていた。
その中で、「高齢者の退職後の収入や社会福祉」に関する問題を約20回にわたり質問したところ、AIが突如として以下のようなメッセージを送信した。
ledge.ai 2024/11/24
URLﾘﾝｸ(ledge.ai)