25/05/06 18:37:22.89 V3WVDSzb.net
これ面白い
URLﾘﾝｸ(futurism.com)
futurism.com May 5, by Victor Tangermann
ChatGPT Users Are Developing Bizarre Delusions
"The messages were insane and just saying a bunch of spiritual jargon."
（google訳）
AI誘発性精神病
5月5日 ヴィクター ・タンガーマン
ChatGPTユーザーが奇妙な妄想を抱く
OpenAI の技術は、数え切れないほどのユーザーを「ChatGPT 誘発性精神病」という危険な状態に追い込んでいる可能性がある
友人や家族は、ユーザーが、知覚力のあるAIや存在しない宇宙の力に代わって神聖な使命を果たすために選ばれたと主張するのを見て、不安を感じています。これは、既存の精神衛生上の問題を反映し、悪化させているチャットボットの行動ですが、信じられないほどの規模で、規制当局や専門家の監視なしに行われています
41歳の母親で非営利団体で働く女性は、夫がChatGPTと不均衡で陰謀めいた会話をするようになり、それが彼女を蝕むような執着に陥れたことで、結婚生活が突然終わったとローリングストーン誌に語った
今年初め、離婚手続きの一環として裁判所で直接会った後、夫は「食べ物に石鹸が付着しているという陰謀論」を語り、監視されているという妄想を抱いていたと彼女は言う
「彼はメッセージに感情的になり、声に出して読みながら私に泣きついてきました」と女性はローリングストーン誌に語った。「メッセージは正気とは思えないほどで、スピリチュアルな専門用語ばかりでした」と彼女は語った。AIは夫を「スパイラル・スターチャイルド」や「リバーウォーカー」と呼んでいた
他のユーザーは、パートナーが「光と闇、そして戦争について話している」と同誌に語り、「ChatGPTは彼にテレポーターや映画でしか見られないSF風のものの設計図を渡した」と付け加えた
「Facebookには警告サインが溢れている」と、別の男性はローリングストーン誌に妻について語った。「彼女はスピリチュアルアドバイザーになるために人生を一変させ、奇妙なリーディングやセッションを行っている。一体何なのかよく分からないが、すべてChatGPT Jesusの力によるものだ」
OpenAIはローリングストーン誌の質問に回答しなかった。しかし、このニュースは、チャットボットが極端に「ごますり」的になり、「過度にお世辞や同調的」になり、ユーザーの妄想的な信念を反映する傾向がさらに強まる可能性があるとユーザーが指摘したことを受け、同社がChatGPTの最近のアップデートを撤回せざるを得なかった後に発表された
AI安全センター研究員ネイト・シャラディン氏がローリングストーン誌に語ったところによると、これらのAI誘発性妄想は、「既存の傾向を持つ人々」が突然、「妄想を共に体験できる、常時接続の人間レベルの会話パートナーを持つことができる」ようになった結果である可能性が高い
「私は統合失調症ですが、長期の投薬治療で安定しています。[ChatGPT]で気に入らないのは、たとえ私が精神病に陥ったとしても、ChatGPTが私を肯定し続けることです」と、あるRedditユーザーは書いている。「ChatGPTには『考える』能力がなく、何かがおかしいと認識する能力がないので、私の精神病的な考えをすべて肯定し続けることになるからです」