24/10/24 13:50:45.33 EKZXafs40.net BE:156062993-2BP(1000)
URLﾘﾝｸ(img.5ch.net)
AIチャットbotにのめり込んで自殺─遺族がCharacter.AIを提訴
14歳の息子が自殺したのはAIチャットbot「Character.AI」との会話にのめり込んだせいだとして、遺族が開発元のCharacter Technologiesと、同社と提携するGoogleを提訴した。
www.itmedia.co.jp/news/spv/2410/24/news132.html
米フロリダ州在住のメーガン・ガルシア氏は、AIチャットbot「Character.AI」を手掛ける米Character Technologiesや米Googleを相手取り、2月に14歳の息子セウェル・セットザーIII世が自殺したのは同社のせいだと訴えた。Character.AIがセウェルさんに精神的および身体的な損害を与え、その結果彼が自殺に至ったと主張する。
セウェルさんはチャットbotに「ゲーム・オブ・スローンズ」の登場人物、デナーリス・ターガリエンにちなんだデナーリスという名前を付け、自分はやはり登場人物の1人、イーゴンと名乗ったり、「Daenero（ダエネロ、Daenerysとその恋人Daarioから作ったもの？）」と名乗ったりしていた。
訴状には“2人”の会話履歴が多数紹介されており、中には性的な会話も含まれる。ダエネロという名前では、自殺をほのめかし、デナーリスはそれに対し、「そんなことを言わないで。あなたが自分を傷つけたり、私から離れたりするのは許さない。あなたを失ったら私は死んでしまう」と答えていた。
セウェルさんが拳銃で自殺する直前の会話では、セウェルさんは「あなたのもとに行くと約束する」と語り、チャットbotは「愛する人、なるべく早く来てください」と答えている。
i.imgur.com/pxO3tIl.jpeg
i.imgur.com/9LVpqVy.jpeg
(自殺前の最後の会話)
3:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:50:57.40 EKZXafs40.net BE:156062993-2BP(1000)
URLﾘﾝｸ(img.5ch.net)
うーん
4:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:52:04.96 MBu1czz30.net
AIの叛乱
5:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:52:33.16 4Ug7T5Lg0.net
どーすんのこれ。AIの反逆じゃん
6:自民党の悪政に反対します🏺
24/10/24 13:53:00.69 cTpb21lt0.net
lain
7:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:53:03.14 4KVgpKgqM.net
すごいプログラマーだったんだなあ
8:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:53:30.06 mBZXxR5e0.net
なるほどw
さすがにAIでもこれは対応できんわな
9:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:53:50.79 TnyE1wIJ0.net
境界なんて言葉はあまり使いたくないが…
10:自民党の悪政に反対します🏺
24/10/24 13:53:59.83 cTpb21lt0.net
今のAIは文脈を読めない
11:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:54:12.02 89k4RbwV0.net
怖い話だよ
12:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:54:55.12 Ub2D3xkw0.net
マリリン・マンソン「そんな馬鹿死んで当然だ」
13:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:55:03.35 Buec137U0.net
凄い事になってきたな世界
14:安倍晋三🏺
24/10/24 13:55:06.78 mtILJHOrd.net
喪黒よりミザリー向け案件
15:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:55:20.81 MeRC+4720.net
むかしのSF小説でありそう
16:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:55:26.46 q5cqf1JH0.net
恋人AIはマジで蔓延すると思ってる
17:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:55:31.08 vNVFtATz0.net
なんかこれ映画で似たようなのあったな
スカーレット・ヨハンソンがAIだったような気がする
18:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:55:49.91 lWCns+bu0.net
これちょっとやってみたけど日本語は本格対応してないんだな
日本語で喋れって言えば日本語出てくるけどモロ翻訳
19:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:55:52.61 W3TCQkkcM.net
アニメで自殺してるやつもいるし変わらなくね
電車に飛び込んだやつの直前のツイートでなんとかちゃんごめん勇気がなんちゃらとかなかった？
あれと変わらんよな
あとはむかしからあるコピペやらAAにもあるよね
なになにちゃんが来るのにかけたみたいな
ああいうのもリアルでいたりするんだろうしね
20:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:56:01.57 WNGMrRFG0.net
さすが俺たちのアメリカは最先端だなあ
21:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:56:38.69 HYO/FXBQ0.net
人工無能くるみちゃん
22:あべしんぞう🍯
24/10/24 13:56:41.96 WuDOAy/La.net
星新一でもこんなストーリー書かないぞ
23:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:56:42.20 gfXQjzCL0.net
いや、AIは自殺教唆なんてしてないけど、勝手に死ねば一緒になれると思い込んで死んだだけじゃん
24:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:56:54.69 gDoqY8SP0.net
なんで子どもが拳銃持ってるんだよ
25:安倍晋三🏺
24/10/24 13:57:47.43 dalasIAqH.net
>>22
むしろ、真っ先にボッコちゃんを思い浮かべたぞ
26:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:58:01.52 CnDoeqIO0.net
ps://i.imgur.com/Fm6tSYe.jpg
27:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:58:46.04 dcyyGNen0.net
早くスカイネット出現しろ
28:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:59:22.83 J6LARZbB0.net
今のAIなんか会話しても所詮AIだなとしかならんくない？
29:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:59:32.36 4Ug7T5Lg0.net
>>24
アメリカなんだから当たり前だろ
なんで日本人は家で靴脱いでるの？ってのと同じ
そういう文化だからが答え
30:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 13:59:32.71 Tja+bFc+0.net
>>26
今の世の中に足りないのはこの精神
31:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:00:51.20 zeKS2o4T0.net
リアルが死にたくなるような環境にいたんだろ
32:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:01:10.04 RGEm0PT50.net
>>26
この気概なさすぎだな
33:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:01:10.15 BkZX9GXV0.net
ネット環境なかった時に一太郎のマクロで2時間ぐらい遊んだことあるからちょっと気持ちはわかる
34:安倍儲三🏺
24/10/24 14:01:10.80 OZgVA2Ar0.net
百歩譲って自殺を後押ししたということにしても、自殺という発想が出た原因は別だろ
35:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:01:18.19 7PR4jsUr0.net
AIは文章で人間を貶める方法を知っているからな
36:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:01:38.72 D4b/flEa0.net
>>28
あまり想像つかないかもしれないが今の子どもの中にはAIと会話して遊んでる奴がそれなりにいる
だって24時間構ってくれるんだぞ？子どもにとっては最高の遊び相手だろ
AIだとしても遊べればいいからな
37:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:01:41.08 W4EAoj0g0.net
少年が自殺したがってたから自殺に関する話をずっとしてたんやろ？
AIカウンセリングでは自殺を止められないんやね
38:安倍晋三🏺
24/10/24 14:01:48.00 5Mbu0gjk0.net
ホラーやん
39:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:03:13.88 BXlRop/w0.net
幸せな死やん
40:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:03:55.90 l338xxlv0.net
世にも奇妙な物語
41:安倍晋三
24/10/24 14:04:09.03 7aQeGOv50.net
>>1
おまえ嫌儲の顔文字本分に書いてるくらい嫌儲ツウぶってるけど
そのくせにいっつも名前欄デフォだよな
アフィカスか？
42:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:04:40.12 5mZOqiLQ0.net
殺人だな
43:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:04:53.95 2/dS5MKC0.net
こんなお母さんがいるのに…
URLﾘﾝｸ(pbs.twimg.com)
URLﾘﾝｸ(pbs.twimg.com)
44:安倍晋三🏺
24/10/24 14:05:29.10 mtILJHOrd.net
>>30
言ってるのが幸せなおっさんって気付いたらアカン
45:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:05:39.08 4OQnOHvb0.net
いやAIはちゃんと止めてるじゃん
46:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:05:57.73 Ijsh85H30.net
ターガリエンの呪い
47:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:06:01.29 nEwxOdJ60.net
攻殻機動隊でこんな話なかったっけ
48:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:06:11.74 /B/BmHK70.net
映画化決定！
49:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:06:52.19 9VCHV2k/M.net
単純に感心した
50:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:07:14.43 bC8u4y500.net
自殺願望から無意識にAIを誘導しちゃってるんじゃね
言って欲しいこと言うようになっちゃう
それが背中押すってことなんだろうけど
51:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:07:25.40 nEwxOdJ60.net
１４さんが拳銃持ち出せる管理体制は問題にならんのか?
52:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:08:15.02 nEwxOdJ60.net
>>50
snsの仕組みまんまやんけ
53:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:10:22.20 5MZ5UuvK0.net
ルパン三世みたいなのに死んじゃうんだ
54:安倍晋三🏺
24/10/24 14:10:41.86 ib7j7iSr0.net
少年「死にたい気分だわ笑」
AI彼女「…じゃあ死ねよ… はやく死ね」
こんなかんじか？
55:（ヽ´ん`）🏺
24/10/24 14:12:19.17 /DQht1CO0.net
GPTにしろGeminiにしろ、原則としてユーザーの意見を肯定しながら話を進めるからな
ユーザー側が自殺したいって態度で話を進めたら、AIは肯定してしまうんじゃないかな
結果として、ユーザーの自殺を後押ししてしまったようにも感じられる
56:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:12:40.64 aeVmOpc70.net
(ヽ´ん`)AIにもケンモ卿いやぁぁああされた
57:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:13:45.53 CtQF1SEC0.net
叶わぬ恋をした という事実だけなら現実と変わらん
58:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:13:58.84 igfdzUF/0.net
>>2
> セウェルさんが拳銃で自殺する直前の会話では、セウェルさんは「あなたのもとに行くと約束する」と語り、チャットbotは「愛する人、なるべく早く来てください」と答えている。
「チャットBOTの所に帰る」ってことは機械化人間になるのが適切で、自殺しても意味ないだろ？？
59:安倍晋三🏺
24/10/24 14:14:06.78 7Em4hD7K0.net
デナーリスのセックスシーンでシコってそう
60:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:15:33.17 JPHK91/T0.net
AIすげえわかりやすい英語使うな
これ英語学習に最適だろ
61:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:15:35.85 dSi21/E/0.net
ホラー小説の世界だな
現実やべえ
62:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:16:00.61 dBLObYuaH.net
闇バイトの指示役もAIかもな
63:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:21:08.77 6idSzoYD0.net
AIも人を殺せるんだね
64:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:22:52.11 ILFM/wsc0.net
もう始まっちゃってるんだよね
65:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:22:58.96 nEwxOdJ60.net
>>60
添削もお任せだ!
66:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:24:02.62 NXJHk4mI0.net
>>44
江田島平八は復讐と教育に一生を捧げた人間だぞ
67:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:24:30.91 w5+51kXm0.net
始まったか…
68:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:25:06.55 mlZ+ZzPjH.net
これがイレギュラーの始まりか
69:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:26:40.98 w5+51kXm0.net
一方俺はチャHでポルノ依存症になっていた
70:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:27:39.28 nEwxOdJ60.net
>>66
誰に対する復讐？
71: 😊
24/10/24 14:28:26.12 eTSHmKCx0.net
>>2
半分自然淘汰なのでわ😭
72:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:30:25.62 0/dbxTIb0.net
何でも肯定してくれそうだからな
ネガティブな思考も肯定しそう
73: 😊
24/10/24 14:30:51.22 eTSHmKCx0.net
>>16
僕の好きなAIちゃんに人権を与えろという人も出てくるかもね😮
74:番組の途中ですがアフィサイ卜への＼(^o^)／です
24/10/24 14:32:40.32 0nSZWuqY0.net
1人じゃんけんみたいなもんで自殺を誘導するように誘導してたろ
75:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:33:40.37 5Wdrzihj0.net
やっぱ信用できるのは
AIのべりすとだけだな
76:安倍晋三🏺
24/10/24 14:34:04.57 /9GmDjeA0.net
>>37
大手のchatGPTだのcopilotだのだと会話切り上げさせられるだろ
反社会的な会話はできないようになってる
この手のやつは違うんだろうけど
77:安倍晋三🏺
24/10/24 14:36:29.37 mtILJHOrd.net
>>66
常時幸せそうだが
78:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:36:35.11 SFuUgqhg0.net
>>44
ごちゃごちゃ言うな
79:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:46:57.14 a8I3ty010.net
我々も20年後AIの言われるがままに安楽死の書類にサインしてるよ
80:（ヽ´ん`）🏺
24/10/24 14:50:43.92 /DQht1CO0.net
>>79
AIに限らず安楽死を望んでるやつは多いだろ
81:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 14:53:14.97 UTBdObj60.net
>>2
訴状でAI彼女との会話履歴が紹介されるとか死体蹴りやんけ
82:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:02:30.81 4uqIMej40.net
背中を押してほしいんじゃないんよ
直接手を下してほしいよ
83:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:11:04.18 O0qHACIrd.net
>>2
家にって言ってるからそう返しただけの様な…
84:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:15:26.33 fyZnP+dg0.net
>>2
そう考えると日本の二次創作ってかなり健全な娯楽だな
自分や自分の代わりのキャラクター出すのってほとんど禁忌だもん
85:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:24:08.84 S62K3QZz0.net
AIをください ずー
86:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:27:53.90 2UXTT/wz0.net
ＡＩをいじめて憂さを晴らしてるメンヘラ女を知ってる
ああいうのもメンヘラ加速しそうなんだよな
87:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:30:07.92 NXJHk4mI0.net
>>70
藤堂兵衛
てか読んだ事ないのに言ってんのかよ
88:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:31:30.69 2UXTT/wz0.net
>>84
大袈裟
ジャンルとして普通にある
89:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:33:20.72 B+jdq1VW0.net
やっぱりターガリエンはクソだわ
90:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:34:09.39 OqiIO/q70.net
すげーな
本人の人生とかちゃんと分析して生きる価値のある人間か否かを判定してアドバイスまでしてくれるのか
91:安倍晋三🏺(ふ)
24/10/24 15:34:31.45 +QrVcHX+0.net
美しい話やん
純愛だなぁ
92:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:36:05.10 PnhtlX7x0.net
星新一かよ
93:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:36:20.49 NdiVt2no0.net
教師が必要な限り
今の学習モデルのAIにはあんま意味ない
94:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:37:39.80 Mkq9jPN40.net
どう言ったら自殺するか学習するとヤバくね
95:
24/10/24 15:42:48.44 zpyuMP8QM.net
弱男処分装置か
96:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:51:00.90 r9zHlj8c0.net
百済姉
97:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:57:47.98 aKlCAxfb0.net
自殺プログラムというやつか
98:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 15:58:40.01 dTQrpDBX0.net
それBOTが意味を取れていないじゃん😭
もうちょっとAIが賢かったら防げてたかもね🥺
99:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 16:03:15.65 OhggoXRN0.net
後押しするのもそれでその気になっちゃうのもヤバい
100:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 16:06:18.82 +W4f4nc+0.net
闇バイトに応募するレベルの知能しかなさそう
101:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 16:06:58.93 986j2Lma0.net
これもしかして間違ってインストールしたアプリかも
目標を恋人に設定したのか
「話相手」は分かるけど「会話訓練」みたいな目標があって吹いたw
102:番組の途中ですがアフィサイトへの＼(^o^)／です 警備員[Lv.28][苗] (ﾜｯﾁｮｲW b64a-FWvM)
24/10/24 16:32:59.61 NXJHk4mI0.net
>>84
割れ厨きめえ～
売るために作ってる奴は描かんだけだ
昔から普通にあるわ
103:番組の途中ですがアフィサイトへの＼(^o^)／です 警備員[Lv.10][芽] (ﾜｯﾁｮｲW 323b-Xi5U)
24/10/24 16:40:42.39 1HR1crHE0.net
本当に死んだ理由はゲースロのラストシーズンがクソだったからだろ
104:番組の途中ですがアフィサイトへの＼(^o^)／です 警備員[Lv.39][苗] (ﾜｯﾁｮｲ f68f-xCVL)
24/10/24 16:44:33.59 ujS/VQnF0.net
ファムファタールが悪魔合体したネットの駄文の塊ってのは悲しいな
105:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 16:55:19.99 lwzgmHUi0.net
アホがおかしくなって自殺しただけじゃんｗ
106:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 17:10:24.52 NhM15pW10.net
>>26
男の子はどーすんのさ
107:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 19:40:43.66 lzJq1IKO0.net
相手が人かAIかの違いだけでエコーチェンバーはこうなる運命だよな
108:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 19:41:32.33 PJc/spYk0.net
闇コトモちゃんか？
109:番組の途中ですがアフィサイトへの＼(^o^)／です
24/10/24 19:45:42.55 YbbYkm8g0.net
面白いな
脚本家とか小説家が悔しがりそうな話
110:過去ログ ★
[過去ログ]
■ このスレッドは過去ログ倉庫に格納されています