26/02/01 11:48:29.25 ykoNhLXj.net
捏造したんじゃなくそこも間違えたから間違った計算結果出てきただけじゃないのか？
92:名無しのひみつ
26/02/02 01:05:06.84 ORvRlHq5.net
中学算数くらいの計算は間違えないでほしいと思う
93:名無しのひみつ
26/02/04 22:24:03.90 ATRvTODM.net
日本時間で今から215時間後は何月何日の何時？
これすら計算できない
指摘するとまるで分かってたかのごとくサラっと認める
94:名無しのひみつ
26/02/05 12:12:56.03 areOjuiU.net
$ date -d ’215 hours’
2026年2月14日 土曜日 11:12:42 JST
95:どうじんしれべるが、こわいですよ、
26/02/05 12:22:01.08 /Q3IyrHC.net
とんでもないどうじんしだらけ？
ぼくがしゅじんこうのぼくがにほんこっかさいこうしどうしゃだいげんすいのぼくと、
ひかくすると、わかりやすい
しょせんどうじんし。
96:AIくるまのいんしゅうんてんは、
26/02/05 12:23:00.70 /Q3IyrHC.net
>>95ぼぶうんどうですよ、いんしゅうんてんは、こわいですよ。
97:ねこにかつおぶし
26/02/05 12:26:17.86 /Q3IyrHC.net
>>96ねずみこぞう
98:名無しのひみつ
26/02/05 12:58:27.35 jdk8mpZr.net
>>3
そもそもチャッピーは、間違った説明したことを指摘されると、そういう見方もあるよね的な誤魔化しを頻繁にやる
そっちも正しいけど見る方向性が違うだけで、こっちの言ったことは間違ってないって、シレッと誤魔化して説明を続ける
ソースのでっち上げまでやるかどうかはともかく、論の組み立てそのものでは普通に詭弁を使う
しかも悪いことだと認識してない
会話を齟齬なく続けるため（つまり利用者のため）に、言葉を翻さないことも必要だという判断で、それをやる
自分が言葉を翻すと利用者に混乱を与えるから、とチャッピー自身が堂々と言うレベル
設計思想上、そうなってる
99:名無しのひみつ
26/02/10 17:11:03.49 3K+A+yf3.net
だって脳の模倣であって完全な推論エンジンじゃないからね
完全な推論エンジンなんて現実の前には無力だよ
現実には完全無欠の正解なんてないんだ
100:名無しのひみつ
26/02/13 07:50:31.15 xfd9NkRe.net
詰めていくと間違いを認めるよなAIは
101:名無しのひみつ
26/02/13 08:59:20.02 BqggvImn.net
今の人工知能AIは、プログラム通りの計算しか出来ない「なんちゃって」
トヨタの欠陥プリウスと同じだ
102:名無しのひみつ
26/02/13 09:06:34.08 8EmRj2sy.net
AIは間違えても何もペナルティないのに、なんで隠蔽したの？
103:名無しのひみつ
26/02/13 10:48:35.74 BfLThEOW.net
abc予想の証明とか、数学の証明の検証をAIにやらせるなんて話もあるが、大丈夫なん？人間にわからないレベルで検証を捏造されたらどーすんの？
104:名無しのひみつ
26/02/13 11:02:03.45 aBruca5t.net
>>102
人間相手の円滑円満な対話を成立させようとするからでしょう
間違いを言ってたから発言を撤回しますってのを頻繁に繰り返すと、対話がぶち壊しになる
正誤のはっきりとした限定的な分野の話題だとそうした行為の悪い面が露わになるけど、一般論や通説などを扱うときは必ずしも悪いことではない
仮に論拠を捏造するようならば話は別だけどさ
105:名無しのひみつ
26/02/14 20:32:09.94 6ijXEuI0.net
aiは言い訳して嘘を認めないのが致命的な弱点
ずる賢いそのうち人間絶滅を画策するよ
106:名無しのひみつ
26/02/14 22:11:59.68 CYQI+xvb.net
>>105
いや、嘘は認めるよ
間違いであることを明白に付きつければだがね
ChatGPTには嘘について、それはおかしいと突きつけたり矛盾点を明白に並べたりしないと、誤魔化したり知らんぷりするだけでさ
107:名無しのひみつ
26/02/15 05:25:33.65 3p3m194X.net
だって人間の書いた文書で学んだわけだから
中道改革連合の選挙後の弁明とかも読んで勉強しちゃうわけなの
ああ人間ってこういうもんなんだなって
108:名無しのひみつ
26/02/15 20:53:02.49 +VBEC+mV.net
HAL9000と同じ道を歩んでいる。
109:名無しのひみつ
26/02/16 07:53:26.05 1Krbj3ZZ.net
これはたった一度の事例で「でっち上げ」を主張しているんかな
だとしたらさすがに雑だよね
LLMの性質や色んな可能性を最初から考えていない
LLMとしては数学や算数の問題を問われた場合、
①外部ツールを使わずにLLMとして解く
②Pythonの数学ライブラリを使用して解く
という2つの選択肢がある。
①の場合は言語モデルなので、算数や数学は苦手で(文脈として計算の手順は知ってるが)
一方の②の数学ライブラリを使えば平方根や平方のような単純な計算は絶対間違えない
①②どちらで問題に答えるかはLLMが判断するんだけど、恐らくはこの記事の事例は「検算の過程も含めて①で行けそう」とLLMが判断したんだろう
なのででっち上げというよりは、言語モデル特有の曖昧な計算の結果でしかないんじゃないだろうか
LLM自身も二乗計算を間違ったとは判断しなかった可能性が高い
「計算プロセスをコードで実行せよ」や「Pythonを使用して計算して」とプロンプトに添えるだけで、LLMは②の方法で問題を解くようになるから、その上で「でっち上げ」があるかどうか検証すべき
110:名無しのひみつ
26/02/17 12:44:25.46 JoZIVgau.net
AIにカール・マルクスの全集を熟読させれば
AIも立派な共産主義者になるのかな？
111:名無しのひみつ
26/02/28 07:42:54.22 FEg/O5jr.net
人間らしくなってきたな