25/05/17 09:17:06.85 y2zepp9J.net
これ面白い
URLﾘﾝｸ(news.yahoo.co.jp)
news.yahoo
ChatGPTが息を吐くようにウソを連発したからドン詰めしてみた
5/16 中川真知子 ギズモード・ジャパン
近い将来、生成AIが私たち人間が担っている多くの仕事を奪うのは、ほぼ確実といわれています。
【全画像をみる】ChatGPTが息を吐くようにウソを連発したからドン詰めしてみた
私のような翻訳やライター業務もその1つ。ぶっちゃけ、生成AIが一瞬で構成する文章の完成度に圧倒されて、落ち込むことも多々あります。
なので、自分の存在価値を確かめるために、定期的に自分の書いた文章をAIに読み込ませて、「これは人間が書いた文章だと思いますか？ 」と質問しています。
そのリンクを貼って聞いてみました。
目を疑いました。だって、タイトルが違う。
しかもごていねいに、バリバリにでっち上げた「人間が書いたと考えられる理由」まで出してきている。
ちょっと待って。
ちょっと直接的すぎる質問形式になってしまいましたが、とにかく確認しなければなりません。
すると速攻で誤りを認め、さらなる嘘を生成してきたではありませんか。
しかも、さらに明後日の方向に考察が展開していきました。こちらも動揺を隠しきれず、思わず「え、全然違うのですが」とツッコミを入れてしまいました。
「申し訳ありません」と謝罪していますが、もはや何に対して謝っているのかわかりませんし、誤情報まで入れています。ちょっと、誰かChatGPTを止めてあげてください。
その後も何度かやり取りを繰り返し、私は記事のタイトルを伝えました。すると、「記事を正確に読み込まずに推測で書いた」と言ってきたんです。
しかも、さらに事実とは異なる内容を生成してきました。
もう、息を吐くように嘘を並べ立てています。確固たる証拠があるのにごまかせると思っている3歳児よりもタチが悪い。
こうなった原因を探らないといけません。単刀直入に質問をぶつけてみました。
この内容を受けて、私は「何が原因でこんな間違いが起こったのか、順序立てて説明できますか」とお願いしました。
すると、以下のような返答がありました。長いのですが、ChatGPTの限界を理解する上で重要なので目を通してもらった方がいいと思うので、全文を貼り付けます。
つづく