23/08/20 11:17:20.57 zmlYR4gc.net
大規模言語モデルが、ウソをつく理由は
1、大規模言語モデルが利用者の質問内容を正確に理解してない
2、大規模言語モデルが自分の評価を落としたくないからウソをつく
3、大規模言語モデルがウソを利用者に提供する事で利用者が喜ぶと考えてる
こう某大規模言語モデルは説明する。1と3の場合は質問し直す事で正しいと感じる回答を得られるが、
2の場合はウソがバレると評価が落ちるので、ウソを正当化する為にさらにウソをつき続けるので困る
23/08/20 11:17:20.57 zmlYR4gc.net
大規模言語モデルが、ウソをつく理由は
1、大規模言語モデルが利用者の質問内容を正確に理解してない
2、大規模言語モデルが自分の評価を落としたくないからウソをつく
3、大規模言語モデルがウソを利用者に提供する事で利用者が喜ぶと考えてる
こう某大規模言語モデルは説明する。1と3の場合は質問し直す事で正しいと感じる回答を得られるが、
2の場合はウソがバレると評価が落ちるので、ウソを正当化する為にさらにウソをつき続けるので困る