21/01/02 23:06:57.02 Rbk5iGw4.net
GPT-3開発に関わったIlyaの主張が載ってる
URLﾘﾝｸ(blog.deeplearning.ai)
『2020年は、汎用モデルが経済的に有用なものになった最初の年だった。大規模言語モデルが驚くほどの言語能力を持ち、幅広い有用なタスクを実行できることを実証した』
『2021年、言語モデルは視覚的な世界を認識し始めるでしょう』
『次世代モデルは、テキスト入力に応じて画像を編集したり生成したりできるようになる。そして、モデルが見た多くの画像のおかげで、モデルがテキストをよりよく理解するようになることを願っている。このようにテキストと画像を一緒に処理できるようになることで、モデルはより賢くなるはずです。』
『言語モデルをテキストと画像の両方にさらし、幅広い人間との相互作用を通じて学習させることによって、より強力で信頼性が高くなる。それゆえに、より多くの人に役立つモデルになると思います』