純粋・応用数学・数学隣接分野（含むガロア理論）18

純粋・応用数学・数学隣接分野（含むガロア理論）18at MATH

純粋・応用数学・数学隣接分野（含むガロア理論）18 - 暇つぶし2ch295:イデアです。この基本アイデアに対して今回の論文では1つ工夫があって、-1か1だけでなく、0も加えて、0、1、-1の3値を使っています。3通りというのは、2の1.58乗に相当するんですよ。だから実際は1.58bitになります。 3値になると符号の計算になり、入力の和算だけでいいようになります。3値、つまり-1、0、1しかない場合、先の例だと、x0と1を掛けて、x1と-1を掛けて、x2と-1を掛けて、x3と1を掛けて足し合わせることになります。これはつまりx0-x1-x2+x3という、符号だけを変えて足し合わせれば良いことになります。掛け算がなくなってしまうのです。 https://xtech.nikkei.com/atcl/nxt/column/18/02801/040900001/ 世界が注目したAI論文をSNSで抽出、日本で話題沸騰の「1ビットLLM」野々村泰香 AI・データラボ浅川直輝クロスメディア編集部／AI・データラボ 2024.04.12

次ページ

続きを表示

1を表示