【LLM】1ビットLLMの衝撃! 70Bで8.9倍高速　全ての推論を加算のみで!GPU不要になる可能性も [すらいむ★]at SCIENCEPLUS

---

■コピペモード
□スレを通常表示
□オプションモード
□このｽﾚｯﾄﾞのURL
■項目テキスト
60:名無しのひみつ 24/03/01 18:09:09.27 1DY9oCqs.net これ主流になったら記憶素子メーカーの大逆転ありえるな 61:名無しのひみつ 24/03/01 20:48:56.07 aQh0wf94.net ソフトウェアもアナログからデジタルに移行って感じか (ちょっと意味不明) 62:名無しのひみつ 24/03/01 23:37:45.08 ouHIOhMt.net 専用ハード開発しなくてもFPGAで論理回路組めば高速に演算できそう RTX3060はヤフオクにだしてFPGAボード買うか 63:名無しのひみつ 24/03/01 23:47:38.80 GEaVhHuA.net これ速さもそうだけど、電力を大幅に節約できるのがでかいだろ 64:名無しのひみつ 24/03/01 23:57:51.04 l5rgyAz4.net 1行も論文見てない驚き屋がBitNet b1.58ではなく BitNetの論文のリンク張ってて底が知れる 65:名無しのひみつ 24/03/02 02:49:10.73 thy5ywaa.net Binary and Ternary Natural Language Generation https://arxiv.org/abs/2306.01841 W2A8 W1A8 Token-Scaled Logit Distillation for Ternary Weight Generative Language Models https://arxiv.org/abs/2308.06744 W2A16 驚き屋が驚かなかった先行研究 3値を1.58bitと表現したことで驚き屋が食いついた模様

---

次ページ

最新レス表示

レスジャンプ

類似スレ一覧

スレッドの検索

話題のニュース

おまかせリスト

オプション

しおりを挟む

スレッドに書込

スレッドの一覧

暇つぶし2ch