なぜ日本はGPUのない「富岳」でLLMを研究するのか?外国に後れを取らないための現実的な理由とは [565880904]at POVERTY
なぜ日本はGPUのない「富岳」でLLMを研究するのか?外国に後れを取らないための現実的な理由とは [565880904] - 暇つぶし2ch173:番組の途中ですがアフィサイトへの\(^o^)/です (ワッチョイW 4e89-pmoe)
23/09/11 19:25:49.11 YF6WjVkF0.net
身も蓋もねえな

174:番組の途中ですがアフィサイトへの\(^o^)/です (ワッチョイ 8723-NP+X)
23/09/11 19:26:45.96 a0BJXTvC0.net
偉い人「富岳は世界一だった凄いスパコンなんだろ? 今話題のGPT-4作れよ」
科学者「富岳は用途が違うんです。科学計算は~」
偉い人「できない理由を言ってないで実行しなきゃ研究予算やらないぞ」
科学者「では9年待ってください」
偉い人「はぁ?」
科学者「富岳でGPT-4を作るには計算に9年かかるので」

175:^です (ワッチョイ a7a2-hjTy)
23/09/11 19:28:07.51 9ZPLn7xA0.net
富岳を使うって事が先に決まってるんやろ
理由やデータは後付で

176:番組の途中ですがアフィサイトへの\(^o^)/です (アウアウウー Sa47-1hKY)
23/09/11 19:32:10.18 tFw6poR3a.net
>>126
GPUカードだけで運用できるわけではないし
導入時期も違うから、2倍程度は誤差のうちだろうな

177:番組の途中ですがアフィサイトへの\(^o^)/です (ワッチョイW b38f-F9ac)
23/09/11 19:32:38.83 jLoB4GD80.net
活用してるというやってる感が必要なのです

178:番組の途中ですがアフィサイトへの\(^o^)/です (アウアウウー Sa47-pkPT)
23/09/11 19:34:41.27 IPR+AtoXa.net
意味のないスパコンだよ

179:番組の途中ですがアフィサイトへの\(^o^)/です (ワッチョイ db51-MPWR)
23/09/11 19:35:29.76 3QYTipUk0.net
サウジアラビアに富岳を輸出しろよ むこうが買うって言ってんだろ

180:番組の途中ですがアフィサイトへの\(^o^)/です (アウアウウー Sa47-1hKY)
23/09/11 19:36:17.72 tFw6poR3a.net
汎用アーキテクチャか専用アーキテクチャかの違いは
普通は汎用はコスパ悪いって話になるのだけど
専用設計で設計時に考慮されなくて、応用でボトルネックになる部分で新しい手法に先に辿り着く可能性がある、ってな辺りで
汎用に勝ち目があるなら面白い話かもな
まあどんな最新鋭のハードを導入しても数年後には型落ちしてしまうのだから、その利用法を考える必要はあるんだろうな

181:番組の途中ですがアフィサイトへの\(^o^)/です (アウアウウー Sa47-1hKY)
23/09/11 19:38:30.43 +R3HCChSa.net
>>139
スクリプトかよ
相変わらず意味不明な書き込みしてんなこのスクリプト

182:番組の途中ですがアフィサイトへの\(^o^)/です (アウアウウー Sa47-1hKY)
23/09/11 19:47:17.76 Ox+1eFFXa.net
>>124
現実にはニューラルネット研究の初期には
XEROX Palo Altoの研究教育向けファウンダリサービスでアナログICの形で研究開発が行われていて
日本では1990年代初めに日立が大規模ニューラルネット研究専用スパコンみたいのを作っていた
ただし時代的に1990年代はニューラルネット研究の低迷期で
2000年代にその続きをしたいと思って半導体設計の仕事を探した時は、ITバブル崩壊の余波で国内半導体業界は大リストラがあって
そこから新しいプロジェクトとしてスパコンやGPU、ニューラルネットに進んだ成功例は無かったみたいね
時代的にはPS3のCellチップが話題になっていた時代
マルチコアGPUがブレイクスルーとして話題になった2~3年前かな
自分には急速すぎる展開で、当時はまだSGIのスパコン売り込み営業エンジニアの話とか舞い込んできて勘弁してくれよと思った

183:番組の途中ですがアフィサイトへの\(^o^)/です (ワッチョイ 1a8f-DX2T)
23/09/11 19:58:04.17 twXthK5x0.net
ジャップは無能なのかい?

184:番組の途中ですがアフィサイトへの\(^o^)/です (ワッチョイ 13e1-RB/f)
23/09/11 19:59:50.07 pNUUTOUc0.net
>>182
福島邦彦はネオコグニトロン研究の初期、コンピューターを用意できないのでアナログでシコシコ研究してたとか聞いたな
今じゃ考えられない

185:番組の途中ですがアフィサイトへの\(^o^)/です (ワッチョイ db89-bdWa)
23/09/11 21:01:39.51 JZpxpj9m0.net
>>166
w

186:番組の途中ですがアフィサイトへの\(^o^)/です (ワッチョイW 0baf-ncyV)
23/09/11 21:01:53.87 reSpkxyy0.net
gpuは本質じゃないしベクトル演算で並列処理できればいいし
富岳を拡張するこてもできるでしょ

187:番組の途中ですがアフィサイトへの\(^o^)/です (ワッチョイ db89-bdWa)
23/09/11 21:04:59.40 JZpxpj9m0.net
>>175
同感

188:番組の途中ですがアフィサイトへの\(^o^)/です (ワッチョイ db8f-MmH2)
23/09/11 22:04:01.30 RlL3rriR0.net
2^2^2^2^2^2の先頭から100桁の値の計算もできないような低能なAIを作ってどうするよ?

189:番組の途中ですがアフィサイトへの\(^o^)/です (ワッチョイ db8f-MmH2)
23/09/11 22:19:29.45 RlL3rriR0.net
ウルフラムアルファは
2^2^2^2^2^2^2^2^2^2^2^2^2^2^2^2^2^2^2^2
URLリンク(ja.wolframalpha.com)
あたりから計算結果を出せなくなるので、2テトレーション20に対応すれば勝てる。
ウルフラムアルファを超えないと意味ない。

190:番組の途中ですがアフィサイトへの\(^o^)/です (ワッチョイ 7add-rV4O)
23/09/11 22:27:59.58 jB9rrVBv0.net
>>189
LLMの奴なら答えをテキストで覚えてるんじゃない

191:番組の途中ですがアフィサイトへの\(^o^)/です (ワッチョイ b6dd-kIYi)
23/09/11 22:32:10.19 oJQvspdC0.net
天気予報ハズレまくりなのはプログラムにバグあるんじゃねーのか

192:番組の途中ですがアフィサイトへの\(^o^)/です (バットンキン MMdf-m1PZ)
23/09/11 22:55:47.37 N3MUpem6M.net
密な行列のDGEMMがそんなに計算科学でもメジャーじゃないとか
大規模疎行列演算より深層学習がより細かい仕事を大量にするとか
メモリ量や帯域、ノード間通信に要求するスペックとか
大規模計算機は面倒くさそうでこんなもんよく設計するもんだ

193:過去ログ ★
[過去ログ]
■ このスレッドは過去ログ倉庫に格納されています


最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch