26/07/13 16:43:00.66 tktObww50.net
単に古いDDR4メモリを繋ぐだけだと、最新のDDR5メモリに比べて通信速度が遅いため、AIサーバー全体の処理速度が落ちてしまい、逆に台数が必要になるはずです。
Metaはここをソフトウェア(OS層)の知恵で解決しました。 ホットデータ(頻繁に使うデータ)超高速な最新のDDR5へ配置
コールドデータ(一時的に置くだけのデータ)CXL経由のDDR4へ配置
この「メモリの使い分け(TPP: Transparent Page Placement)」をOSが自動でミリ秒単位で行うため、AIの処理スピード(スループット)を一切落とさず
(むしろモデルサイズによっては最大4〜12%向上させながら)、メモリ容量だけをタダ同然で爆発的に増やすことに成功しました。
787:名無しどんぶらこ
26/07/13 16:45:26.61 tktObww50.net
つまり、「計算性能は余っているのに、メモリが狭いせいでたくさん並べるしかなかったAIサーバー」に、余っているDDR4をドッキングしてメモリを広げた結果、
本来の計算能力を100%発揮できるようになり、4台必要だったサーバーが3台で済むようになった(25%削減)というのがこの技術の真髄です。
一般の企業がこれを真似するための「条件」。Metaと同じ手法を他のAIサーバーで実現するには、ハードウェアとソフトウェアの両面で以下の条件が必要になります。
サーバーのCPUが「CXL規格」に対応していること。最新のサーバーCPU(AMDの第5世代EPYC "Turin" や、IntelのXeon 6など)は、
PCIeスロット経由でメモリを拡張できる「CXL」という機能を持っています。この世代のサーバーを導入する必要があります。
788:名無しどんぶらこ
26/07/13 16:46:06.66 tktObww50.net
Metaは、よく使うデータ(ホット)は速いDDR5へ、たまに使うデータ(コールド)は遅いDDR4へ自動で振り分けるOSの仕組み
(TPP:Transparent Page Placement)を導入しています。現在、Linuxの標準機能としてもこのメモリ階層化技術の実装が進んでいます。
CXL対応のDDR4拡張カードの一般販売。MetaはVistaraというカードを自社設計しましたが、現在はサードパーティの半導体メーカー
(Astera LabsやSamsungなど)が一般企業向けに類似の「CXLメモリ拡張カード」を開発・販売し始めています。
789:名無しどんぶらこ
26/07/13 16:47:12.28 tktObww50.net
AIではない一般的なサーバー群(Webサーバー、データベースサーバー、ファイルサーバーなど)でも、まさにその通り
「SSDにあるデータを丸ごとメモリ(RAM)に載せて高速化する」という用途に大活躍します。
むしろAI以外のシステムの方が、この「CXLカードを使ったDDR4メモリの拡張」との相性が抜群に良いケースが多く、
データセンター業界では今まさに最も期待されている使い方の一つです。
790:名無しどんぶらこ
26/07/13 16:48:11.05 tktObww50.net
1. 大規模なデータベース(インメモリ・データベース)用途:金融システム、ECサイトの在庫管理、スマホゲームの会員データ管理など、
1秒間に数万回以上の読み書き(アクセス)が発生するデータベースサーバーです。
使い方:これまでは、処理を高速化するために高価な大容量メモリ(DDR5など)にデータを丸ごと載せていました。しかし、データ量が増えすぎるとメモリ代が爆発的に高くなります。
効果:最新のDDR5メモリには「現在進行形で激しく書き換わる超重要データ」を載せ、CXLで繋いだ古いDDR4メモリには
「頻繁に読み込まれるだけの過去データ(カタログやユーザープロフィールなど)」を丸ごと載せます。SSD(NVMe)から
読み込むよりも数十倍〜数百倍速くなり、かつ最新メモリを買い足すより遥かに安く大容量化できます。
791:名無しどんぶらこ
26/07/13 16:49:04.35 tktObww50.net
3. 仮想化サーバー(VMware、Hyper-V、Nutantixなど)用途:1台の物理サーバーの中に、何十台もの
「仮想的なサーバー(WindowsやLinux)」を立ち上げて社内システムを詰め込む、企業のコアインフラです。
使い方:仮想サーバーをたくさん立ち上げると、CPUの性能は余っているのに、メモリの容量が真っ先に足りなくなる「メモリ・ボトルネック」が必ず発生します。
効果:CXL経由で古いDDR4を「増量用メモリ」として刺すことで、1台の物理サーバーの中に詰め込める仮想サーバーの数を1.5倍〜2倍に増やせます。
結果として、オフィスやデータセンターに置く物理サーバーの台数を丸ごと減らすことができます。
792:名無しどんぶらこ
26/07/13 16:50:06.06 tktObww50.net
「今のSSDは十分速いから、わざわざ古いDDR4に載せ替えなくてもいいのでは?」と思われるかもしれませんが、ハードウェアの性質が根本的に異なります。
いくら最新のSSDが速くなったとはいえ、メモリの速度には絶対に勝てません。また、データの書き換えが激しいシステムでは、
SSDだと数年で寿命を迎えて壊れてしまいますが、メモリならどれだけ激しくデータを載せ替えても壊れません。
793:名無しどんぶらこ
26/07/13 16:50:22.48 tktObww50.net
AI以外のシステムであっても、「本当はデータを全部メモリの上に置いて爆速にしたいけれど、予算がなくてSSDに妥協して置いている」というシステムは無数に存在します。
Metaが切り開いたこの技術は、そうした「一般的なサーバー群」のジレンマを、眠っているDDR4メモリを使ってタダ同然で解決できる画期的な手段です。
794:名無しどんぶらこ
26/07/13 16:51:49.00 tktObww50.net
AI は不正確な情報を表示することがあるため、生成された回答を再確認するようにしてください
795:名無しどんぶらこ
26/07/13 16:55:13.30 4H4nfqjq0.net
ヤ↑↑↑↑
余所でやってくださいよ
URLリンク(gzo.ai)
796:名無しどんぶらこ
26/07/13 18:03:31.57 H+BGk7IE0.net
SSD(ソリッドステートドライブ)を構成する半導体(NAND型フラッシュメモリやDRAM、コントローラーチップ)の製造工程において、
イラン紛争やホルムズ海峡の封鎖リスクによって供給網が脅かされる重要材料は、主にヘリウム、臭素、そしてナフサ(石油化学製品の原料)です。
SSDそのものの直接的な原材料というよりも、SSDの心臓部である半導体チップを作る(製造・冷却・洗浄する)
プロセスで絶対に代えが効かない材料が、中東地域からの供給に依存しているためです。
797:名無しどんぶらこ
26/07/13 18:04:36.96 H+BGk7IE0.net
日本の半導体業界はヘリウムを100%輸入に頼っています。主な調達先は米国(約50%)とカタール(約28〜33%)です。韓国(対カタール依存度約65%)に比べると
日本全体では分散されているものの、国内最大手のヘリウム供給業者である岩谷産業が
「カタールからの調達が途絶えたため同業者への融通を停止した」と発表しており、国内の需給は極めて逼迫しています。
798:名無しどんぶらこ
26/07/13 18:05:46.80 P6w1bwFM0.net
グラハムいなくなった途端ユダヤ極振りになったな
799:名無しどんぶらこ
26/07/13 18:06:03.88 H+BGk7IE0.net
中国が輸出を止めた理由。自国の半導体産業(AI・チップ製造)の保護: 中国自身もヘリウム消費国ですが、必要量の約85%を中東カタールなどからの輸入に頼っています。
中東リスクによるパニック防止: イラン紛争の激化やホルムズ海峡の船舶航行制限により、カタールからの供給が途絶し世界的な大減産が始まっています。
中国政府は「世界的なヘリウム不足で国内の在庫が海外へ買いたたかれ、流出するのを防ぐ」ために急遽ロックをかけました。
800:名無しどんぶらこ
26/07/13 18:07:07.88 P6w1bwFM0.net
>>794
高市は暗に中華助けてるんとちゃうか
801:名無しどんぶらこ
26/07/13 18:07:18.73 H+BGk7IE0.net
かつてアメリカ政府は、テキサス州の地下に膨大な「連邦ヘリウム備蓄(Federal Helium Reserve)」を保有し、世界の需給をコントロールするクッション(緩衝材)にしていました。
しかし、法改正に伴い2024年にこの連邦システムを民間へ完全に売却してしまいました。これにより、現在の米国地質調査所(USGS)のデータ上の国家備蓄は「なし(ゼロ)」となっています。
政府が政治的判断で「日本や韓国に優先して回す」といった融通を利かせるためのストックが物理的に存在しません。
802:名無しどんぶらこ
26/07/13 18:07:53.23 H+BGk7IE0.net
アメリカ国内では、バイデン政権が主導した「CHIPS法」によって、インテルやTSMCなどの最先端半導体工場(ファブ)が国内で次々と建設・稼働しています。
これらの最先端AIチップやデータセンター用部品の製造には、従来の何倍もの超高純度ヘリウムが必要です。つまり、アメリカが生産したヘリウムは、
アメリカ国内の工場が最優先で爆食いしている状態であり、輸出に回せるフリーの在庫はほとんどありません。
803:名無しどんぶらこ
26/07/13 18:08:30.82 H+BGk7IE0.net
イラン紛争によるカタール産(世界供給の約3割)の喪失を受け、世界中のガス大手が「フォースマジュール(不可抗力による供給停止宣言)」を出しています。
アメリカのガス供給業者(WestAirなど)も、すでに新規の顧客への販売を断り、既存の契約者に対してすら「供給量を制限するラショニング(配給制)」に踏み切っています。
スポット市場の価格は数週間で2倍近くに跳ね上がっており、お金を積めば買えるという状況ではありません。
804:名無しどんぶらこ
26/07/13 18:09:15.27 aQS3OwRE0.net
NATO諸国はスペインを取るのかアメリカを取るのか
805:名無しどんぶらこ
26/07/13 19:15:51.33 3kFox/sk0.net
戦争してる奴が平和賞とか貰えるわけないだろ
ジェノサイド賞をどうぞ
トランプ プーチン ネタニヤフが受賞
806:過去ログ ★
[過去ログ]
■ このスレッドは過去ログ倉庫に格納されています