OpenAI「gpt-oss-120b」の衝撃at SCI
OpenAI「gpt-oss-120b」の衝撃 - 暇つぶし2ch84:ご冗談でしょう?名無しさん
26/01/22 13:55:47.71 .net
>>83
>毎月1TBを越えるWindowsUpdateをあてないといけなくなる

俺は(古い)WS.PCにLM Studio入れていろんなLLMを試してるが
プラットホームのLM Studioが短期間にアップデートを繰り返してる
エンジンのCUDA、Vulkan,Lilama が不安定でGPUのVRAM量で使えたり
使えなかったりする。
それでも、高速化,安定版に近づいているといえる。

85:ご冗談でしょう?名無しさん
26/01/22 14:05:18.41 .net
>>84
エンジンのVulkanは特定GPUに依存せずアップデートでCPU内蔵GPUでもそれなりに使える
将来的に低電力ノートPCで使えるローカルLLMハンドルも可能だろう。

86:ご冗談でしょう?名無しさん
26/01/25 12:35:14.15 .net
むやみにLLMプラットホームをアップデートしないのが正解
自分のPCでLLMが正常動作を確認したらそのままの状態で使う。

87:ご冗談でしょう?名無しさん
26/01/26 19:08:08.91 .net
>>83
Windows 11 26H2のリリースの記事が最近出てたが
AIアシスタント「Copilot」仕様を満たすAI-NPU内蔵が前提でAIエージェント機能の大幅強化
が目玉
つまり、仕様を満たさない従来のPCは恩恵が受けられずメモリー使用量だけ増えて動作が遅くなる
PC値上がりでメリットが無いから25H2のまま使い続けるのが吉。(個人用Windows10なら大吉)

88:ご冗談でしょう?名無しさん
26/02/07 12:00:32.29 t8Zx2PDR.net
今にMSがWindowsにローカルLLMを載せてくる
日も近いな。

89:ご冗談でしょう?名無しさん
26/02/18 17:15:54.53 .net
貧困者,学生に朗報
最近ローカルLLMのプラットフォームが急速に改善され
GPU無しのノートPC環境でも10トークン/sの実用速度が得られる
テスト環境
中古ノートPC CPU AVX2(4世代以降)RAM 16GB SSD 256GB
ローカルLLM Granite 4.0 Tiny (7b相当)
プラットホーム LM Studio

基本的な物理,数学,プログラミングに十分、マイクロソフトの課金地獄に堕ちすに済む。

90:ご冗談でしょう?名無しさん
26/02/19 11:40:24.48 .net
富士通、AIでソフトウェア開発の全自動化で生産効率100倍
今でもコンビニ店員並みの時給プログラマーも失業する時代が到来か

91:ご冗談でしょう?名無しさん
26/02/19 12:00:58.89 .net
一般人に最後まで残された仕事は宅配の配達員かも
配達員が重い荷物持って走るのは1件当たり数十円の歩合制だから走って時間短縮する
しか稼ぎを上げられないから

92:ご冗談でしょう?名無しさん
26/02/21 08:12:13.13 YlOy04zT.net
>>1
OpenAIこそ世界の味方だと思う。
Claudeに浮かれている世の中はなんにもわかってない。それは搾取されているんだよ。Claude Codeでプログラミング? しょうもないアプリをブラックボックスとして生成しているだけだよ。技術から学べよ。
ローカルLLMは使わせてもらいながら、使い分けてOpenAIのサービスにぜひ課金してサポートしようと思う。

93:ご冗談でしょう?名無しさん
26/02/21 15:53:53.11 .net
IT,AIでもアメリカの属国化した日本の大企業は殆ど米IT,AI課金サービスに飲み込まれてる
当然、大手の社畜社員も米IT,AIサブスク奴隷の中で無用になりクビ切りまで働くしかない。

フリーのローカルLLMを最後まで使い続けるのは趣味の自由人と貧乏学生くらいだろ

94:ご冗談でしょう?名無しさん
26/02/21 16:01:27.35 .net
>>89
最近公開された日本語対応の無料ローカルLLM
NVIDIA Nemotron-Nano-9B-v2-Japanese (9b相当)
ノートPC 16GB 環境でも十分使える
お試しあれ。

95:ご冗談でしょう?名無しさん
26/02/22 02:16:52.65 6p46PykQ.net
>>93
ローカルLLMにしておくと、安全に、RAGから独自のコンテキストを挿入できる
クラウド版のAIシステムは、やがては今のSaaSのような立ち位置になるでしょう
できる人はどんどんオンプレミスでシステム構築していけるからね

96:ご冗談でしょう?名無しさん
26/03/25 18:51:46.53 .net
>>89 続き
>GPU無しのノートPC環境でも10トークン/sの実用速度が得られる

最近、中古ノートPCで試したら、軽量LLM(8b未満)で15トークン/s
+50%も応答が早くなった。(16GBメモリ以上必須)

騙され分割払いでボッタクリAI-PCなんぞ買っても使い物にならないぞ!
(100万円くらい簡単に出せるリッチ階層は別だが)

97:ご冗談でしょう?名無しさん
26/03/25 19:00:25.79 .net
優秀で貧乏な学生なら中古ノートPC-LLMを使いこなし、成績を上げて認められ
タダでハイエンドLLM等が自由に使える環境に就職を果たすのがベスト。

98:ご冗談でしょう?名無しさん
26/06/01 19:22:14.04 .net
無料のLLMが短期間に高速化してGPU無でもメインメモリとSSDさえ
十分容量あれば個人で使うには困らなくなった。

型落ちPCでWindows11はメモリ食うだけで遅くマイクロソフトと通信してる

MSに菅理されて遅いだけのWindpwsやめて軽量Linuxに移行したほうがベスト
おすすめは Linux Mint Xfce
個々のPCに合った設定にするのが手間だがそれが済めば軽くて安定動作する。

99:ご冗談でしょう?名無しさん
26/06/15 19:13:04.83 .net
PICマイコンのプログラムくらいは生成してくれるようになりました?

100:ご冗談でしょう?名無しさん
26/06/15 21:07:40.97 JulqJTo2.net
>>5
それで良いんだよ
大半のひとは仕事しなくても良い状態になっていく
だから一人当たりが実働8時間勤務セず4時間勤務で
可処分所得ベースで考える報酬を分配したらいいだけ

101:ご冗談でしょう?名無しさん
26/06/16 00:50:26.68 .net
>>100
>大半のひとは仕事しなくても良い状態になっていく
大間違い

大半の人は仕事が無くなる、失業者になる。

残される人は多くのAIを管理できるマルチ人間だけ、仕事が増える。

組織はリストラ目的でAIを導入する、従業員に分配するためでない。

102:ご冗談でしょう?名無しさん
26/06/26 13:45:46.54 .net
2026年スーパーコンピュータ(スパコン)ランキングTOP500

中国独自スパコン「LineShine」がCPUだけで2.19EFLOPS(エクサフロップス)を達成し、
1位を獲得した。

最大の特徴は、GPUを一切使わずCPUだけで2EFLOPS超えを実現した、
1.55GHzで動作する独自設計(arm)、製造した304コアLX2プロセッサを利用し、
独自のLingQiインターコネクトにより、合計1,379万コアで構成される。

OS(オペレーティングシステム)も中国独自(linuxベース)のKylin OS。

日本は、CPU、GPU、メモリー、OS AI技術 すべて外国に依存している現状では
将来とも全く勝ち目がない。

103:ご冗談でしょう?名無しさん
26/06/26 14:05:25.03 .net
2026/6/25 マイクロソフトがWindows10のサポート1年延長を決定

メモリーなどPCの価格高騰でWindows11PCの買い替えが進まないのが理由とみられる

そもそも、Windows11はOSのメモリー消費量が多いだけで機能は殆ど変わらない。

104:ご冗談でしょう?名無しさん
26/07/03 11:30:54.46 .net
PC用メモリーの高騰は2027年まで続きそうだから、個人でローカルLLM構築には厳しい。

個人でレスポンスが遅くても実用で使うには、PC本体のDRAMが32GB以上64GB必要になる。


最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch