24/09/23 14:20:43.57 jR5E/aYo.net
生成AI鯖として最適なLinux
自分のLinuxPCがどの程度のAI処理性能を持っているかベンチマークソフトで知りましょう
2:
24/09/23 14:35:37.81 jR5E/aYo.net
Geekbench AI www.geekbench.com/ai/download/
使い方
1. ダウンロードしたファイルを適当なフォルダに展開
2. Geekbench AIの設定値の一覧を取得 ./banff --ai-list
3.ベンチマーク実行例(設定例 AI Framework: ONNX(=3), AI Backend： CPU(=1), AI Device: Intel Core i5-12400(=0))
./banff --ai-framework 3 --ai-backend 1 --ai-device 0
4.ベンチマーク結果(Geekbench鯖にアップロードされる)のURLが表示されるのでブラウザで見る
3の実行結果 browser.geekbench.com/ai/v1/63074 Single,Half,Quentized=1780,1752,1037
3:
24/09/23 14:42:17.12 jR5E/aYo.net
その他の実行結果。最近のdGPUを使うとベンチマーク結果はCPUの10倍以上になるみたい
AIFramework, AIBackEend, AIDevice, Single,Half,Quantized
ONNX, CPU, Intel Core i5-12400(AVX2 Windows), 2859,1441,3638
ONNX, DirectML, Intel UHD Graphics730(iGPU Windows), 1780,1752,1037
ONNX, DirectML, GeforceGTX750Ti, 2247,2167,1568