17/03/11 22:07:43.06 wliLOzfh.net
NxNの平方行列の行列積の演算回数はNの3乗、つまりオンレジスタ、オンキャッシュで表現可能な部分行列が大きくなるほど積和算あたりの外部メモリ帯域は必要なくなる
Flopsあたりのメモリ帯域ならCannonlake-4コアですらTesla Pよりマシなレベルだが、GPUがLINPACKでなんとかなってるのはひとえに巨大なレジスタの効果だと思ってる
17/03/11 22:07:43.06 wliLOzfh.net
NxNの平方行列の行列積の演算回数はNの3乗、つまりオンレジスタ、オンキャッシュで表現可能な部分行列が大きくなるほど積和算あたりの外部メモリ帯域は必要なくなる
Flopsあたりのメモリ帯域ならCannonlake-4コアですらTesla Pよりマシなレベルだが、GPUがLINPACKでなんとかなってるのはひとえに巨大なレジスタの効果だと思ってる