t_wの輪郭

Feedlyでフォローするボタン
GPGPUAMD

ROCm

2024/9/21 14:50:00
『【ベンチマーク編】 Radeon Instinct MI50を買って機械学習用に使ってみる【ROCm】 - 端の知識の備忘録』APUでROCm『Linux ROCm経由でのRyzen 5600G GPUによるStable Diffusion WebUIの利用 #StableDiffusionWebUI - Qiita』あれ『Ryzen APU上のROCmでのメモリ割り当てに関する調査 #apu - Qiita』あれROCmインストールhipcc

あれ

2024/12/7 17:43:00

M4 MacBook Proが良いものである、ということを前提として、よりコスパの良いものについて考える。


M4はラップトップ用のCPUというのもあって、デスクトップ用CPUと比較すると性能が劣る[1]。また、LLMの推論に用いる場合、M2よりもGTX 1070Tiという化石のようなGPUの方が推論速度が速いため、AIで遊ぶにも性能不足が予測される。
[1] 参考:https://www.cpubenchmark.net/high_end_cpus.html

ゲーム性能を重視しない、持ち運ばない、計算処理の能力を重視する という条件下でAMD Ryzen 9 9950Xが乗ってる↓を有望視している。
 eX.computer クリエイターPC WA9A-H245/B [2]
ROCmを使えば、AIの推論もとりあえずはできる気がする(要検証)。
ゲームはしないので外付けGPUを無しにすれば価格を抑えられる。
[2] https://kakaku.com/item/K0001651343/

コスパ最優先にしつつ、低頻度で性能が欲しい場面があるなら、ローカルではそこそこのPCを使って、負荷の掛かる作業はクラウドのインスタンスにつないで処理させるのがコスパ最強説ある(まだやったことないから仮説段階)。
たとえば、AWS EC2のc8g.12xlargeはvCPUが48、メモリーは96 GiBで、スポットインスタンスだと0.2832USD/hで使用できる。一日8時間、年に200日使ったとすると、67968円の計算になる。ただし、スポットインスタンスだとインスタンスが突然落ちることも考慮する必要がある。

ゲームするならGeForce NOWを検討したい。



総論として、24時間365日ぶん回すとかしないのであれば、計算能力が高いマシンを“所有”するのは、コスパが低くなる。高い計算能力が必要な場面の頻度などに応じてどういった形の利用形態が最適なのかを検討する必要がある。

一方で、日常的なタスク(Misskeyを見るなど)において計算能力に余裕のあるマシンだと快適なのは間違いないし、クラウドのインスタンスを使うのは知識が必要かつめんどくせーというのもある。

あれ

2024/11/17 20:44:00

GPUの買い替えを検討しているのだけど、AMDAPUでばんばるのも有りかも。ROCmがワンチャンある。