『1つの大きなLLM(大規模言語モデル)を複数のGPUで力を合わせて動かそう | IIJ Engineers Blog』
あれ
ちょっと寒いしGPU回して暖を取るか
『A custom autocomplete model in 30 minutes using Unsloth (Community post)』を試す。
Colaboratoryでポチポチしたらなんか学習が動かせたっぽい。
なお部屋は温まっていない模様。
Tesla P40
iGPU
Instinct MI50
Instinct MI25
あれ
赤字生活。
アレヤコレヤで貯金がグイングイン減ってる。
忙しくなると、ストレスから、Amazonでバンバン買っちゃって、クレカ支払がすごいことになる。
9月が激務の予定なので備えねば。
GPUにコードをかかせているので、GPUをアップグレードしてやれば激務を乗り越えられるはずだ!!!つってクソデカ出費してしまいそう。
RTX 4070ほしいよ〜〜。GTX 1070Tiからアップグレードしたいよ〜〜。
でも、RTX 4070のメモリーが12GBなので、GTX 1070Tiの8GBから1.5倍にしかならなくて、ちょっと「なんかちがうくない?」ってなる。
研究室のGPUマシンにOllama突っ込んで、VSCodeつなぐか。むしろ、研究室のGPUマシンにCoderとか入れたら良いのかも。
NVIDIA GPU
あれ
あるいはColaboratoryの有償プランを契約しても良い。
強いGPUが使えるようになる。
あれ
Nvidiaの株価が上がった話を聞いてると、株買っとけばよかったなとなる。
大規模言語モデルにGPUが使われているのだから簡単に分かった話だ。
証券口座を作るのをめんどくさがってしまった。
ただ、これからは違う。証券口座を作る手続きを進めているのだ。
次の波には乗りたい。
WebGPU
GPGPU
CPUの電源ケーブルが足りなかった
今まで使っていたケーブルを流用しようとしたところ、今まで1本でよかったのが2本必要になり不足してしまった。GPUにつなげるケーブルとはまた種類が違うらしい。GPUにつなげるケーブルだけは4本もある。
CPUの電源ケーブルを追加購入した。1700円也。
長さも足りなかった。延長ケーブルを追加購入した。990円也。