Google Colabの有償契約したった！
NVIDIA A100速い！
学習時間が1070 Tiの1/20になった！
GTX 1070Ti
2024/9/1 15:24:00
あれ
2023/8/13 13:14:00
あれ
2023/8/11 17:00:00
やったー
幣WindowsでGPUでALBERTのSimCSEの学習ができるようになったぞ
1回の学習にかかる時間が40時間から2時間に短縮された
それでもGoogle Colabと比べると２倍時間かかるので、良いぱしょこんが欲しい
1070 Tiはそろそろ買い替えていい頃合いと思う
あれ
2024/5/7 22:44:00
1070Tiとか言う化石みたいなGPUでも動くLLMがまともな回答するようになってて怖い
あれ
2024/4/14 13:25:00
ウっ、torch.cuda.OutOfMemoryErrorで死んだ。
torch_dtype=torch.bfloat16つけたらギリ行けた。
1万字つっこもうとしたらtorch.cuda.OutOfMemoryErrorでまた死んだ。