WebGPU
2023/4/9 4:16:00
burnwgpucompute.toysWebGPUで遺伝的プログラミングあれWGSLあれ『Possibility of SPIR-V and/or GLSL as a WebGPU extension?』『[js/WebGPU] webgpu performance gains not showing with transformers.js』『GPUを使ってウェブ上のグラフィックスを改善するWebGLの後継API「WebGPU」がChrome 113ベータ版で利用可能に』abi/secret-llama: Fully private LLM chatbot that runs entirely with a browser with no server needed. Supports Mistral and LLama 3.あれWebGPUの制約あれwgpu-nativeあれ
burn
2024/1/15 23:04:00
compute.toys
2023/7/17 22:45:00
あれ
2023/7/17 13:26:00
WGSLのコード内の条件分岐の数が2倍になると、compute pipelineの作成にかかる時間が10倍になった現象は、Macにおいてのみ低速な可能性がある。
MTLCompilerServiceがCPU100%に張り付いている。
WGSL → SRIP−V → Metal Shading Languageと変換される部分の、SRIP−V → Metal Shading Language が時間を取っている、ような気がする。
Windowsでも再現することが確認できた。
200個の条件分岐があるとpipelineの作成が200秒程度かかる。
『Possibility of SPIR-V and/or GLSL as a WebGPU extension?』
2023/7/11 23:16:00
あれ
2023/7/7 20:55:00
WebGPUをネイティブで動かす、wgpu-nativeという得体の知れないライブラリを使っている。
WebGPUならWindowsでもMacでも動いてお得なので。
そして、それを使って遺伝的プログラミングを動かそうとしている。おそらくWebGPUで遺伝的プログラミングは世界初だろう。ニッチすぎてやる人がいない。
WebGPUで遺伝的プログラミング
2023/7/7 20:51:00
あれ
2023/7/4 0:19:00
WebGPUはコンピュートシェーダーとかいうGPGPU用のシェーダーが使えるので、スマホでWebGPUが使えるようになると色々捗る予感。
https://gigazine.net/news/20230407-chrome-webgpu-release/
Chromium用のライブラリとFirefox用のライブラリはいずれもスタンドアローンのパッケージとして利用可能であり、すでにWebGLライブラリを使用していれば簡単にWebGPUを実装できるとのこと。
TensorFlow.jsが、WebGPUのサポートを追加
開発者のFleetwood氏は、～中略～「私はあまり最適化せずに2億5000万パラメーターの大規模言語モデルをブラウザで実行しましたが、かなりうまく機能します」とコメント