t_wの輪郭

Feedlyでフォローするボタン
LLMWebGPUTensorFlow.js

https://gigazine.net/news/20230407-chrome-webgpu-release/

Chromium用のライブラリとFirefox用のライブラリはいずれもスタンドアローンのパッケージとして利用可能であり、すでにWebGLライブラリを使用していれば簡単にWebGPUを実装できるとのこと。

TensorFlow.jsが、WebGPUのサポートを追加

開発者のFleetwood氏は、~中略~「私はあまり最適化せずに2億5000万パラメーターの大規模言語モデルをブラウザで実行しましたが、かなりうまく機能します」とコメント


あれ