Transformers.js
2024/3/31 22:34:00
あれ
2025/7/27 21:12:00
そうか、ブラウザ拡張機能でLLMを使う場合、モデルを選択可能にすればいいのか。
選択肢としては下記のようにすると良さそう
- ブラウザで動くローカルモデル（Transformers.jsとか使う）
- ブラウザのAPIで動くモデル（現時点ではChromeだけが対応のはず）
- 外部API（APIキーなどは利用者が入れる）
- 自前API（プロンプトなどは学習に利用される）
あれ
2024/9/8 10:47:00
WhisperをTransformers.jsやonnxruntime-webで動かそうとしたらハゲた。
- wasm: 遅い
- webgl: ノードが対応してない
- webgpu: Linuxだと対応しているブラウザがない
whisper-web
2024/3/31 22:34:00
あれ
2024/3/31 22:29:00
React Native＋Expo、音声認識のためにネイティブライブラリが入れる方法がわからない。
おっちんちん。
もうWebAppにしてやって、transformers.jsでwhisperをしばいたほうが早い説がある。近々WebGPUに対応するらしいし。