transformers.onnx
2023/11/27 20:52:00
onnxに変換して量子化するコマンド
2023/12/2 18:38:00
python3 -m transformers.onnx --model=sentence-transformers/paraphrase-multilingual-mpnet-base-v2 onnx/ --opset=18
optimum-cli onnxruntime quantize --onnx_model ./onnx --output onnx_quantize/ --arm64