t_wの輪郭

Feedlyでフォローするボタン
tvmをソースコードからインストール

あれ

2023/5/18 15:08:00

実行環境構築

mlc-ai/relaxをインストール

git clone --recursive https://github.com/mlc-ai/relax.git
cd relax
mkdir build
cp cmake/config.cmake build
build/config.cmakeを次のように設定してLLVMを有効化する:set(USE_LLVM ON)
cd build
cmake ..
make -j8
cd ../
export MACOSX_DEPLOYMENT_TARGET=10.9
python python/setup.py install → うまくいかないのでフォルダをコピペで無理やり入れた
注: pipでapache tvmをインストールするとrelaxがなくて詰む

pythonのあれこれを入れる

conda install numpy=1.23.5 decorator attrs pytest scipy psutil typing_extensions llvmdev scikit-learn -y
conda install -c conda-forge transformers

LLVMを入れる

brew install llvm

実行

python build.py --hf-path=databricks/dolly-v2-3b
あれ

あれ

2023/5/18 15:55:00

実行環境構築

git clone https://github.com/mlc-ai/web-llm.git
conda create -n webllm
conda activate webllm

brew install emscripten
brew install rust
brew install wasm-pack
brew install rbenv
rbenv install 3.2.2
gem update –system
gem install jekyll
gem install jekyll-remote-theme

実行