あれ
実行環境構築
mlc-ai/relaxをインストール
git clone --recursive https://github.com/mlc-ai/relax.git
cd relax
mkdir build
cp cmake/config.cmake build
build/config.cmakeを次のように設定してLLVMを有効化する:set(USE_LLVM ON)
cd build
cmake ..
make -j8
cd ../
export MACOSX_DEPLOYMENT_TARGET=10.9
python python/setup.py install
→ うまくいかないのでフォルダをコピペで無理やり入れた
注: pipでapache tvmをインストールするとrelax
がなくて詰む
pythonのあれこれを入れる
conda install numpy=1.23.5 decorator attrs pytest scipy psutil typing_extensions llvmdev scikit-learn -y
conda install -c conda-forge transformers
LLVMを入れる
brew install llvm
実行
python build.py --hf-path=databricks/dolly-v2-3b