File size: 3,996 Bytes
e0a2967 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 | #!/usr/bin/env bash
# ================================================================
# setup.sh — TeenEmo Vast.ai セットアップスクリプト
# ================================================================
# HF Hub から取得する場合:
# export ZIP_URL="https://huggingface.co/datasets/YUGOROU/xxx/resolve/main/teememo-synth-complete.zip"
# curl <this_script_url> | bash
# ================================================================
set -eo pipefail # -u は外す（変数展開の問題を避けるため）
GREEN='\033[0;32m'; YELLOW='\033[1;33m'; RED='\033[0;31m'; NC='\033[0m'
info() { echo -e "${GREEN}[setup]${NC} $*"; }
warn() { echo -e "${YELLOW}[setup]${NC} $*"; }
error() { echo -e "${RED}[setup]${NC} $*" >&2; exit 1; }
# ── 設定 ──────────────────────────────────────────────────────
ZIP_NAME="teememo-synth-complete.zip"
INSTALL_DIR="/workspace/teememo-synth"
# ZIP_URL は環境変数で上書き可能、デフォルトは GitHub Releases
if [ -z "${ZIP_URL}" ]; then
ZIP_URL="https://github.com/YUGOROU/teememo-synth/releases/latest/download/${ZIP_NAME}"
fi
# ── 環境変数チェック ──────────────────────────────────────────
info "環境変数を確認中..."
[ -z "${HF_TOKEN}" ] && error "HF_TOKEN が未設定です。 export HF_TOKEN='hf_xxxx'"
[ -z "${HF_USERNAME}" ] && error "HF_USERNAME が未設定です。 export HF_USERNAME='yourname'"
info "HF_TOKEN / HF_USERNAME: OK"
# ── uv ────────────────────────────────────────────────────────
if ! command -v uv >/dev/null 2>&1; then
info "uv をインストール中..."
curl -LsSf https://astral.sh/uv/install.sh | sh
export PATH="${HOME}/.local/bin:${HOME}/.cargo/bin:${PATH}"
else
info "uv は既にインストール済み: $(uv --version)"
fi
# ── 依存パッケージ ────────────────────────────────────────────
# vllm/vllm-openai イメージには vLLM が既に含まれる
info "依存パッケージをインストール中..."
# vLLM 0.17+ が Qwen3.5 対応の最低要件
uv pip install --system -U vllm
uv pip install --system httpx "huggingface_hub>=0.24" "transformers>=5.0.0"
info "インストール完了"
# ── ZIP ダウンロード & 展開 ───────────────────────────────────
info "ダウンロード中: ${ZIP_URL}"
mkdir -p /workspace
cd /workspace
curl -fL -H "Authorization: Bearer ${HF_TOKEN}" -o "${ZIP_NAME}" "${ZIP_URL}" \
|| error "ダウンロード失敗: ${ZIP_URL}"
info "展開中..."
python3 -c "import zipfile; zipfile.ZipFile('${ZIP_NAME}').extractall('/workspace')"
rm -f "${ZIP_NAME}"
info "展開完了: ${INSTALL_DIR}"
chmod +x "${INSTALL_DIR}/serve.sh"
# ── 動作確認 ──────────────────────────────────────────────────
info "インポートチェック中..."
python3 -c "
import httpx, huggingface_hub, vllm
print(' httpx :', httpx.__version__)
print(' huggingface_hub :', huggingface_hub.__version__)
print(' vllm :', vllm.__version__)
"
echo ""
echo -e "${GREEN}========================================${NC}"
echo -e "${GREEN} セットアップ完了！${NC}"
echo -e "${GREEN}========================================${NC}"
echo ""
echo " cd ${INSTALL_DIR}"
echo " ./serve.sh & # vLLM 起動"
echo " python generate_sft.py --dry-run # 動作確認"
echo " python generate_sft.py # 本番"
echo " python generate_pref.py"
echo ""
|