feat: PR#12 - Vast.ai + HF Inference Providers統合・エラーハンドリング改善

eqbench-vast/README.md

@@ -0,0 +1,74 @@
+# EQ-Bench3 評価 (Vast.ai + HF Inference Providers)
+
+## 構成
+
+| 役割 | 実装 | 備考 |
+|------|------|------|
+| 受験者 | TeenEmo-LFM2.5-1.2B-DPO (LoRA on vLLM) | Vast.ai L4/RTX4090 |
+| 採点者 | openai/gpt-oss-120b | HF Inference Providers / novita |
+
+採点者をHF Inference Providersに外出しすることで **OOM問題を完全に回避** し、TeenEmoに全GPUを投入できる。
+
+## 今セッションで発生した問題と修正
+
+| Fix | 問題 | 修正 |
+|-----|------|------|
+| Fix-1 | `LoRA rank 32 > max_lora_rank 16` | `--max-lora-rank 32` を追加 |
+| Fix-2 | `max_tokens=12000 > max_model_len=4096` | `--max-model-len 32768` に設定 |
+| Fix-3 | Judge URLが誤り | `https://router.huggingface.co/novita/v1/chat/completions` |
+| Fix-4 | 途中失敗で再起動不可 | `--save-interval 1` で1タスクごと保存 |
+| Fix-5 | HF APIタイムアウト | `MAX_RETRIES=6`, `RETRY_DELAY=10`, `REQUEST_TIMEOUT=300` |
+
+## 対象GPU
+
+L4 / RTX 4090 (24GB) / L40S (48GB)  
+LFM2.5-1.2B-Base (bf16 ~2.5GB) + LoRA → 24GBで十分
+
+## 推定コスト
+
+- Vast.ai: L4 ~$0.35/hr × ~30分 = **~$0.18**
+- HF Inference Providers: 46シナリオ × ~8,000 input + ~500 output tokens = **~$0.024**
+- **合計: ~$0.20**
+
+## セットアップ
+
+```bash
+export HF_TOKEN="hf_xxxx" && export HF_USERNAME="YUGOROU" && \
+curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
+  "https://huggingface.co/datasets/YUGOROU/Test-2/resolve/main/eqbench-vast/setup_eqbench_vast.sh" \
+  -o /tmp/setup_eqbench_vast.sh && bash /tmp/setup_eqbench_vast.sh
+```
+
+## 実行
+
+```bash
+# Step 1: TeenEmoサーバー起動
+tmux new-session -d -s eq_run
+tmux send-keys -t eq_run "cd /workspace/eqbench-run && export HF_TOKEN='hf_xxx' && ./serve_test_vast.sh" Enter
+
+# Step 2: 起動確認
+tmux capture-pane -t eq_run -p | grep "startup complete"
+
+# Step 3: 評価実行
+cd /workspace/eqbench-run/eqbench3
+python eqbench3.py \
+  --test-model teenemo-dpo \
+  --model-name TeenEmo-DPO \
+  --judge-model openai/gpt-oss-120b \
+  --no-elo \
+  --save-interval 1 \
+  --iterations 1
+```
+
+## 結果確認
+
+```bash
+cat /workspace/eqbench-run/eqbench3/eqbench3_runs.json | python3 -c "
+import json, sys
+data = json.load(sys.stdin)
+for k, v in data.items():
+    if 'TeenEmo' in k:
+        print(f'Score: {v.get(\"eq_bench_score\", \"N/A\")}')
+        print(f'Status: {v.get(\"status\")}')
+"
+```

eqbench-vast/serve_test_vast.sh

@@ -0,0 +1,56 @@
+#!/usr/bin/env bash
+# =============================================================================
+# serve_test_vast.sh — TeenEmo 受験者サーバー (Vast.ai L4/RTX4090/L40S)
+#
+# 今セッションで判明した問題の修正:
+#   [Fix-1] --max-lora-rank 32: UnslothのLoRAはrank=32のためデフォルト値16では起動失敗
+#   [Fix-2] --max-model-len 32768: EQ-Bench3はmax_tokens=12000を要求するため
+#            max_model_len >= 12000 + プロンプト長 が必要
+#   [Fix-3] --gpu-memory-utilization 0.95: TeenEmo専用インスタンスのため全GPU投入
+#
+# 採点者はHF Inference Providers (novita/gpt-oss-120b) を使用するため
+# Judge用のVRAMを確保する必要はない。
+#
+# 対象GPU: L4 (24GB) / RTX 4090 (24GB) / L40S (48GB)
+#   LFM2.5-1.2B-Base (bf16 ~2.5GB) + LoRA overhead → 24GBで十分
+# =============================================================================
+
+set -euo pipefail
+
+BASE_MODEL="${TEST_BASE_MODEL:-LiquidAI/LFM2.5-1.2B-Base}"
+LORA_REPO="${TEST_LORA_REPO:-YUGOROU/TeenEmo-LFM2.5-1.2B-DPO}"
+LORA_NAME="${TEST_LORA_NAME:-teenemo-dpo}"
+PORT="${TEST_PORT:-8000}"
+HOST="${VLLM_HOST:-0.0.0.0}"
+# [Fix-3] TeenEmo専用インスタンスのため全GPU投入
+GPU_UTIL="${TEST_GPU_UTIL:-0.95}"
+# [Fix-2] EQ-Bench3がmax_tokens=12000を要求 + プロンプト長を考慮して32768に設定
+MAX_MODEL_LEN="${TEST_MAX_MODEL_LEN:-32768}"
+DTYPE="${VLLM_DTYPE:-auto}"
+HF_TOKEN="${HF_TOKEN:-}"
+
+echo "=== TeenEmo 受験者サーバー起動 (Vast.ai 専用) ==="
+echo "  ベースモデル    : ${BASE_MODEL}"
+echo "  LoRAアダプタ    : ${LORA_REPO} (name=${LORA_NAME})"
+echo "  ポート          : ${PORT}"
+echo "  GPU 使用率      : ${GPU_UTIL} (TeenEmo専用)"
+echo "  最大コンテキスト: ${MAX_MODEL_LEN} (EQ-Bench3: max_tokens=12000 対応)"
+echo ""
+
+python -c "import vllm; print(f'  vLLM: {vllm.__version__}')" 2>/dev/null || true
+echo ""
+
+exec vllm serve "${BASE_MODEL}" \
+    --host "${HOST}" \
+    --port "${PORT}" \
+    --dtype "${DTYPE}" \
+    --gpu-memory-utilization "${GPU_UTIL}" \
+    --max-model-len "${MAX_MODEL_LEN}" \
+    --tensor-parallel-size 1 \
+    --max-num-seqs 16 \
+    --enable-prefix-caching \
+    --enable-lora \
+    --max-lora-rank 32 \
+    --lora-modules "${LORA_NAME}=${LORA_REPO}" \
+    --trust-remote-code \
+    ${HF_TOKEN:+--hf-token "${HF_TOKEN}"}

eqbench-vast/setup_eqbench_vast.sh

@@ -0,0 +1,126 @@
+#!/usr/bin/env bash
+# =============================================================================
+# setup_eqbench_vast.sh — EQ-Bench3 評価セットアップ (Vast.ai + HF Inference Providers)
+#
+# 構成:
+#   受験者: TeenEmo-LFM2.5-1.2B-DPO (LoRA) on Vast.ai vLLM (port 8000)
+#   採点者: openai/gpt-oss-120b via HF Inference Providers / novita
+#           → 別インスタンス不要・OOM不要・$0.05/$0.25 per 1M tokens
+#
+# 今セッションで判明した問題と対策:
+#   [Fix-1] max_lora_rank=32: Unsloth LoRAはrank=32のためデフォルト16では失敗
+#   [Fix-2] max_model_len=32768: EQ-Bench3のmax_tokens=12000に対応
+#   [Fix-3] HF Inference ProvidersのJudge URL: router.huggingface.co/novita
+#   [Fix-4] --save-interval 1: 1タスクごとに保存して途中再開を保証
+#   [Fix-5] MAX_RETRIES=6, REQUEST_TIMEOUT=300: HF APIのレート制限・遅延に対応
+# =============================================================================
+
+set -euo pipefail
+
+HF_TOKEN="${HF_TOKEN:?HF_TOKEN が未設定です。export HF_TOKEN='hf_xxxx'}"
+HF_USERNAME="${HF_USERNAME:-YUGOROU}"
+WORKSPACE="/workspace/eqbench-run"
+TEST_PORT="${TEST_PORT:-8000}"
+LORA_NAME="${TEST_LORA_NAME:-teenemo-dpo}"
+
+echo "[setup] EQ-Bench3 Vast.ai セットアップ"
+echo "[setup] 採点者: HF Inference Providers / novita / gpt-oss-120b"
+
+# ── 依存パッケージ ──────────────────────────────────────────
+echo "[setup] 依存パッケージのインストール..."
+pip install -q requests python-dotenv tqdm numpy scipy trueskill 2>/dev/null || true
+apt-get install -y tmux git 2>/dev/null || true
+
+# ── EQ-Bench3 クローン ────────────────────────────────────────
+mkdir -p "${WORKSPACE}"
+if [ -d "${WORKSPACE}/eqbench3" ]; then
+    echo "[setup] EQ-Bench3 更新中..."
+    git -C "${WORKSPACE}/eqbench3" pull --ff-only 2>/dev/null || true
+else
+    echo "[setup] EQ-Bench3 クローン中..."
+    git clone --depth=1 https://github.com/EQ-bench/eqbench3.git "${WORKSPACE}/eqbench3"
+fi
+echo "[setup] ✅ EQ-Bench3"
+
+# ── 日本語版シナリオDL（存在する場合） ────────────────────
+echo "[setup] 日本語版シナリオをDL中..."
+for pair in \
+    "scenario_prompts_ja.txt|${WORKSPACE}/eqbench3/data/scenario_prompts.txt" \
+    "scenario_notes_ja.txt|${WORKSPACE}/eqbench3/data/scenario_notes.txt"; do
+    SRC="${pair%%|*}"; DEST="${pair##*|}"
+    cp "${DEST}" "${DEST}.en.bak" 2>/dev/null || true
+    if curl -sfL -H "Authorization: Bearer ${HF_TOKEN}" \
+        "https://huggingface.co/datasets/${HF_USERNAME}/teememo-eq-bench-ja/resolve/main/data/${SRC}" \
+        -o "${DEST}"; then
+        echo "[setup] ✅ 日本語版差し替え: $(basename ${DEST})"
+    else
+        cp "${DEST}.en.bak" "${DEST}" 2>/dev/null || true
+        echo "[setup] ⚠️ 英語版を使用: $(basename ${DEST})"
+    fi
+done
+
+# ── serve_test_vast.sh DL ────────────────────────────────────
+curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
+    "https://huggingface.co/datasets/${HF_USERNAME}/Test-2/resolve/main/eqbench-vast/serve_test_vast.sh" \
+    -o "${WORKSPACE}/serve_test_vast.sh"
+chmod +x "${WORKSPACE}/serve_test_vast.sh"
+echo "[setup] ✅ serve_test_vast.sh"
+
+# ── .env 生成 ─────────────────────────────────────────────────
+# [Fix-3] HF Inference Providers の正しいURL
+# [Fix-5] タイムアウト・リトライ値を強化
+cat > "${WORKSPACE}/eqbench3/.env" << ENVEOF
+# ==========================================================
+# EQ-Bench3 設定 (Vast.ai + HF Inference Providers)
+# 自動生成: $(date -u +%Y-%m-%dT%H:%M:%SZ)
+#
+# 受験者: TeenEmo LoRA on vLLM (localhost:${TEST_PORT})
+#   [Fix-1] --max-lora-rank 32 をserve_test_vast.shで設定済み
+#   [Fix-2] --max-model-len 32768 をserve_test_vast.shで設定済み
+#
+# 採点者: openai/gpt-oss-120b via HF Inference Providers (novita)
+#   推定コスト: ~$0.024 (46シナリオ, Pro $2クレジット内)
+#   Input: $0.05/1M tokens, Output: $0.25/1M tokens
+# ==========================================================
+
+# 受験者: TeenEmo (vLLM ローカル)
+TEST_API_URL=http://localhost:${TEST_PORT}/v1/chat/completions
+TEST_API_KEY=dummy
+
+# [Fix-3] 採点者: HF Inference Providers → novita → gpt-oss-120b
+JUDGE_API_URL=https://router.huggingface.co/novita/v1/chat/completions
+JUDGE_API_KEY=${HF_TOKEN}
+
+# [Fix-5] HF APIのレート制限・遅延対応
+MAX_RETRIES=6
+RETRY_DELAY=10
+REQUEST_TIMEOUT=300
+ENVEOF
+echo "[setup] ✅ .env 生成完了"
+
+echo ""
+echo "[setup] =============================="
+echo "[setup] セットアップ完了"
+echo "[setup] =============================="
+echo ""
+echo "【実行手順】"
+echo ""
+echo "# Step 1: tmuxセッション作成 + TeenEmoサーバー起動"
+echo "tmux new-session -d -s eq_run"
+echo "tmux send-keys -t eq_run \"cd ${WORKSPACE} && export HF_TOKEN='${HF_TOKEN}' && ./serve_test_vast.sh\" Enter"
+echo ""
+echo "# Step 2: 起動確認（Application startup complete. まで待つ）"
+echo "tmux capture-pane -t eq_run -p | tail -5"
+echo ""
+echo "# Step 3: EQ-Bench3 実行"
+echo "cd ${WORKSPACE}/eqbench3"
+echo "python eqbench3.py \\"
+echo "  --test-model ${LORA_NAME} \\"
+echo "  --model-name TeenEmo-DPO \\"
+echo "  --judge-model openai/gpt-oss-120b \\"
+echo "  --no-elo \\"
+echo "  --save-interval 1 \\"
+echo "  --iterations 1"
+echo ""
+echo "# [Fix-4] 途中で失敗した場合は再実行するとチェックポイントから再開"
+echo "# 完了済みタスクはスキップされる"