sync: eqbench-vast/README.md

eqbench-vast/README.md

@@ -0,0 +1,74 @@
+# EQ-Bench3 評価 (Vast.ai + HF Inference Providers)
+
+## 構成
+
+| 役割 | 実装 | 備考 |
+|------|------|------|
+| 受験者 | TeenEmo-LFM2.5-1.2B-DPO (LoRA on vLLM) | Vast.ai L4/RTX4090 |
+| 採点者 | openai/gpt-oss-120b | HF Inference Providers / novita |
+
+採点者をHF Inference Providersに外出しすることで **OOM問題を完全に回避** し、TeenEmoに全GPUを投入できる。
+
+## 今セッションで発生した問題と修正
+
+| Fix | 問題 | 修正 |
+|-----|------|------|
+| Fix-1 | `LoRA rank 32 > max_lora_rank 16` | `--max-lora-rank 32` を追加 |
+| Fix-2 | `max_tokens=12000 > max_model_len=4096` | `--max-model-len 32768` に設定 |
+| Fix-3 | Judge URLが誤り | `https://router.huggingface.co/novita/v1/chat/completions` |
+| Fix-4 | 途中失敗で再起動不可 | `--save-interval 1` で1タスクごと保存 |
+| Fix-5 | HF APIタイムアウト | `MAX_RETRIES=6`, `RETRY_DELAY=10`, `REQUEST_TIMEOUT=300` |
+
+## 対象GPU
+
+L4 / RTX 4090 (24GB) / L40S (48GB)  
+LFM2.5-1.2B-Base (bf16 ~2.5GB) + LoRA → 24GBで十分
+
+## 推定コスト
+
+- Vast.ai: L4 ~$0.35/hr × ~30分 = **~$0.18**
+- HF Inference Providers: 46シナリオ × ~8,000 input + ~500 output tokens = **~$0.024**
+- **合計: ~$0.20**
+
+## セットアップ
+
+```bash
+export HF_TOKEN="hf_xxxx" && export HF_USERNAME="YUGOROU" && \
+curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
+  "https://huggingface.co/datasets/YUGOROU/Test-2/resolve/main/eqbench-vast/setup_eqbench_vast.sh" \
+  -o /tmp/setup_eqbench_vast.sh && bash /tmp/setup_eqbench_vast.sh
+```
+
+## 実行
+
+```bash
+# Step 1: TeenEmoサーバー起動
+tmux new-session -d -s eq_run
+tmux send-keys -t eq_run "cd /workspace/eqbench-run && export HF_TOKEN='hf_xxx' && ./serve_test_vast.sh" Enter
+
+# Step 2: 起動確認
+tmux capture-pane -t eq_run -p | grep "startup complete"
+
+# Step 3: 評価実行
+cd /workspace/eqbench-run/eqbench3
+python eqbench3.py \
+  --test-model teenemo-dpo \
+  --model-name TeenEmo-DPO \
+  --judge-model openai/gpt-oss-120b \
+  --no-elo \
+  --save-interval 1 \
+  --iterations 1
+```
+
+## 結果確認
+
+```bash
+cat /workspace/eqbench-run/eqbench3/eqbench3_runs.json | python3 -c "
+import json, sys
+data = json.load(sys.stdin)
+for k, v in data.items():
+    if 'TeenEmo' in k:
+        print(f'Score: {v.get(\"eq_bench_score\", \"N/A\")}')
+        print(f'Status: {v.get(\"status\")}')
+"
+```