feat: PR#10 - EQ-Bench3 ローカルvLLM評価スクリプト

eqbench-ja-run/README.md

@@ -0,0 +1,91 @@
+# EQ-Bench3 ローカル評価セットアップ
+
+TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価するセットアップ。  
+受験者・採点者ともに同一A100インスタンス上のローカルvLLMを使用。
+
+## モデル構成
+
+| 役割 | モデル | VRAM | ポート |
+|------|--------|------|--------|
+| 受験者 | `LiquidAI/LFM2.5-1.2B-Base` + LoRA `YUGOROU/TeenEmo-LFM2.5-1.2B-DPO` | ~3GB | 8000 |
+| 採点者 | `Qwen/Qwen3.5-35B-A3B` | ~70GB | 8001 |
+
+TeenEmoはLoRAアダプタのみ（88.9MB）のため、vLLMはベースモデルを指定して
+`--enable-lora --lora-modules` でアダプタを読み込む。
+
+## セットアップ
+
+```bash
+export HF_TOKEN="hf_xxxx" && export HF_USERNAME="YUGOROU"
+curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
+  "https://huggingface.co/datasets/YUGOROU/Test-2/resolve/main/eqbench-ja-run/setup_eqbench_run.sh" \
+  -o /tmp/setup_eqbench_run.sh && bash /tmp/setup_eqbench_run.sh
+```
+
+## 同時起動モード（推奨）
+
+```bash
+# Step 1: TeenEmo（ベース+LoRA）起動（port 8000）
+tmux new-session -d -s eq_run
+tmux new-window -t eq_run -n test
+tmux send-keys -t eq_run:test "cd /workspace/eqbench-run && export HF_TOKEN='hf_xxxx' && ./serve_test.sh" Enter
+
+# Step 2: 採点者起動（port 8001）
+tmux new-window -t eq_run -n judge
+tmux send-keys -t eq_run:judge "cd /workspace/eqbench-run && ./serve_judge.sh" Enter
+
+# Step 3: 起動確認
+tmux capture-pane -t eq_run:test -p | grep "startup complete"
+tmux capture-pane -t eq_run:judge -p | grep "startup complete"
+
+# Step 4: 評価実行
+# --test-model はserve_test.shの LORA_NAME（デフォルト: teenemo-dpo）と一致させる
+cd /workspace/eqbench-run/eqbench3
+python eqbench3.py \
+  --test-model teenemo-dpo \
+  --model-name TeenEmo-DPO \
+  --judge-model Qwen/Qwen3.5-35B-A3B \
+  --no-elo \
+  --save-interval 1 \
+  --iterations 1
+```
+
+## 順次実行モード（OOM対策）
+
+`--save-interval 1` で1タスクごとに保存。サーバー切り替え後に再実行すると
+完了済みタスクをスキップして再開できる。
+
+```bash
+# Phase 1: TeenEmoで応答生成（port 8000のみ）
+cd /workspace/eqbench-run && ./serve_test.sh &
+cd /workspace/eqbench-run/eqbench3
+python eqbench3.py \
+  --test-model teenemo-dpo \
+  --model-name TeenEmo-DPO \
+  --judge-model Qwen/Qwen3.5-35B-A3B \
+  --no-elo --save-interval 1 --iterations 1
+# Judge API失敗は想定内。--save-interval 1 で応答済みタスクは保存される
+
+# Phase 2: TeenEmo停止→Judge起動（port 8001）で採点のみ再実行
+pkill -f "vllm serve LiquidAI" 2>/dev/null || kill $(lsof -t -i:8000) 2>/dev/null || true
+JUDGE_GPU_UTIL=0.90 ./serve_judge.sh &
+python eqbench3.py \
+  --test-model teenemo-dpo \
+  --model-name TeenEmo-DPO \
+  --judge-model Qwen/Qwen3.5-35B-A3B \
+  --no-elo --save-interval 1 --iterations 1
+# 完了済みタスクはスキップされ採点のみ実行される
+```
+
+## 結果確認
+
+```bash
+cat /workspace/eqbench-run/eqbench3/eqbench3_runs.json | python3 -c "
+import json, sys
+data = json.load(sys.stdin)
+for run_id, run in data.items():
+    if 'TeenEmo' in run_id:
+        print('Run:', run_id)
+        print('Score:', run.get('eq_bench_score', 'N/A'))
+"
+```

eqbench-ja-run/serve_judge.sh

@@ -0,0 +1,48 @@
+#!/usr/bin/env bash
+# =============================================================================
+# serve_judge.sh — Qwen3.5-35B-A3B（採点者）vLLM サーバー起動
+# モデル: Qwen/Qwen3.5-35B-A3B（MoE: 35B全weights/3B active params）
+# ポート: 8001
+# VRAM使用量: ~70GB（全weights bf16）
+#
+# ⚠️ メモリ注意:
+#   A100 80GB での同時起動:
+#   - TeenEmo (serve_test.sh, GPU_UTIL=0.10) + Judge (GPU_UTIL=0.88) = ~98%
+#   - OOM する場合は serve_test.sh を停止してからこちらを起動し、
+#     順次実行モード（setup_eqbench_run.sh の指示に従う）で対応する
+#
+# Qwen3.5-35B-A3B は VLM のため --language-model-only が必要
+# (pipeline_tag: image-text-to-text, HF: https://huggingface.co/Qwen/Qwen3.5-35B-A3B)
+# =============================================================================
+
+set -euo pipefail
+
+JUDGE_MODEL="${JUDGE_MODEL:-Qwen/Qwen3.5-35B-A3B}"
+PORT="${JUDGE_PORT:-8001}"
+HOST="${VLLM_HOST:-0.0.0.0}"
+GPU_UTIL="${JUDGE_GPU_UTIL:-0.88}"
+MAX_MODEL_LEN="${JUDGE_MAX_MODEL_LEN:-8192}"
+DTYPE="${VLLM_DTYPE:-auto}"
+MAX_NUM_SEQS="${VLLM_MAX_NUM_SEQS:-16}"
+
+echo "=== Qwen3.5-35B-A3B 採点者サーバー起動 ==="
+echo "  モデル          : ${JUDGE_MODEL}"
+echo "  ポート          : ${PORT}"
+echo "  GPU 使用率      : ${GPU_UTIL}"
+echo "  ⚠️  TeenEmoと同時起動の場合は serve_test.sh の GPU_UTIL=0.10 を確認してください"
+echo ""
+
+python -c "import vllm; print(f'  vLLM バージョン : {vllm.__version__}')" 2>/dev/null || true
+echo ""
+
+exec vllm serve "${JUDGE_MODEL}" \
+    --host "${HOST}" \
+    --port "${PORT}" \
+    --dtype "${DTYPE}" \
+    --gpu-memory-utilization "${GPU_UTIL}" \
+    --max-model-len "${MAX_MODEL_LEN}" \
+    --tensor-parallel-size 1 \
+    --max-num-seqs "${MAX_NUM_SEQS}" \
+    --language-model-only \
+    --enable-prefix-caching \
+    --trust-remote-code

eqbench-ja-run/serve_test.sh

@@ -0,0 +1,44 @@
+#!/usr/bin/env bash
+# =============================================================================
+# serve_test.sh — TeenEmo（受験者）vLLM サーバー起動
+#
+# TeenEmo は LiquidAI/LFM2.5-1.2B-Base の LoRAアダプタ（88.9MB）のみを
+# HFに保存しているため、vLLMはベースモデルを指定し --enable-lora で
+# アダプタを動的にロードする形式を使用する。
+#
+# ポート: 8000
+# VRAM使用量: ~3GB（1.2B bf16、GPU_UTIL=0.10で残りをJudge用に確保）
+# =============================================================================
+
+set -euo pipefail
+
+BASE_MODEL="${TEST_BASE_MODEL:-LiquidAI/LFM2.5-1.2B-Base}"
+LORA_REPO="${TEST_LORA_REPO:-YUGOROU/TeenEmo-LFM2.5-1.2B-DPO}"
+LORA_NAME="${TEST_LORA_NAME:-teenemo-dpo}"
+PORT="${TEST_PORT:-8000}"
+HOST="${VLLM_HOST:-0.0.0.0}"
+GPU_UTIL="${TEST_GPU_UTIL:-0.10}"  # 1.2Bは軽量。judge用にVRAMを残す
+MAX_MODEL_LEN="${TEST_MAX_MODEL_LEN:-4096}"
+DTYPE="${VLLM_DTYPE:-auto}"
+HF_TOKEN="${HF_TOKEN:-}"
+
+echo "=== TeenEmo 受験者サーバー起動 ==="
+echo "  ベースモデル    : ${BASE_MODEL}"
+echo "  LoRAアダプタ   : ${LORA_REPO} (name=${LORA_NAME})"
+echo "  ポート          : ${PORT}"
+echo "  GPU 使用率      : ${GPU_UTIL} (judge用にVRAMを確保)"
+echo ""
+
+exec vllm serve "${BASE_MODEL}" \
+    --host "${HOST}" \
+    --port "${PORT}" \
+    --dtype "${DTYPE}" \
+    --gpu-memory-utilization "${GPU_UTIL}" \
+    --max-model-len "${MAX_MODEL_LEN}" \
+    --tensor-parallel-size 1 \
+    --max-num-seqs 16 \
+    --enable-prefix-caching \
+    --enable-lora \
+    --lora-modules "${LORA_NAME}=${LORA_REPO}" \
+    --trust-remote-code \
+    ${HF_TOKEN:+--hf-token "${HF_TOKEN}"}

eqbench-ja-run/setup_eqbench_run.sh

@@ -0,0 +1,134 @@
+#!/usr/bin/env bash
+# =============================================================================
+# setup_eqbench_run.sh — EQ-Bench3 日本語版 評価実行セットアップ
+#
+# やること:
+#   1. EQ-Bench3 リポジトリのクローン（翻訳済みファイルに差し替え）
+#   2. 依存関係のインストール
+#   3. .env ファイルの生成（ローカルvLLMを向く）
+#   4. 各種 serve スクリプトの配置
+#   5. 実行手順の表示
+# =============================================================================
+
+set -euo pipefail
+
+WORKSPACE="/workspace/eqbench-run"
+EQBENCH_REPO="https://github.com/EQ-bench/eqbench3.git"
+HF_SCRIPTS="https://huggingface.co/datasets/YUGOROU/Test-2/resolve/main/eqbench-ja-run"
+
+echo "[setup] EQ-Bench3 評価環境セットアップ"
+
+# ── 依存関係 ──────────────────────────────────────────────────
+echo "[setup] 依存関係のインストール..."
+pip install -q requests python-dotenv tqdm numpy scipy trueskill 2>/dev/null || true
+
+# ── EQ-Bench3 クローン ────────────────────────────────────────
+mkdir -p "${WORKSPACE}"
+if [ -d "${WORKSPACE}/eqbench3" ]; then
+    echo "[setup] EQ-Bench3 既存リポジトリを更新中..."
+    git -C "${WORKSPACE}/eqbench3" pull --ff-only || true
+else
+    echo "[setup] EQ-Bench3 をクローン中..."
+    git clone --depth=1 "${EQBENCH_REPO}" "${WORKSPACE}/eqbench3"
+fi
+
+# ── 翻訳済みファイルをHFからDL（存在する場合）──────────────
+echo "[setup] 翻訳済みシナリオファイルのDL..."
+PREF_DATASET="YUGOROU/teememo-eq-bench-ja"
+for fname in scenario_prompts_ja.txt scenario_notes_ja.txt; do
+    OUT="${WORKSPACE}/eqbench3/data/${fname}"
+    if curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
+        "https://huggingface.co/datasets/${PREF_DATASET}/resolve/main/data/${fname}" \
+        -o "${OUT}" 2>/dev/null; then
+        echo "[setup]   ✅ ${fname} DL完了"
+    else
+        echo "[setup]   ⚠️  ${fname} は未生成（先に translate_eqbench.py を実行してください）"
+    fi
+done
+
+# ── serve スクリプトのDL ──────────────────────────────────────
+echo "[setup] serve スクリプトのDL..."
+for script in serve_test.sh serve_judge.sh; do
+    curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
+        "${HF_SCRIPTS}/${script}" \
+        -o "${WORKSPACE}/${script}"
+    chmod +x "${WORKSPACE}/${script}"
+    echo "[setup]   ✅ ${script}"
+done
+
+# ── .env ファイルの生成 ───────────────────────────────────────
+echo "[setup] .env ファイルを生成中..."
+cat > "${WORKSPACE}/eqbench3/.env" << ENVEOF
+# =============================================================================
+# EQ-Bench3 ローカルvLLM設定（自動生成）
+# 受験者: LFM2.5-1.2B-Base + TeenEmo LoRA (port 8000, lora name=teenemo-dpo)
+# 採点者: Qwen3.5-35B-A3B (port 8001)
+# =============================================================================
+
+# 受験者: TeenEmo（ローカルvLLM port 8000）
+# モデル名は --lora-modules で指定した name= と一致させる
+TEST_API_URL=http://localhost:8000/v1/chat/completions
+TEST_API_KEY=dummy
+
+# 採点者: Qwen3.5-35B-A3B（ローカルvLLM port 8001）
+JUDGE_API_URL=http://localhost:8001/v1/chat/completions
+JUDGE_API_KEY=dummy
+
+# API設定
+MAX_RETRIES=3
+RETRY_DELAY=5
+REQUEST_TIMEOUT=300
+ENVEOF
+echo "[setup]   ✅ .env 生成完了"
+
+# ── シナリオファイルの差し替え（日本語版が存在する場合）──────
+JA_PROMPTS="${WORKSPACE}/eqbench3/data/scenario_prompts_ja.txt"
+EN_PROMPTS="${WORKSPACE}/eqbench3/data/scenario_prompts.txt"
+if [ -f "${JA_PROMPTS}" ]; then
+    cp "${EN_PROMPTS}" "${EN_PROMPTS}.bak"
+    cp "${JA_PROMPTS}" "${EN_PROMPTS}"
+    echo "[setup] ✅ scenario_prompts.txt を日本語版に差し替えました（英語版は .bak として保存）"
+else
+    echo "[setup] ⚠️  日本語版シナリオが未生成のため英語版で動作します"
+fi
+
+JA_NOTES="${WORKSPACE}/eqbench3/data/scenario_notes_ja.txt"
+EN_NOTES="${WORKSPACE}/eqbench3/data/scenario_notes.txt"
+if [ -f "${JA_NOTES}" ]; then
+    cp "${EN_NOTES}" "${EN_NOTES}.bak"
+    cp "${JA_NOTES}" "${EN_NOTES}"
+    echo "[setup] ✅ scenario_notes.txt を日本語版に差し替えました"
+fi
+
+echo ""
+echo "[setup] =============================="
+echo "[setup] セットアップ完了"
+echo "[setup] 作業ディレクトリ: ${WORKSPACE}"
+echo "[setup] =============================="
+echo ""
+echo "【実行手順】"
+echo ""
+echo "# Step 1: TeenEmo サーバー起動（port 8000）"
+echo "tmux new-session -d -s eq_run"
+echo "tmux new-window -t eq_run -n test"
+echo "tmux send-keys -t eq_run:test \"cd ${WORKSPACE} && export HF_TOKEN='\$HF_TOKEN' && ./serve_test.sh\" Enter"
+echo ""
+echo "# Step 2: 採点者サーバー起動（port 8001）"
+echo "tmux new-window -t eq_run -n judge"
+echo "tmux send-keys -t eq_run:judge \"cd ${WORKSPACE} && ./serve_judge.sh\" Enter"
+echo ""
+echo "# Step 3: 両サーバーの起動を確認"
+echo "tmux capture-pane -t eq_run:test -p | tail -3"
+echo "tmux capture-pane -t eq_run:judge -p | tail -3"
+echo ""
+echo "# Step 4: EQ-Bench3 実行（loraモデル名はserve_test.shのLORA_NAMEと一致）"
+echo "cd ${WORKSPACE}/eqbench3"
+echo "python eqbench3.py \\"
+echo "  --test-model teenemo-dpo \\"
+echo "  --model-name TeenEmo-DPO \\"
+echo "  --judge-model Qwen/Qwen3.5-35B-A3B \\"
+echo "  --no-elo \\"
+echo "  --save-interval 1 \\"
+echo "  --iterations 1"
+echo ""
+echo "⚠️  OOMが発生した場合は順次実行モードを使用してください（README参照）"