feat: PR#11 - EQ-Bench3 macOS評価セットアップ (uv + llama-cpp + HF Inference Providers)

eqbench-mac/setup_eqbench_mac.sh

@@ -1,191 +1,99 @@
 #!/usr/bin/env bash
-# =============================================================================
-# setup_eqbench_mac.sh — EQ-Bench3 macOS / M3 MacBook セットアップ
-#
-# 構成:
-#   受験者: YUGOROU/TeenEmo-LFM2.5-1.2B-GGUF (llama-cpp, Metal加速)
-#   採点者: openai/gpt-oss-120b via HF Inference Providers (novita)
-#
-# 前提:
-#   - uv がインストール済み (curl -LsSf https://astral.sh/uv/install.sh | sh)
-#   - Homebrew がインストール済み
-#   - HF_TOKEN: HuggingFace Pro プランのトークン
-#
-# 使用方法:
-#   export HF_TOKEN="hf_xxxx"
-#   bash setup_eqbench_mac.sh
-# =============================================================================
+# EQ-Bench3 macOS / M3 MacBook セットアップ
+# 受験者: TeenEmo MLX (mlx_lm.server, port 8000)
+# 採点者: openai/gpt-oss-120b via HF Inference Providers / novita
 
 set -euo pipefail
 
-HF_TOKEN="${HF_TOKEN:?HF_TOKEN が未設定です。export HF_TOKEN='hf_xxxx' を実行してください。}"
+HF_TOKEN="${HF_TOKEN:?HF_TOKEN が未設定です。}"
 WORKSPACE="${HOME}/eqbench-teenemo"
-EQBENCH_REPO="https://github.com/EQ-bench/eqbench3.git"
 VENV_DIR="${WORKSPACE}/.venv"
-GGUF_DIR="${WORKSPACE}/models"
-GGUF_REPO="YUGOROU/TeenEmo-LFM2.5-1.2B-GGUF"
-GGUF_FILE="LFM2.5-1.2B-Base.Q4_K_M.gguf"
-LLAMA_SERVER_PORT="${LLAMA_SERVER_PORT:-8000}"
+PORT="${LLAMA_SERVER_PORT:-8000}"
+# mlx-community の6bit量子化済みモデル（MLX-native・ダウンロード小・変換不要）
+BASE_MODEL="LiquidAI/LFM2.5-1.2B-Base"
+LORA_REPO="YUGOROU/TeenEmo-LFM2.5-1.2B-DPO"
+LORA_LOCAL="${WORKSPACE}/adapters/teenemo-dpo"
 
 echo "======================================"
 echo " EQ-Bench3 macOS セットアップ"
 echo " 作業ディレクトリ: ${WORKSPACE}"
 echo "======================================"
-echo ""
-
-# ── 1. llama-cpp インストール (Homebrew) ──────────────────────
-echo "[1/6] llama-cpp の確認..."
-if ! command -v llama-server &>/dev/null; then
-    echo "  llama-cpp をインストール中 (Metal対応)..."
-    brew install llama.cpp
-    echo "  ✅ llama-cpp インストール完了"
-else
-    echo "  ✅ llama-cpp 確認済み: $(llama-server --version 2>&1 | head -1)"
-fi
 
-# ── 2. 作業ディレクトリ作成 ────────────────────────────────────
-echo ""
-echo "[2/6] ディレクトリ作成..."
-mkdir -p "${WORKSPACE}" "${GGUF_DIR}"
+mkdir -p "${WORKSPACE}"
 
-# ── 3. EQ-Bench3 クローン ──────────────────────────────────────
-echo ""
-echo "[3/6] EQ-Bench3 クローン..."
+# EQ-Bench3 クローン
 if [ -d "${WORKSPACE}/eqbench3" ]; then
-    echo "  既存リポジトリを更新中..."
-    git -C "${WORKSPACE}/eqbench3" pull --ff-only 2>/dev/null || echo "  (更新スキップ)"
+    git -C "${WORKSPACE}/eqbench3" pull --ff-only 2>/dev/null || true
 else
-    git clone --depth=1 "${EQBENCH_REPO}" "${WORKSPACE}/eqbench3"
+    git clone --depth=1 https://github.com/EQ-bench/eqbench3.git "${WORKSPACE}/eqbench3"
 fi
-echo "  ✅ ${WORKSPACE}/eqbench3"
+echo "✅ EQ-Bench3"
 
-# ── 4. uv 仮想環境 + 依存関係インストール ────────────────────
-echo ""
-echo "[4/6] uv 仮想環境セットアップ..."
+# uv 仮想環境 + 依存関係
 cd "${WORKSPACE}/eqbench3"
-
-if [ ! -d "${VENV_DIR}" ]; then
-    uv venv "${VENV_DIR}" --python 3.11
-    echo "  ✅ 仮想環境作成: ${VENV_DIR}"
-fi
-
-# requirements.txt から依存パッケージをインストール
+uv venv "${VENV_DIR}" --python 3.11 2>/dev/null || true
 uv pip install --python "${VENV_DIR}/bin/python" \
-    -r requirements.txt \
-    huggingface_hub \
-    2>/dev/null
-echo "  ✅ 依存パッケージインストール完了"
-
-# ── 5. TeenEmo GGUF ダウンロード ───────────────────────────────
-echo ""
-echo "[5/6] TeenEmo GGUF ダウンロード..."
-GGUF_PATH="${GGUF_DIR}/${GGUF_FILE}"
-
-if [ -f "${GGUF_PATH}" ]; then
-    echo "  ✅ GGUF 既存: ${GGUF_PATH}"
-else
-    echo "  ダウンロード中: ${GGUF_REPO}/${GGUF_FILE}"
-    "${VENV_DIR}/bin/python" -c "
-from huggingface_hub import hf_hub_download
-import os
-path = hf_hub_download(
-    repo_id='${GGUF_REPO}',
-    filename='${GGUF_FILE}',
-    repo_type='model',
-    token='${HF_TOKEN}',
-    local_dir='${GGUF_DIR}',
+    -r requirements.txt mlx-lm huggingface_hub
+echo "✅ 依存パッケージ"
+
+# LoRAアダプタをローカルにダウンロード
+# mlx_lm.server はHFリポジトリIDを直接受け付けないためローカルパスが必要
+echo "LoRAアダプタをダウンロード中: ${LORA_REPO} → ${LORA_LOCAL}"
+"${VENV_DIR}/bin/python" - << PYEOF
+from huggingface_hub import snapshot_download
+path = snapshot_download(
+    repo_id="${LORA_REPO}",
+    repo_type="model",
+    token="${HF_TOKEN}",
+    local_dir="${LORA_LOCAL}",
 )
-print(f'  ✅ ダウンロード完了: {path}')
-"
-fi
+print(f"✅ LoRAアダプタ: {path}")
+PYEOF
 
-# ── 6. .env ファイル生成 ────────────────────────────────────────
-echo ""
-echo "[6/6] .env ファイル生成..."
-ENV_FILE="${WORKSPACE}/eqbench3/.env"
-
-cat > "${ENV_FILE}" << ENVEOF
-# =============================================================================
-# EQ-Bench3 設定 (macOS / TeenEmo 評価用)
-# 自動生成: $(date)
-#
-# 受験者: TeenEmo-LFM2.5-1.2B-GGUF (llama-server port ${LLAMA_SERVER_PORT})
-# 採点者: openai/gpt-oss-120b via HF Inference Providers (novita)
-#         Input: \$0.05/1M tokens, Output: \$0.25/1M tokens
-#         46シナリオの推定コスト: ~\$0.024 (Pro \$2クレジット内)
-# =============================================================================
+# 日本語版シナリオ差し替え
+for pair in \
+    "scenario_prompts_ja.txt|data/scenario_prompts.txt" \
+    "scenario_notes_ja.txt|data/scenario_notes.txt"; do
+    SRC="${pair%%|*}"; DEST="${pair##*|}"
+    cp "${DEST}" "${DEST}.en.bak" 2>/dev/null || true
+    curl -sfL -H "Authorization: Bearer ${HF_TOKEN}" \
+        "https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja/resolve/main/data/${SRC}" \
+        -o "${DEST}" && echo "✅ 日本語版: ${DEST}" || echo "⚠️ 英語版を使用: ${DEST}"
+done
 
-# 受験者: llama-server (ローカル)
-TEST_API_URL=http://localhost:${LLAMA_SERVER_PORT}/v1/chat/completions
+# .env 生成
+cat > "${WORKSPACE}/eqbench3/.env" << ENVEOF
+TEST_API_URL=http://localhost:${PORT}/v1/chat/completions
 TEST_API_KEY=dummy
-
-# 採点者: HF Inference Providers → novita → gpt-oss-120b
-# HF Proトークン: \$2/月の無料クレジットで賄える
 JUDGE_API_URL=https://router.huggingface.co/novita/v1/chat/completions
 JUDGE_API_KEY=${HF_TOKEN}
-
-# API設定
 MAX_RETRIES=6
 RETRY_DELAY=5
 REQUEST_TIMEOUT=300
 ENVEOF
+echo "✅ .env 生成完了"
 
-echo "  ✅ .env 生成完了: ${ENV_FILE}"
-
-# ── 日本語版シナリオの差し替え ────────────────────────────────
-echo ""
-echo "[オプション] 日本語版シナリオへの差し替え..."
-JA_PROMPTS_URL="https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja/resolve/main/data/scenario_prompts_ja.txt"
-JA_NOTES_URL="https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja/resolve/main/data/scenario_notes_ja.txt"
-
-for pair in \
-    "${JA_PROMPTS_URL}|${WORKSPACE}/eqbench3/data/scenario_prompts.txt" \
-    "${JA_NOTES_URL}|${WORKSPACE}/eqbench3/data/scenario_notes.txt"; do
-    URL="${pair%%|*}"
-    DEST="${pair##*|}"
-    BACKUP="${DEST}.en.bak"
-    if [ ! -f "${BACKUP}" ]; then
-        cp "${DEST}" "${BACKUP}"
-    fi
-    if curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
-        "${URL}" -o "${DEST}" 2>/dev/null; then
-        echo "  ✅ 日本語版に差し替え: $(basename ${DEST})"
-    else
-        echo "  ⚠️  日本語版未生成のため英語版を使用: $(basename ${DEST})"
-        cp "${BACKUP}" "${DEST}"
-    fi
-done
-
-# ── セットアップ完了 ────────────────────────────────────────────
 echo ""
 echo "======================================"
 echo " セットアップ完了"
-echo " 作業ディレクトリ: ${WORKSPACE}"
 echo "======================================"
 echo ""
 echo "【実行手順】"
 echo ""
-echo "# Step 1: 別タブでllama-serverを起動（TeenEmo受験者）"
-echo "llama-server \\"
-echo "  --model ${GGUF_PATH} \\"
-echo "  --port ${LLAMA_SERVER_PORT} \\"
-echo "  --ctx-size 16384 \\"
-echo "  -ngl 99"
+echo "# Step 1: 別タブでMLXサーバー起動"
+echo "source ${VENV_DIR}/bin/activate"
+echo "mlx_lm.server \\"
+echo "  --model ${BASE_MODEL} \\"
+echo "  --adapter-path ${LORA_LOCAL} \\"
+echo "  --port ${PORT}"
 echo ""
 echo "# Step 2: サーバー起動確認"
-echo "curl -s http://localhost:${LLAMA_SERVER_PORT}/health"
+echo "curl -s http://localhost:${PORT}/v1/models"
 echo ""
 echo "# Step 3: EQ-Bench3 評価実行"
-echo "cd ${WORKSPACE}/eqbench3"
-echo "source ${VENV_DIR}/bin/activate"
+echo "cd ${WORKSPACE}/eqbench3 && source ${VENV_DIR}/bin/activate"
 echo "python eqbench3.py \\"
-echo "  --test-model LFM2.5-1.2B-Base.Q4_K_M \\"
+echo "  --test-model LFM2.5-1.2B-Base \\"
 echo "  --model-name TeenEmo-DPO \\"
 echo "  --judge-model openai/gpt-oss-120b \\"
-echo "  --no-elo \\"
-echo "  --save-interval 1 \\"
-echo "  --iterations 1"
-echo ""
-echo "# 結果確認"
-echo "cat ${WORKSPACE}/eqbench3/eqbench3_runs.json | python3 -c \\"
-echo "  \"import json,sys; [print(k, v.get('eq_bench_score','N/A')) for k,v in json.load(sys.stdin).items() if 'TeenEmo' in k]\""
+echo "  --no-elo --save-interval 1 --iterations 1"