feat: macOS/uv/llama-cpp + HF Inference Providers (gpt-oss-120b novita) セットアップスクリプト

eqbench-mac/setup_eqbench_mac.sh

@@ -0,0 +1,191 @@
+#!/usr/bin/env bash
+# =============================================================================
+# setup_eqbench_mac.sh — EQ-Bench3 macOS / M3 MacBook セットアップ
+#
+# 構成:
+#   受験者: YUGOROU/TeenEmo-LFM2.5-1.2B-GGUF (llama-cpp, Metal加速)
+#   採点者: openai/gpt-oss-120b via HF Inference Providers (novita)
+#
+# 前提:
+#   - uv がインストール済み (curl -LsSf https://astral.sh/uv/install.sh | sh)
+#   - Homebrew がインストール済み
+#   - HF_TOKEN: HuggingFace Pro プランのトークン
+#
+# 使用方法:
+#   export HF_TOKEN="hf_xxxx"
+#   bash setup_eqbench_mac.sh
+# =============================================================================
+
+set -euo pipefail
+
+HF_TOKEN="${HF_TOKEN:?HF_TOKEN が未設定です。export HF_TOKEN='hf_xxxx' を実行してください。}"
+WORKSPACE="${HOME}/eqbench-teenemo"
+EQBENCH_REPO="https://github.com/EQ-bench/eqbench3.git"
+VENV_DIR="${WORKSPACE}/.venv"
+GGUF_DIR="${WORKSPACE}/models"
+GGUF_REPO="YUGOROU/TeenEmo-LFM2.5-1.2B-GGUF"
+GGUF_FILE="LFM2.5-1.2B-Base.Q4_K_M.gguf"
+LLAMA_SERVER_PORT="${LLAMA_SERVER_PORT:-8000}"
+
+echo "======================================"
+echo " EQ-Bench3 macOS セットアップ"
+echo " 作業ディレクトリ: ${WORKSPACE}"
+echo "======================================"
+echo ""
+
+# ── 1. llama-cpp インストール (Homebrew) ──────────────────────
+echo "[1/6] llama-cpp の確認..."
+if ! command -v llama-server &>/dev/null; then
+    echo "  llama-cpp をインストール中 (Metal対応)..."
+    brew install llama.cpp
+    echo "  ✅ llama-cpp インストール完了"
+else
+    echo "  ✅ llama-cpp 確認済み: $(llama-server --version 2>&1 | head -1)"
+fi
+
+# ── 2. 作業ディレクトリ作成 ────────────────────────────────────
+echo ""
+echo "[2/6] ディレクトリ作成..."
+mkdir -p "${WORKSPACE}" "${GGUF_DIR}"
+
+# ── 3. EQ-Bench3 クローン ──────────────────────────────────────
+echo ""
+echo "[3/6] EQ-Bench3 クローン..."
+if [ -d "${WORKSPACE}/eqbench3" ]; then
+    echo "  既存リポジトリを更新中..."
+    git -C "${WORKSPACE}/eqbench3" pull --ff-only 2>/dev/null || echo "  (更新スキップ)"
+else
+    git clone --depth=1 "${EQBENCH_REPO}" "${WORKSPACE}/eqbench3"
+fi
+echo "  ✅ ${WORKSPACE}/eqbench3"
+
+# ── 4. uv 仮想環境 + 依存関係インストール ────────────────────
+echo ""
+echo "[4/6] uv 仮想環境セットアップ..."
+cd "${WORKSPACE}/eqbench3"
+
+if [ ! -d "${VENV_DIR}" ]; then
+    uv venv "${VENV_DIR}" --python 3.11
+    echo "  ✅ 仮想環境作成: ${VENV_DIR}"
+fi
+
+# requirements.txt から依存パッケージをインストール
+uv pip install --python "${VENV_DIR}/bin/python" \
+    -r requirements.txt \
+    huggingface_hub \
+    2>/dev/null
+echo "  ✅ 依存パッケージインストール完了"
+
+# ── 5. TeenEmo GGUF ダウンロード ───────────────────────────────
+echo ""
+echo "[5/6] TeenEmo GGUF ダウンロード..."
+GGUF_PATH="${GGUF_DIR}/${GGUF_FILE}"
+
+if [ -f "${GGUF_PATH}" ]; then
+    echo "  ✅ GGUF 既存: ${GGUF_PATH}"
+else
+    echo "  ダウンロード中: ${GGUF_REPO}/${GGUF_FILE}"
+    "${VENV_DIR}/bin/python" -c "
+from huggingface_hub import hf_hub_download
+import os
+path = hf_hub_download(
+    repo_id='${GGUF_REPO}',
+    filename='${GGUF_FILE}',
+    repo_type='model',
+    token='${HF_TOKEN}',
+    local_dir='${GGUF_DIR}',
+)
+print(f'  ✅ ダウンロード完了: {path}')
+"
+fi
+
+# ── 6. .env ファイル生成 ────────────────────────────────────────
+echo ""
+echo "[6/6] .env ファイル生成..."
+ENV_FILE="${WORKSPACE}/eqbench3/.env"
+
+cat > "${ENV_FILE}" << ENVEOF
+# =============================================================================
+# EQ-Bench3 設定 (macOS / TeenEmo 評価用)
+# 自動生成: $(date)
+#
+# 受験者: TeenEmo-LFM2.5-1.2B-GGUF (llama-server port ${LLAMA_SERVER_PORT})
+# 採点者: openai/gpt-oss-120b via HF Inference Providers (novita)
+#         Input: \$0.05/1M tokens, Output: \$0.25/1M tokens
+#         46シナリオの推定コスト: ~\$0.024 (Pro \$2クレジット内)
+# =============================================================================
+
+# 受験者: llama-server (ローカル)
+TEST_API_URL=http://localhost:${LLAMA_SERVER_PORT}/v1/chat/completions
+TEST_API_KEY=dummy
+
+# 採点者: HF Inference Providers → novita → gpt-oss-120b
+# HF Proトークン: \$2/月の無料クレジットで賄える
+JUDGE_API_URL=https://router.huggingface.co/novita/v1/chat/completions
+JUDGE_API_KEY=${HF_TOKEN}
+
+# API設定
+MAX_RETRIES=6
+RETRY_DELAY=5
+REQUEST_TIMEOUT=300
+ENVEOF
+
+echo "  ✅ .env 生成完了: ${ENV_FILE}"
+
+# ── 日本語版シナリオの差し替え ────────────────────────────────
+echo ""
+echo "[オプション] 日本語版シナリオへの差し替え..."
+JA_PROMPTS_URL="https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja/resolve/main/data/scenario_prompts_ja.txt"
+JA_NOTES_URL="https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja/resolve/main/data/scenario_notes_ja.txt"
+
+for pair in \
+    "${JA_PROMPTS_URL}|${WORKSPACE}/eqbench3/data/scenario_prompts.txt" \
+    "${JA_NOTES_URL}|${WORKSPACE}/eqbench3/data/scenario_notes.txt"; do
+    URL="${pair%%|*}"
+    DEST="${pair##*|}"
+    BACKUP="${DEST}.en.bak"
+    if [ ! -f "${BACKUP}" ]; then
+        cp "${DEST}" "${BACKUP}"
+    fi
+    if curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
+        "${URL}" -o "${DEST}" 2>/dev/null; then
+        echo "  ✅ 日本語版に差し替え: $(basename ${DEST})"
+    else
+        echo "  ⚠️  日本語版未生成のため英語版を使用: $(basename ${DEST})"
+        cp "${BACKUP}" "${DEST}"
+    fi
+done
+
+# ── セットアップ完了 ────────────────────────────────────────────
+echo ""
+echo "======================================"
+echo " セットアップ完了"
+echo " 作業ディレクトリ: ${WORKSPACE}"
+echo "======================================"
+echo ""
+echo "【実行手順】"
+echo ""
+echo "# Step 1: 別タブでllama-serverを起動（TeenEmo受験者）"
+echo "llama-server \\"
+echo "  --model ${GGUF_PATH} \\"
+echo "  --port ${LLAMA_SERVER_PORT} \\"
+echo "  --ctx-size 16384 \\"
+echo "  -ngl 99"
+echo ""
+echo "# Step 2: サーバー起動確認"
+echo "curl -s http://localhost:${LLAMA_SERVER_PORT}/health"
+echo ""
+echo "# Step 3: EQ-Bench3 評価実行"
+echo "cd ${WORKSPACE}/eqbench3"
+echo "source ${VENV_DIR}/bin/activate"
+echo "python eqbench3.py \\"
+echo "  --test-model LFM2.5-1.2B-Base.Q4_K_M \\"
+echo "  --model-name TeenEmo-DPO \\"
+echo "  --judge-model openai/gpt-oss-120b \\"
+echo "  --no-elo \\"
+echo "  --save-interval 1 \\"
+echo "  --iterations 1"
+echo ""
+echo "# 結果確認"
+echo "cat ${WORKSPACE}/eqbench3/eqbench3_runs.json | python3 -c \\"
+echo "  \"import json,sys; [print(k, v.get('eq_bench_score','N/A')) for k,v in json.load(sys.stdin).items() if 'TeenEmo' in k]\""