fix: Fix-SP1 を eqbench-vast に正しく適用(eqbench-ja-run の誤変更を取消)
Browse files前のコミットで誤って非アクティブな eqbench-ja-run を変更していた。
アクティブなパイプラインである eqbench-vast に Fix-SP1 を適用し直す。
Changes:
- eqbench-vast/setup_eqbench_vast.sh: Fix-SP1パッチを統合
- patch_system_prompt.py を patch ループに追加(3ファイル体制)
- PATCH_OK 判定を 2 → 3 に更新
- patch_system_prompt.py を Fix-B1・Fix-C1 の後に適用
- eqbench-vast/README.md: Fix-SP1 をテーブルと説明セクションに追記
- eqbench-ja-run/setup_eqbench_run.sh: 誤変更を main に戻す
- eqbench-ja-run/README.md: 誤変更を main に戻す
- eqbench-ja-run/README.md +0 -18
- eqbench-ja-run/setup_eqbench_run.sh +4 -7
- eqbench-vast/README.md +16 -0
- eqbench-vast/setup_eqbench_vast.sh +7 -4
eqbench-ja-run/README.md
CHANGED
|
@@ -10,24 +10,6 @@ TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価するセットアッ
|
|
| 10 |
| JA-D1 | 🔴 Fatal | scenario_master_prompt 等 9 ファイルが差し替えられていなかった(scenario_prompts / notes の 2 ファイルのみ) | 全 12 ファイルを差し替え |
|
| 11 |
| JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | setup 時に patch_benchmark.py / patch_conversation.py を自動適用 |
|
| 12 |
| JA-M1 | 🔴 Fatal | serve_test.sh の MAX_MODEL_LEN=4096 → EQ-Bench3 は max_tokens=12000 を要求するためクラッシュ | 32768 に修正 |
|
| 13 |
-
| Fix-SP1 | 🟠 Major | Baseモデルはフォーマット指示に従えないため EQ-Bench3 パーサがセクション見出しを検出できずスコアが極端に低下(8.30) | `conversation.py` の会話開始時にシステムプロンプトを注入するパッチ(`patch_system_prompt.py`)を自動適用 |
|
| 14 |
-
|
| 15 |
-
## Fix-SP1: システムプロンプト注入(Baseモデル対応)
|
| 16 |
-
|
| 17 |
-
Baseモデルは事後学習を経ていないため、EQ-Bench3が要求するセクション形式(`# I'm thinking & feeling` 等)を自然には出力しません。
|
| 18 |
-
`patch_system_prompt.py` は `core/conversation.py` の会話開始時にシステムプロンプトを注入し、Baseモデルでも正しいフォーマットで応答できるよう誘導します。
|
| 19 |
-
|
| 20 |
-
**デフォルト動作:** TeenEmoのアイデンティティ + セクション見出し形式の指示をシステムプロンプトとして注入します。
|
| 21 |
-
|
| 22 |
-
**カスタマイズ:** 環境変数 `TEENEMO_SYSTEM_PROMPT` でシステムプロンプトを上書きできます。空文字列を設定すると注入を無効化できます。
|
| 23 |
-
|
| 24 |
-
```bash
|
| 25 |
-
# カスタムシステムプロンプトを使用する場合
|
| 26 |
-
export TEENEMO_SYSTEM_PROMPT="あなたはロールプレイの参加者です。必ず以下の英語見出しで回答してください..."
|
| 27 |
-
|
| 28 |
-
# 注入を無効化する場合(Instructモデル評価時など)
|
| 29 |
-
export TEENEMO_SYSTEM_PROMPT=""
|
| 30 |
-
```
|
| 31 |
|
| 32 |
## モデル構成
|
| 33 |
|
|
|
|
| 10 |
| JA-D1 | 🔴 Fatal | scenario_master_prompt 等 9 ファイルが差し替えられていなかった(scenario_prompts / notes の 2 ファイルのみ) | 全 12 ファイルを差し替え |
|
| 11 |
| JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | setup 時に patch_benchmark.py / patch_conversation.py を自動適用 |
|
| 12 |
| JA-M1 | 🔴 Fatal | serve_test.sh の MAX_MODEL_LEN=4096 → EQ-Bench3 は max_tokens=12000 を要求するためクラッシュ | 32768 に修正 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
|
| 14 |
## モデル構成
|
| 15 |
|
eqbench-ja-run/setup_eqbench_run.sh
CHANGED
|
@@ -80,7 +80,7 @@ echo "[setup] [Fix-JA-D2] コードパッチを適用中..."
|
|
| 80 |
PATCH_DIR="${WORKSPACE}/eqbench-patch"
|
| 81 |
mkdir -p "${PATCH_DIR}"
|
| 82 |
PATCH_OK=0
|
| 83 |
-
for pf in patch_benchmark.py patch_conversation.py
|
| 84 |
if curl -sfL \
|
| 85 |
-H "Authorization: Bearer ${HF_TOKEN}" \
|
| 86 |
"${HF_BASE}/${PATCH_REPO}/resolve/main/patch/${pf}" \
|
|
@@ -91,16 +91,13 @@ for pf in patch_benchmark.py patch_conversation.py patch_system_prompt.py; do
|
|
| 91 |
fi
|
| 92 |
done
|
| 93 |
|
| 94 |
-
if [ "${PATCH_OK}" -eq
|
| 95 |
cd "${WORKSPACE}/eqbench3"
|
| 96 |
python3 "${PATCH_DIR}/patch_benchmark.py"
|
| 97 |
python3 "${PATCH_DIR}/patch_conversation.py"
|
| 98 |
-
|
| 99 |
-
# TEENEMO_SYSTEM_PROMPT 環境変数でカスタマイズ可能(未設定時はデフォルト使用)
|
| 100 |
-
python3 "${PATCH_DIR}/patch_system_prompt.py"
|
| 101 |
-
echo "[setup] ✅ コードパッチ完了(Fix-B1 / Fix-C1 / Fix-SP1)"
|
| 102 |
else
|
| 103 |
-
echo "[setup] ❌ パッチ取得失敗
|
| 104 |
fi
|
| 105 |
cd "${WORKSPACE}"
|
| 106 |
|
|
|
|
| 80 |
PATCH_DIR="${WORKSPACE}/eqbench-patch"
|
| 81 |
mkdir -p "${PATCH_DIR}"
|
| 82 |
PATCH_OK=0
|
| 83 |
+
for pf in patch_benchmark.py patch_conversation.py; do
|
| 84 |
if curl -sfL \
|
| 85 |
-H "Authorization: Bearer ${HF_TOKEN}" \
|
| 86 |
"${HF_BASE}/${PATCH_REPO}/resolve/main/patch/${pf}" \
|
|
|
|
| 91 |
fi
|
| 92 |
done
|
| 93 |
|
| 94 |
+
if [ "${PATCH_OK}" -eq 2 ]; then
|
| 95 |
cd "${WORKSPACE}/eqbench3"
|
| 96 |
python3 "${PATCH_DIR}/patch_benchmark.py"
|
| 97 |
python3 "${PATCH_DIR}/patch_conversation.py"
|
| 98 |
+
echo "[setup] ✅ コードパッチ完了"
|
|
|
|
|
|
|
|
|
|
| 99 |
else
|
| 100 |
+
echo "[setup] ❌ パッチ取得失敗。PATCH_REPO=${PATCH_REPO} を確認してください。"
|
| 101 |
fi
|
| 102 |
cd "${WORKSPACE}"
|
| 103 |
|
eqbench-vast/README.md
CHANGED
|
@@ -9,9 +9,25 @@ TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価する Vast.ai セッ
|
|
| 9 |
|---|--------|------|------|
|
| 10 |
| JA-D1 | 🔴 Fatal | scenario_master_prompt 等 10 ファイルが差し替えられていなかった | 全 12 ファイルを差し替え |
|
| 11 |
| JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | patch_benchmark.py / patch_conversation.py を自動適用 |
|
|
|
|
| 12 |
|
| 13 |
コードパッチの詳細は [teememo-eq-bench-ja](https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja) の `patch/` を参照。
|
| 14 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 15 |
## セットアップ
|
| 16 |
|
| 17 |
```bash
|
|
|
|
| 9 |
|---|--------|------|------|
|
| 10 |
| JA-D1 | 🔴 Fatal | scenario_master_prompt 等 10 ファイルが差し替えられていなかった | 全 12 ファイルを差し替え |
|
| 11 |
| JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | patch_benchmark.py / patch_conversation.py を自動適用 |
|
| 12 |
+
| Fix-SP1 | 🟠 Major | Baseモデルはフォーマット指示に従えないため EQ-Bench3 パーサがセクション見出しを検出できずスコアが極端に低下(8.30) | `conversation.py` の会話開始時にシステムプロンプトを注入するパッチ(`patch_system_prompt.py`)を自動適用 |
|
| 13 |
|
| 14 |
コードパッチの詳細は [teememo-eq-bench-ja](https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja) の `patch/` を参照。
|
| 15 |
|
| 16 |
+
## Fix-SP1: システムプロンプト注入(Baseモデル対応)
|
| 17 |
+
|
| 18 |
+
Baseモデルは事後学習を経ていないため、EQ-Bench3が要求するセクション形式(`# I'm thinking & feeling` 等)を自然には出力しません。
|
| 19 |
+
`patch_system_prompt.py` は `core/conversation.py` の会話開始時にシステムプロンプトを注入し、Baseモデルでも正しいフォーマットで応答できるよう誘導します。
|
| 20 |
+
|
| 21 |
+
**カスタマイズ:** 環境変数 `TEENEMO_SYSTEM_PROMPT` でシステムプロンプトを上書き、または無効化できます。
|
| 22 |
+
|
| 23 |
+
```bash
|
| 24 |
+
# カスタムシステムプロンプトを使用する場合
|
| 25 |
+
export TEENEMO_SYSTEM_PROMPT="あなたはロールプレイの参加者です。..."
|
| 26 |
+
|
| 27 |
+
# 注入を無効化する場合(Instructモデル評価時など)
|
| 28 |
+
export TEENEMO_SYSTEM_PROMPT=""
|
| 29 |
+
```
|
| 30 |
+
|
| 31 |
## セットアップ
|
| 32 |
|
| 33 |
```bash
|
eqbench-vast/setup_eqbench_vast.sh
CHANGED
|
@@ -86,7 +86,7 @@ echo "[setup] [Fix-JA-D2] コードパッチを適用中..."
|
|
| 86 |
PATCH_DIR="${WORKSPACE}/eqbench-patch"
|
| 87 |
mkdir -p "${PATCH_DIR}"
|
| 88 |
PATCH_OK=0
|
| 89 |
-
for pf in patch_benchmark.py patch_conversation.py; do
|
| 90 |
if curl -sfL \
|
| 91 |
-H "Authorization: Bearer ${HF_TOKEN}" \
|
| 92 |
"https://huggingface.co/datasets/${PATCH_REPO}/resolve/main/patch/${pf}" \
|
|
@@ -97,13 +97,16 @@ for pf in patch_benchmark.py patch_conversation.py; do
|
|
| 97 |
fi
|
| 98 |
done
|
| 99 |
|
| 100 |
-
if [ "${PATCH_OK}" -eq
|
| 101 |
cd "${WORKSPACE}/eqbench3"
|
| 102 |
python3 "${PATCH_DIR}/patch_benchmark.py"
|
| 103 |
python3 "${PATCH_DIR}/patch_conversation.py"
|
| 104 |
-
|
|
|
|
|
|
|
|
|
|
| 105 |
else
|
| 106 |
-
echo "[setup] ❌ パッチファイル取得失敗。PATCH_REPO=${PATCH_REPO} を確認してください。"
|
| 107 |
fi
|
| 108 |
|
| 109 |
# ── serve_test_vast.sh DL ────────────────────────────────────
|
|
|
|
| 86 |
PATCH_DIR="${WORKSPACE}/eqbench-patch"
|
| 87 |
mkdir -p "${PATCH_DIR}"
|
| 88 |
PATCH_OK=0
|
| 89 |
+
for pf in patch_benchmark.py patch_conversation.py patch_system_prompt.py; do
|
| 90 |
if curl -sfL \
|
| 91 |
-H "Authorization: Bearer ${HF_TOKEN}" \
|
| 92 |
"https://huggingface.co/datasets/${PATCH_REPO}/resolve/main/patch/${pf}" \
|
|
|
|
| 97 |
fi
|
| 98 |
done
|
| 99 |
|
| 100 |
+
if [ "${PATCH_OK}" -eq 3 ]; then
|
| 101 |
cd "${WORKSPACE}/eqbench3"
|
| 102 |
python3 "${PATCH_DIR}/patch_benchmark.py"
|
| 103 |
python3 "${PATCH_DIR}/patch_conversation.py"
|
| 104 |
+
# [Fix-SP1] Baseモデルのフォーマット追従のためシステムプロンプトを注入
|
| 105 |
+
# TEENEMO_SYSTEM_PROMPT 環境変数でカスタマイズ可能(未設定時はデフォルト使用)
|
| 106 |
+
python3 "${PATCH_DIR}/patch_system_prompt.py"
|
| 107 |
+
echo "[setup] ✅ コードパッチ完了(Fix-B1 / Fix-C1 / Fix-SP1)"
|
| 108 |
else
|
| 109 |
+
echo "[setup] ❌ パッチファイル取得失敗(${PATCH_OK}/3)。PATCH_REPO=${PATCH_REPO} を確認してください。"
|
| 110 |
fi
|
| 111 |
|
| 112 |
# ── serve_test_vast.sh DL ────────────────────────────────────
|