Fix-SP1: integrate system prompt patch into setup pipeline
#13
by YUGOROU - opened
概要
Fix-SP1(patch_system_prompt.py)の適用をsetup_eqbench_run.shに統合します。
BaseモデルのEQ-Bench3評価でスコアが8.30と極端に低下していた原因は、モデルがセクション見出し形式を出力できなかったことです。このPRにより、セットアップ時にシステムプロンプト注入パッチが自動適用されます。
変更内容
eqbench-ja-run/setup_eqbench_run.sh
- パッチループに
patch_system_prompt.pyを追加(3ファイル体制) PATCH_OKの成功判定を2→3に更新patch_system_prompt.pyをFix-B1・Fix-C1の後に適用- 完了メッセージに
Fix-SP1を追記
eqbench-ja-run/README.md
- Fix-SP1を修正済み問題テーブルに追加(🟠 Major)
Fix-SP1: システムプロンプト注入セクションを新規追加TEENEMO_SYSTEM_PROMPT環境変数の説明とカスタマイズ例- Instructモデル評価時の無効化方法
関連
- teememo-eq-bench-ja PR #1:
patch_system_prompt.pyの追加
修正済み(最新コミット 5d77114)
前のコミットで誤って非アクティブな eqbench-ja-run を変更していました。アクティブなパイプラインである eqbench-vast に正しく適用し直しました。
変更対象(修正後):
- ✅
eqbench-vast/setup_eqbench_vast.sh— Fix-SP1パッチを統合 - ✅
eqbench-vast/README.md— Fix-SP1を記載 - ↩️
eqbench-ja-run/setup_eqbench_run.sh— mainに戻す - ↩️
eqbench-ja-run/README.md— mainに戻す