Fix-SP1: integrate system prompt patch into setup pipeline

#13
by YUGOROU - opened

概要

Fix-SP1(patch_system_prompt.py)の適用をsetup_eqbench_run.shに統合します。

BaseモデルのEQ-Bench3評価でスコアが8.30と極端に低下していた原因は、モデルがセクション見出し形式を出力できなかったことです。このPRにより、セットアップ時にシステムプロンプト注入パッチが自動適用されます。

変更内容

eqbench-ja-run/setup_eqbench_run.sh

  • パッチループにpatch_system_prompt.pyを追加(3ファイル体制)
  • PATCH_OKの成功判定を23に更新
  • patch_system_prompt.pyをFix-B1・Fix-C1の後に適用
  • 完了メッセージにFix-SP1を追記

eqbench-ja-run/README.md

  • Fix-SP1を修正済み問題テーブルに追加(🟠 Major)
  • Fix-SP1: システムプロンプト注入セクションを新規追加
    • TEENEMO_SYSTEM_PROMPT環境変数の説明とカスタマイズ例
    • Instructモデル評価時の無効化方法

関連

  • teememo-eq-bench-ja PR #1: patch_system_prompt.pyの追加

修正済み(最新コミット 5d77114

前のコミットで誤って非アクティブな eqbench-ja-run を変更していました。アクティブなパイプラインである eqbench-vast に正しく適用し直しました。

変更対象(修正後):

  • eqbench-vast/setup_eqbench_vast.sh — Fix-SP1パッチを統合
  • eqbench-vast/README.md — Fix-SP1を記載
  • ↩️ eqbench-ja-run/setup_eqbench_run.sh — mainに戻す
  • ↩️ eqbench-ja-run/README.md — mainに戻す

Sign up or log in to comment