YUGOROU commited on
Commit
5a88c14
·
verified ·
1 Parent(s): dd00805

fix: ①SFT_DATASET default ②DPO chat template ⑤GGUF repo path

Browse files
training/train_config.py CHANGED
@@ -17,7 +17,7 @@ HF_USERNAME: str = os.environ.get("HF_USERNAME", "YUGOROU")
17
  BASE_MODEL: str = os.environ.get("BASE_MODEL", "liquidai/LFM2-1.2B")
18
 
19
  # ── データセット ───────────────────────────────────────────────
20
- SFT_DATASET: str = os.environ.get("SFT_DATASET", f"{HF_USERNAME}/teememo-sft-validation")
21
  PREF_DATASET: str = os.environ.get("PREF_DATASET", f"{HF_USERNAME}/teememo-pref-data")
22
 
23
  # ── 出力先 ─────────────────────────────────────────────────────
 
17
  BASE_MODEL: str = os.environ.get("BASE_MODEL", "liquidai/LFM2-1.2B")
18
 
19
  # ── データセット ───────────────────────────────────────────────
20
+ SFT_DATASET: str = os.environ.get("SFT_DATASET", f"{HF_USERNAME}/teememo-sft-data-v2")
21
  PREF_DATASET: str = os.environ.get("PREF_DATASET", f"{HF_USERNAME}/teememo-pref-data")
22
 
23
  # ── 出力先 ─────────────────────────────────────────────────────
training/train_dpo.py CHANGED
@@ -100,11 +100,17 @@ def main() -> None:
100
  # ── データセット準備 ──────────────────────────────────────
101
  logger.info("選好データセット準備中...")
102
  try:
103
- ds = load_pref_dataset(logger)
 
 
 
 
 
 
 
 
 
104
 
105
- # DPOTrainer は prompt/chosen/rejected を文字列として受け取る
106
- # チャットテンプレートの適用は DPOTrainer 内部で行われるため不要
107
- # ただし tokenizer に chat_template が設定されていることを確認する
108
  if tokenizer.chat_template is None:
109
  logger.warning("chat_template が未設定です。デフォルトを使用します。")
110
  else:
 
100
  # ── データセット準備 ──────────────────────────────────────
101
  logger.info("選好データセット準備中...")
102
  try:
103
+ raw_ds = load_pref_dataset(logger)
104
+
105
+ # チャットテンプレート適用(SFTとフォーマットを統一する)
106
+ from train_utils import apply_chat_template_dpo
107
+ logger.info("チャットテンプレート適用中...")
108
+ ds = raw_ds.map(
109
+ lambda x: apply_chat_template_dpo(x, tokenizer, logger),
110
+ batched=True,
111
+ desc="DPO チャットテンプレート適用",
112
+ )
113
 
 
 
 
114
  if tokenizer.chat_template is None:
115
  logger.warning("chat_template が未設定です。デフォルトを使用します。")
116
  else:
training/train_sft.py CHANGED
@@ -197,12 +197,12 @@ def main() -> None:
197
  gguf_dir.mkdir(parents=True, exist_ok=True)
198
  if cfg.PUSH_TO_HUB and cfg.HF_TOKEN:
199
  model.push_to_hub_gguf(
200
- str(gguf_dir),
201
  tokenizer,
202
  quantization_method=cfg.GGUF_QUANTIZATION,
203
  token=cfg.HF_TOKEN,
204
  )
205
- logger.info(f"GGUF HF push 完了 ✅")
206
  else:
207
  model.save_pretrained_gguf(
208
  str(gguf_dir),
 
197
  gguf_dir.mkdir(parents=True, exist_ok=True)
198
  if cfg.PUSH_TO_HUB and cfg.HF_TOKEN:
199
  model.push_to_hub_gguf(
200
+ cfg.GGUF_HF_REPO,
201
  tokenizer,
202
  quantization_method=cfg.GGUF_QUANTIZATION,
203
  token=cfg.HF_TOKEN,
204
  )
205
+ logger.info(f"GGUF HF push 完了 ✅: https://huggingface.co/{cfg.GGUF_HF_REPO}")
206
  else:
207
  model.save_pretrained_gguf(
208
  str(gguf_dir),