fix: ①SFT_DATASET default ②DPO chat template ⑤GGUF repo path
Browse files- training/train_config.py +1 -1
- training/train_dpo.py +10 -4
- training/train_sft.py +2 -2
training/train_config.py
CHANGED
|
@@ -17,7 +17,7 @@ HF_USERNAME: str = os.environ.get("HF_USERNAME", "YUGOROU")
|
|
| 17 |
BASE_MODEL: str = os.environ.get("BASE_MODEL", "liquidai/LFM2-1.2B")
|
| 18 |
|
| 19 |
# ── データセット ───────────────────────────────────────────────
|
| 20 |
-
SFT_DATASET: str = os.environ.get("SFT_DATASET", f"{HF_USERNAME}/teememo-sft-
|
| 21 |
PREF_DATASET: str = os.environ.get("PREF_DATASET", f"{HF_USERNAME}/teememo-pref-data")
|
| 22 |
|
| 23 |
# ── 出力先 ─────────────────────────────────────────────────────
|
|
|
|
| 17 |
BASE_MODEL: str = os.environ.get("BASE_MODEL", "liquidai/LFM2-1.2B")
|
| 18 |
|
| 19 |
# ── データセット ───────────────────────────────────────────────
|
| 20 |
+
SFT_DATASET: str = os.environ.get("SFT_DATASET", f"{HF_USERNAME}/teememo-sft-data-v2")
|
| 21 |
PREF_DATASET: str = os.environ.get("PREF_DATASET", f"{HF_USERNAME}/teememo-pref-data")
|
| 22 |
|
| 23 |
# ── 出力先 ─────────────────────────────────────────────────────
|
training/train_dpo.py
CHANGED
|
@@ -100,11 +100,17 @@ def main() -> None:
|
|
| 100 |
# ── データセット準備 ──────────────────────────────────────
|
| 101 |
logger.info("選好データセット準備中...")
|
| 102 |
try:
|
| 103 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 104 |
|
| 105 |
-
# DPOTrainer は prompt/chosen/rejected を文字列として受け取る
|
| 106 |
-
# チャットテンプレートの適用は DPOTrainer 内部で行われるため不要
|
| 107 |
-
# ただし tokenizer に chat_template が設定されていることを確認する
|
| 108 |
if tokenizer.chat_template is None:
|
| 109 |
logger.warning("chat_template が未設定です。デフォルトを使用します。")
|
| 110 |
else:
|
|
|
|
| 100 |
# ── データセット準備 ──────────────────────────────────────
|
| 101 |
logger.info("選好データセット準備中...")
|
| 102 |
try:
|
| 103 |
+
raw_ds = load_pref_dataset(logger)
|
| 104 |
+
|
| 105 |
+
# チャットテンプレート適用(SFTとフォーマットを統一する)
|
| 106 |
+
from train_utils import apply_chat_template_dpo
|
| 107 |
+
logger.info("チャットテンプレート適用中...")
|
| 108 |
+
ds = raw_ds.map(
|
| 109 |
+
lambda x: apply_chat_template_dpo(x, tokenizer, logger),
|
| 110 |
+
batched=True,
|
| 111 |
+
desc="DPO チャットテンプレート適用",
|
| 112 |
+
)
|
| 113 |
|
|
|
|
|
|
|
|
|
|
| 114 |
if tokenizer.chat_template is None:
|
| 115 |
logger.warning("chat_template が未設定です。デフォルトを使用します。")
|
| 116 |
else:
|
training/train_sft.py
CHANGED
|
@@ -197,12 +197,12 @@ def main() -> None:
|
|
| 197 |
gguf_dir.mkdir(parents=True, exist_ok=True)
|
| 198 |
if cfg.PUSH_TO_HUB and cfg.HF_TOKEN:
|
| 199 |
model.push_to_hub_gguf(
|
| 200 |
-
|
| 201 |
tokenizer,
|
| 202 |
quantization_method=cfg.GGUF_QUANTIZATION,
|
| 203 |
token=cfg.HF_TOKEN,
|
| 204 |
)
|
| 205 |
-
logger.info(f"GGUF HF push 完了 ✅")
|
| 206 |
else:
|
| 207 |
model.save_pretrained_gguf(
|
| 208 |
str(gguf_dir),
|
|
|
|
| 197 |
gguf_dir.mkdir(parents=True, exist_ok=True)
|
| 198 |
if cfg.PUSH_TO_HUB and cfg.HF_TOKEN:
|
| 199 |
model.push_to_hub_gguf(
|
| 200 |
+
cfg.GGUF_HF_REPO,
|
| 201 |
tokenizer,
|
| 202 |
quantization_method=cfg.GGUF_QUANTIZATION,
|
| 203 |
token=cfg.HF_TOKEN,
|
| 204 |
)
|
| 205 |
+
logger.info(f"GGUF HF push 完了 ✅: https://huggingface.co/{cfg.GGUF_HF_REPO}")
|
| 206 |
else:
|
| 207 |
model.save_pretrained_gguf(
|
| 208 |
str(gguf_dir),
|