feat: PR#8 - SFT/DPO 学習スクリプト追加

training/README.md

@@ -0,0 +1,91 @@
+# TeenEmo 学習スクリプト
+
+LFM2-1.2B を TeenEmo データセットで SFT → DPO の順に学習するスクリプト群。
+
+## ファイル構成
+
+| ファイル | 役割 |
+|---------|------|
+| `train_config.py` | 全設定値（環境変数で上書き可能） |
+| `train_utils.py` | 共通ユーティリティ（ログ・データ読み込み） |
+| `train_sft.py` | SFT（教師あり微調整）学習スクリプト |
+| `train_dpo.py` | DPO（直接選好最適化）学習スクリプト |
+
+## セットアップ
+
+```bash
+pip install unsloth trl datasets transformers
+```
+
+## 実行手順
+
+### 1. 環境変数の設定
+
+```bash
+export HF_TOKEN="hf_xxxx"
+export HF_USERNAME="YUGOROU"
+```
+
+### 2. SFT 学習
+
+```bash
+python train_sft.py
+```
+
+完了すると以下が生成されます：
+- `./outputs/sft/lora/` — LoRA アダプタ
+- `./outputs/sft/gguf/` — GGUF ファイル（q4_k_m）
+- HF Hub: `YUGOROU/TeenEmo-LFM2-1.2B-SFT`
+
+### 3. DPO 学習
+
+```bash
+python train_dpo.py
+```
+
+完了すると以下が生成されます：
+- `./outputs/dpo/lora/` — LoRA アダプタ
+- `./outputs/dpo/gguf/` — GGUF ファイル（q4_k_m）
+- HF Hub: `YUGOROU/TeenEmo-LFM2-1.2B-DPO`
+- HF Hub: `YUGOROU/TeenEmo-LFM2-1.2B-GGUF`
+
+## 設定のカスタマイズ
+
+`train_config.py` の値は全て環境変数で上書き可能：
+
+```bash
+# エポック数を変更
+SFT_EPOCHS=2 python train_sft.py
+
+# バッチサイズを変更（OOM 対策）
+SFT_BATCH_SIZE=4 SFT_GRAD_ACCUM=8 python train_sft.py
+
+# DPO beta を変更
+DPO_BETA=0.05 python train_dpo.py
+
+# GGUF 保存をスキップ
+SAVE_GGUF=false python train_dpo.py
+```
+
+## ログ
+
+学習ログは `./outputs/sft/logs/` および `./outputs/dpo/logs/` に保存されます。
+詳細なエラートレースも含まれます。
+
+## デフォルト設定値
+
+### SFT
+- ベースモデル: `liquidai/LFM2-1.2B`
+- データセット: `YUGOROU/teememo-sft-validation`
+- エポック: 3
+- バッチサイズ: 8 × 勾配累積 4（実効バッチ 32）
+- 学習率: 2e-4（cosine スケジューラ）
+- LoRA rank: 32, alpha: 64
+
+### DPO
+- ベースモデル: SFT 済みアダプタ
+- データセット: `YUGOROU/teememo-pref-data`
+- エポック: 2
+- バッチサイズ: 4 × 勾配累積 8（実効バッチ 32）
+- 学習率: 5e-5
+- beta: 0.1

training/train_config.py

@@ -0,0 +1,80 @@
+"""
+train_config.py — TeenEmo 学習設定
+
+全ての設定値を一箇所で管理する。
+環境変数で上書き可能。
+"""
+
+from __future__ import annotations
+import os
+
+# ── Hugging Face ──────────────────────────────────────────────
+HF_TOKEN:      str = os.environ.get("HF_TOKEN", "")
+HF_USERNAME:   str = os.environ.get("HF_USERNAME", "YUGOROU")
+
+# ── ベースモデル ───────────────────────────────────────────────
+# LFM2.5-1.2B-Base を使用
+BASE_MODEL:    str = os.environ.get("BASE_MODEL", "LiquidAI/LFM2.5-1.2B-Base")
+
+# ── データセット ───────────────────────────────────────────────
+# SFT: teememo-sft-validation（本番データが格納されている）
+SFT_DATASET:   str = os.environ.get("SFT_DATASET",  f"{HF_USERNAME}/teememo-sft-validation")
+PREF_DATASET:  str = os.environ.get("PREF_DATASET", f"{HF_USERNAME}/teememo-pref-data")
+
+# ── 出力先 ─────────────────────────────────────────────────────
+SFT_OUTPUT_DIR:  str = os.environ.get("SFT_OUTPUT_DIR",  "./outputs/sft")
+DPO_OUTPUT_DIR:  str = os.environ.get("DPO_OUTPUT_DIR",  "./outputs/dpo")
+SFT_HF_REPO:     str = os.environ.get("SFT_HF_REPO",     f"{HF_USERNAME}/TeenEmo-LFM2.5-1.2B-SFT")
+DPO_HF_REPO:     str = os.environ.get("DPO_HF_REPO",     f"{HF_USERNAME}/TeenEmo-LFM2.5-1.2B-DPO")
+GGUF_HF_REPO:    str = os.environ.get("GGUF_HF_REPO",    f"{HF_USERNAME}/TeenEmo-LFM2.5-1.2B-GGUF")
+
+# ── LoRA 設定 ─────────────────────────────────────────────────
+# LFM2.5 のアーキテクチャに合わせたターゲットモジュール
+# 参考: https://unsloth.ai/docs/models/tutorials/lfm2.5
+LORA_R:              int   = int(os.environ.get("LORA_R",    "32"))
+LORA_ALPHA:          int   = int(os.environ.get("LORA_ALPHA", "64"))   # r * 2 推奨
+LORA_DROPOUT:        float = float(os.environ.get("LORA_DROPOUT", "0"))
+LORA_TARGET_MODULES: list  = [
+    # LFM2.5 固有のモジュール（通常の Transformer とは異なる）
+    "q_proj", "k_proj", "v_proj", "out_proj", "in_proj",
+    "w1", "w2", "w3",
+]
+
+# ── シーケンス長 ───────────────────────────────────────────────
+# LFM2.5 は最大 32768 トークン対応、SFT データに合わせて 2048 に設定
+MAX_SEQ_LENGTH: int = int(os.environ.get("MAX_SEQ_LENGTH", "2048"))
+
+# ── SFT 学習設定（A100 80GB 最適化）─────────────────────────
+# A100 80GB: LFM2.5-1.2B は bf16 で非常に小さいため大バッチが可能
+# 実効バッチ = SFT_BATCH_SIZE × SFT_GRAD_ACCUM = 32 × 4 = 128
+SFT_BATCH_SIZE:               int   = int(os.environ.get("SFT_BATCH_SIZE",   "32"))
+SFT_GRAD_ACCUM:               int   = int(os.environ.get("SFT_GRAD_ACCUM",    "4"))
+SFT_EPOCHS:                   int   = int(os.environ.get("SFT_EPOCHS",         "3"))
+SFT_LR:                       float = float(os.environ.get("SFT_LR",        "2e-4"))
+SFT_WARMUP_RATIO:             float = float(os.environ.get("SFT_WARMUP_RATIO","0.05"))
+SFT_LR_SCHEDULER:             str   = os.environ.get("SFT_LR_SCHEDULER",  "cosine")
+SFT_WEIGHT_DECAY:             float = float(os.environ.get("SFT_WEIGHT_DECAY","0.01"))
+SFT_LOGGING_STEPS:            int   = int(os.environ.get("SFT_LOGGING_STEPS", "10"))
+SFT_SAVE_STEPS:               int   = int(os.environ.get("SFT_SAVE_STEPS",   "100"))
+SFT_PACKING:                  bool  = os.environ.get("SFT_PACKING", "false").lower() == "true"
+
+# ── DPO 学習設定（A100 80GB 最適化）─────────────────────────
+# DPO は chosen/rejected の2倍メモリが必要なためバッチサイズを抑える
+# 実効バッチ = DPO_BATCH_SIZE × DPO_GRAD_ACCUM = 8 × 4 = 32
+DPO_BATCH_SIZE:               int   = int(os.environ.get("DPO_BATCH_SIZE",    "8"))
+DPO_GRAD_ACCUM:               int   = int(os.environ.get("DPO_GRAD_ACCUM",    "4"))
+DPO_EPOCHS:                   int   = int(os.environ.get("DPO_EPOCHS",         "2"))
+DPO_LR:                       float = float(os.environ.get("DPO_LR",        "5e-5"))
+DPO_WARMUP_RATIO:             float = float(os.environ.get("DPO_WARMUP_RATIO","0.1"))
+DPO_LR_SCHEDULER:             str   = os.environ.get("DPO_LR_SCHEDULER",  "cosine")
+DPO_WEIGHT_DECAY:             float = float(os.environ.get("DPO_WEIGHT_DECAY","0.01"))
+DPO_LOGGING_STEPS:            int   = int(os.environ.get("DPO_LOGGING_STEPS",  "5"))
+DPO_SAVE_STEPS:               int   = int(os.environ.get("DPO_SAVE_STEPS",   "100"))
+DPO_BETA:                     float = float(os.environ.get("DPO_BETA",       "0.1"))
+DPO_MAX_PROMPT_LENGTH:        int   = int(os.environ.get("DPO_MAX_PROMPT_LENGTH", "512"))
+DPO_MAX_LENGTH:               int   = int(os.environ.get("DPO_MAX_LENGTH",  "1024"))
+
+# ── GGUF 量子化 ────────────────────────────────────────────────
+GGUF_QUANTIZATION: str = os.environ.get("GGUF_QUANTIZATION", "q4_k_m")
+SAVE_GGUF:         bool = os.environ.get("SAVE_GGUF", "true").lower() == "true"
+PUSH_TO_HUB:       bool = os.environ.get("PUSH_TO_HUB", "true").lower() == "true"

training/train_dpo.py

@@ -0,0 +1,229 @@
+"""
+train_dpo.py — TeenEmo DPO（SFT済みLoRAへの継続学習）
+
+フロー:
+    1. SFT 済み LoRA アダプタを HF Hub またはローカルからロード
+    2. DPO 用 LoRA アダプタを追加設定
+    3. 選好データセットを HF Hub から取得・チャットテンプレート適用
+    4. DPOTrainer で学習（SFT アダプタに継続学習）
+    5. [STEP 2/3] DPO 完了 → HF Hub に push
+    6. [STEP 3/3] GGUF 変換 → HF Hub に push
+
+実行例:
+    python train_dpo.py
+    DPO_EPOCHS=1 DPO_BETA=0.05 python train_dpo.py
+"""
+
+from __future__ import annotations
+
+import os
+import sys
+import traceback
+from datetime import datetime, timezone
+from pathlib import Path
+
+if not os.environ.get("HF_TOKEN"):
+    print("[ERROR] HF_TOKEN が未設定です。export HF_TOKEN='hf_...' を実行してください。")
+    sys.exit(1)
+
+import torch
+from unsloth import FastLanguageModel, PatchDPOTrainer, is_bfloat16_supported
+from trl import DPOTrainer, DPOConfig
+
+import train_config as cfg
+from train_utils import (
+    setup_logger, log_gpu_info, log_training_config,
+    load_pref_dataset, apply_chat_template_dpo,
+)
+
+
+def main() -> None:
+    # DPOTrainer の Unsloth パッチ（必ず最初に呼ぶ）
+    PatchDPOTrainer()
+
+    start_time = datetime.now(timezone.utc)
+    log_dir = Path(cfg.DPO_OUTPUT_DIR) / "logs"
+    log_dir.mkdir(parents=True, exist_ok=True)
+    log_file = log_dir / f"dpo_{start_time.strftime('%Y%m%d_%H%M%S')}.log"
+
+    logger = setup_logger("dpo", str(log_file))
+    logger.info(f"=== TeenEmo DPO 開始 [{start_time.isoformat()}] ===")
+
+    log_gpu_info(logger)
+    log_training_config(logger, "DPO")
+
+    # ── SFT 済み LoRA アダプタのロード ───────────────────────
+    # ローカルに SFT アダプタがあればそちらを優先
+    sft_lora_dir = Path(cfg.SFT_OUTPUT_DIR) / "lora"
+    if sft_lora_dir.exists():
+        model_path = str(sft_lora_dir)
+        logger.info(f"SFT LoRA アダプタ（ローカル）からロード: {model_path}")
+    else:
+        model_path = cfg.SFT_HF_REPO
+        logger.info(f"SFT LoRA アダプタ（HF Hub）からロード: {model_path}")
+
+    try:
+        model, tokenizer = FastLanguageModel.from_pretrained(
+            model_name=model_path,
+            max_seq_length=cfg.MAX_SEQ_LENGTH,
+            dtype=None,
+            load_in_4bit=False,
+            token=cfg.HF_TOKEN or None,
+        )
+        logger.info("SFT モデルロード完了 ✅")
+    except Exception as e:
+        logger.error(f"モデルロードエラー: {e}")
+        logger.debug(traceback.format_exc())
+        logger.info("先に train_sft.py を実行してください。")
+        raise
+
+    # ── DPO 用 LoRA アダプタ追加 ─────────────────────────────
+    logger.info("DPO 用 LoRA アダプタ追加中...")
+    try:
+        model = FastLanguageModel.get_peft_model(
+            model,
+            r=cfg.LORA_R,
+            target_modules=cfg.LORA_TARGET_MODULES,
+            lora_alpha=cfg.LORA_ALPHA,
+            lora_dropout=cfg.LORA_DROPOUT,
+            bias="none",
+            use_gradient_checkpointing="unsloth",
+            random_state=3407,
+        )
+        trainable = sum(p.numel() for p in model.parameters() if p.requires_grad)
+        logger.info(f"  学習可能パラメータ: {trainable:,}")
+    except Exception as e:
+        logger.error(f"LoRA 設定エラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    # ── データセット準備 ──────────────────────────────────────
+    logger.info("選好データセット準備中...")
+    try:
+        raw_ds = load_pref_dataset(logger)
+
+        # チャットテンプレート適用（SFT と同じフォーマットに統一）
+        logger.info("チャットテンプレート適用中...")
+        ds = raw_ds.map(
+            lambda x: apply_chat_template_dpo(x, tokenizer, logger),
+            batched=True,
+            desc="DPO チャットテンプレート適用",
+        )
+        logger.info(f"選好データ準備完了: {len(ds)} 件")
+
+        # サンプル確認
+        logger.debug(f"  prompt[0]: {ds[0]['prompt'][:100]}")
+        logger.debug(f"  chosen[0]: {ds[0]['chosen'][:100]}")
+    except Exception as e:
+        logger.error(f"データセット準備エラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    # ── DPOTrainer 初期化 ─────────────────────────────────────
+    logger.info("DPOTrainer 初期化中...")
+    try:
+        dpo_trainer = DPOTrainer(
+            model=model,
+            ref_model=None,  # implicit reference（メモリ節約）
+            args=DPOConfig(
+                output_dir=cfg.DPO_OUTPUT_DIR,
+                per_device_train_batch_size=cfg.DPO_BATCH_SIZE,
+                gradient_accumulation_steps=cfg.DPO_GRAD_ACCUM,
+                num_train_epochs=cfg.DPO_EPOCHS,
+                learning_rate=cfg.DPO_LR,
+                warmup_ratio=cfg.DPO_WARMUP_RATIO,
+                lr_scheduler_type=cfg.DPO_LR_SCHEDULER,
+                weight_decay=cfg.DPO_WEIGHT_DECAY,
+                fp16=not is_bfloat16_supported(),
+                bf16=is_bfloat16_supported(),
+                logging_steps=cfg.DPO_LOGGING_STEPS,
+                save_steps=cfg.DPO_SAVE_STEPS,
+                save_total_limit=2,
+                optim="adamw_8bit",
+                seed=42,
+                report_to="none",
+            ),
+            beta=cfg.DPO_BETA,
+            train_dataset=ds,
+            tokenizer=tokenizer,
+            max_length=cfg.DPO_MAX_LENGTH,
+            max_prompt_length=cfg.DPO_MAX_PROMPT_LENGTH,
+        )
+        logger.info("DPOTrainer 初期化完了 ✅")
+    except Exception as e:
+        logger.error(f"DPOTrainer 初期化エラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    # ── DPO 学習実行 ──────────────────────────────────────────
+    logger.info("DPO 学習開始...")
+    try:
+        train_result = dpo_trainer.train()
+        logger.info("DPO 学習完了 ✅")
+        logger.info(f"  train_loss:       {train_result.training_loss:.4f}")
+        logger.info(f"  train_runtime:    {train_result.metrics.get('train_runtime', 0):.0f}s")
+        logger.info(f"  samples/sec:      {train_result.metrics.get('train_samples_per_second', 0):.2f}")
+        logger.info(f"  rewards/chosen:   {train_result.metrics.get('rewards/chosen', 'N/A')}")
+        logger.info(f"  rewards/rejected: {train_result.metrics.get('rewards/rejected', 'N/A')}")
+        logger.info(f"  rewards/margin:   {train_result.metrics.get('rewards/margins', 'N/A')}")
+    except Exception as e:
+        logger.error(f"DPO 学習エラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    # ── LoRA アダプタ保存 ─────────────────────────────────────
+    lora_dir = Path(cfg.DPO_OUTPUT_DIR) / "lora"
+    logger.info(f"LoRA アダプタ保存: {lora_dir}")
+    try:
+        model.save_pretrained(str(lora_dir))
+        tokenizer.save_pretrained(str(lora_dir))
+        logger.info("LoRA アダプタ保存完了 ✅")
+    except Exception as e:
+        logger.error(f"LoRA 保存エラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    # ── [STEP 2/3] HF Hub に SFT+DPO チェックポイント push ───
+    if cfg.PUSH_TO_HUB and cfg.HF_TOKEN:
+        logger.info(f"[STEP 2/3] HF Hub に SFT+DPO チェックポイント push: {cfg.DPO_HF_REPO}")
+        try:
+            model.push_to_hub(cfg.DPO_HF_REPO, token=cfg.HF_TOKEN)
+            tokenizer.push_to_hub(cfg.DPO_HF_REPO, token=cfg.HF_TOKEN)
+            logger.info(f"  ✅ https://huggingface.co/{cfg.DPO_HF_REPO}")
+        except Exception as e:
+            logger.error(f"DPO push エラー: {e}")
+            logger.debug(traceback.format_exc())
+
+    # ── [STEP 3/3] GGUF 変換 + HF Hub push ───────────────────
+    if cfg.SAVE_GGUF:
+        logger.info(f"[STEP 3/3] GGUF 変換中 ({cfg.GGUF_QUANTIZATION})...")
+        try:
+            gguf_dir = Path(cfg.DPO_OUTPUT_DIR) / "gguf"
+            gguf_dir.mkdir(parents=True, exist_ok=True)
+
+            if cfg.PUSH_TO_HUB and cfg.HF_TOKEN:
+                model.push_to_hub_gguf(
+                    cfg.GGUF_HF_REPO,
+                    tokenizer,
+                    quantization_method=cfg.GGUF_QUANTIZATION,
+                    token=cfg.HF_TOKEN,
+                )
+                logger.info(f"  ✅ https://huggingface.co/{cfg.GGUF_HF_REPO}")
+            else:
+                model.save_pretrained_gguf(
+                    str(gguf_dir),
+                    tokenizer,
+                    quantization_method=cfg.GGUF_QUANTIZATION,
+                )
+                logger.info(f"  ✅ ローカル保存: {gguf_dir}")
+        except Exception as e:
+            logger.error(f"GGUF 変換エラー: {e}")
+            logger.debug(traceback.format_exc())
+
+    elapsed = (datetime.now(timezone.utc) - start_time).total_seconds()
+    logger.info(f"=== DPO 完了 ({elapsed/60:.1f}分) ===")
+    logger.info(f"ログ: {log_file}")
+
+
+if __name__ == "__main__":
+    main()

training/train_sft.py

@@ -0,0 +1,191 @@
+"""
+train_sft.py — TeenEmo SFT（教師あり微調整）
+
+フロー:
+    1. LFM2.5-1.2B-Base を HF Hub からロード
+    2. LoRA アダプタを設定
+    3. SFT データセットを HF Hub から取得・変換
+    4. SFTTrainer で学習
+    5. SFT 完了 → HF Hub にチェックポイントを push（STEP 1/3）
+    ※ GGUF保存は DPO 完了後に train_dpo.py が行う
+
+実行例:
+    python train_sft.py
+    SFT_EPOCHS=2 SFT_BATCH_SIZE=16 python train_sft.py
+"""
+
+from __future__ import annotations
+
+import os
+import sys
+import traceback
+from datetime import datetime, timezone
+from pathlib import Path
+
+if not os.environ.get("HF_TOKEN"):
+    print("[ERROR] HF_TOKEN が未設定です。export HF_TOKEN='hf_...' を実行してください。")
+    sys.exit(1)
+
+import torch
+from unsloth import FastLanguageModel, is_bfloat16_supported
+from trl import SFTTrainer, SFTConfig
+
+import train_config as cfg
+from train_utils import (
+    setup_logger, log_gpu_info, log_training_config,
+    load_sft_dataset, apply_chat_template_sft,
+)
+
+
+def main() -> None:
+    start_time = datetime.now(timezone.utc)
+    log_dir = Path(cfg.SFT_OUTPUT_DIR) / "logs"
+    log_dir.mkdir(parents=True, exist_ok=True)
+    log_file = log_dir / f"sft_{start_time.strftime('%Y%m%d_%H%M%S')}.log"
+
+    logger = setup_logger("sft", str(log_file))
+    logger.info(f"=== TeenEmo SFT 開始 [{start_time.isoformat()}] ===")
+
+    log_gpu_info(logger)
+    log_training_config(logger, "SFT")
+
+    # ── モデルロード ──────────────────────────────────────────
+    logger.info(f"モデルロード中: {cfg.BASE_MODEL}")
+    try:
+        model, tokenizer = FastLanguageModel.from_pretrained(
+            model_name=cfg.BASE_MODEL,
+            max_seq_length=cfg.MAX_SEQ_LENGTH,
+            dtype=None,          # A100 → bfloat16 自動選択
+            load_in_4bit=False,  # LFM2.5: bf16 LoRA 推奨
+            token=cfg.HF_TOKEN or None,
+        )
+        logger.info("モデルロード完了 ✅")
+    except Exception as e:
+        logger.error(f"モデルロードエラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    # ── LoRA 設定 ──────────────────────────────────────────────
+    logger.info("LoRA アダプタ設定中...")
+    try:
+        model = FastLanguageModel.get_peft_model(
+            model,
+            r=cfg.LORA_R,
+            target_modules=cfg.LORA_TARGET_MODULES,
+            lora_alpha=cfg.LORA_ALPHA,
+            lora_dropout=cfg.LORA_DROPOUT,
+            bias="none",
+            use_gradient_checkpointing="unsloth",
+            random_state=3407,
+            use_rslora=False,
+            loftq_config=None,
+        )
+        total_params = sum(p.numel() for p in model.parameters())
+        trainable_params = sum(p.numel() for p in model.parameters() if p.requires_grad)
+        logger.info(f"  全パラメータ数:      {total_params:,}")
+        logger.info(f"  学習可能パラメータ数: {trainable_params:,} ({trainable_params/total_params*100:.2f}%)")
+    except Exception as e:
+        logger.error(f"LoRA 設定エラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    # ── データセット準備 ──────────────────────────────────────
+    logger.info("データセット準備中...")
+    try:
+        raw_ds = load_sft_dataset(logger)
+        logger.info("チャットテンプレート適用中...")
+        ds = raw_ds.map(
+            lambda x: apply_chat_template_sft(x, tokenizer, logger),
+            batched=True,
+            remove_columns=raw_ds.column_names,
+            desc="チャットテンプレート適用",
+        )
+        before = len(ds)
+        ds = ds.filter(lambda x: len(x["text"]) > 0)
+        logger.info(f"  変換後: {before} → {len(ds)} 件")
+        logger.debug(f"  サンプル[0]:\n{ds[0]['text'][:300]}")
+    except Exception as e:
+        logger.error(f"データセット準備エラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    # ── SFTTrainer 初期化 ─────────────────────────────────────
+    logger.info("SFTTrainer 初期化中...")
+    try:
+        trainer = SFTTrainer(
+            model=model,
+            tokenizer=tokenizer,
+            train_dataset=ds,
+            dataset_text_field="text",
+            max_seq_length=cfg.MAX_SEQ_LENGTH,
+            packing=cfg.SFT_PACKING,
+            args=SFTConfig(
+                output_dir=cfg.SFT_OUTPUT_DIR,
+                per_device_train_batch_size=cfg.SFT_BATCH_SIZE,
+                gradient_accumulation_steps=cfg.SFT_GRAD_ACCUM,
+                num_train_epochs=cfg.SFT_EPOCHS,
+                learning_rate=cfg.SFT_LR,
+                warmup_ratio=cfg.SFT_WARMUP_RATIO,
+                lr_scheduler_type=cfg.SFT_LR_SCHEDULER,
+                weight_decay=cfg.SFT_WEIGHT_DECAY,
+                fp16=not is_bfloat16_supported(),
+                bf16=is_bfloat16_supported(),
+                logging_steps=cfg.SFT_LOGGING_STEPS,
+                save_steps=cfg.SFT_SAVE_STEPS,
+                save_total_limit=2,
+                optim="adamw_8bit",
+                seed=3407,
+                report_to="none",
+                dataset_num_proc=2,
+            ),
+        )
+        logger.info("SFTTrainer 初期化完了 ✅")
+    except Exception as e:
+        logger.error(f"SFTTrainer 初期化エラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    # ── 学習実行 ──────────────────────────────────────────────
+    logger.info("SFT 学習開始...")
+    try:
+        train_result = trainer.train()
+        logger.info("SFT 学習完了 ✅")
+        logger.info(f"  train_loss:      {train_result.training_loss:.4f}")
+        logger.info(f"  train_runtime:   {train_result.metrics.get('train_runtime', 0):.0f}s")
+        logger.info(f"  samples/sec:     {train_result.metrics.get('train_samples_per_second', 0):.2f}")
+    except Exception as e:
+        logger.error(f"SFT 学習エラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    # ── LoRA アダプタ保存 ─────────────────────────────────────
+    lora_dir = Path(cfg.SFT_OUTPUT_DIR) / "lora"
+    logger.info(f"LoRA アダプタ保存: {lora_dir}")
+    try:
+        model.save_pretrained(str(lora_dir))
+        tokenizer.save_pretrained(str(lora_dir))
+        logger.info("LoRA アダプタ保存完了 ✅")
+    except Exception as e:
+        logger.error(f"LoRA 保存エラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    # ── [STEP 1/3] HF Hub に SFT チェックポイント push ───────
+    if cfg.PUSH_TO_HUB and cfg.HF_TOKEN:
+        logger.info(f"[STEP 1/3] HF Hub に SFT チェックポイント push: {cfg.SFT_HF_REPO}")
+        try:
+            model.push_to_hub(cfg.SFT_HF_REPO, token=cfg.HF_TOKEN)
+            tokenizer.push_to_hub(cfg.SFT_HF_REPO, token=cfg.HF_TOKEN)
+            logger.info(f"  ✅ https://huggingface.co/{cfg.SFT_HF_REPO}")
+        except Exception as e:
+            logger.error(f"SFT push エラー: {e}")
+            logger.debug(traceback.format_exc())
+
+    elapsed = (datetime.now(timezone.utc) - start_time).total_seconds()
+    logger.info(f"=== SFT 完了 ({elapsed/60:.1f}分) ===")
+    logger.info(f"次のステップ: python train_dpo.py")
+    logger.info(f"ログ: {log_file}")
+
+
+if __name__ == "__main__":
+    main()

training/train_utils.py

@@ -0,0 +1,253 @@
+"""
+train_utils.py — 共通ユーティリティ
+
+ログ出力・データセット読み込み・チャットテンプレート適用など
+SFT/DPO 両スクリプトで共有する処理をまとめる。
+"""
+
+from __future__ import annotations
+
+import json
+import logging
+import os
+import sys
+import traceback
+from datetime import datetime, timezone
+from pathlib import Path
+from typing import Any
+
+import torch
+from datasets import Dataset, load_dataset
+from transformers import PreTrainedTokenizer
+
+import train_config as cfg
+
+
+# ── ロガー設定 ────────────────────────────────────────────────
+
+def setup_logger(name: str, log_file: str | None = None) -> logging.Logger:
+    """
+    詳細なログを出力するロガーを設定する。
+    ファイルとstdoutの両方に出力する。
+    """
+    logger = logging.getLogger(name)
+    logger.setLevel(logging.DEBUG)
+    fmt = logging.Formatter(
+        "[%(asctime)s] [%(levelname)s] [%(name)s] %(message)s",
+        datefmt="%Y-%m-%d %H:%M:%S",
+    )
+
+    # stdout ハンドラ
+    sh = logging.StreamHandler(sys.stdout)
+    sh.setLevel(logging.DEBUG)
+    sh.setFormatter(fmt)
+    logger.addHandler(sh)
+
+    # ファイルハンドラ（オプション）
+    if log_file:
+        Path(log_file).parent.mkdir(parents=True, exist_ok=True)
+        fh = logging.FileHandler(log_file, encoding="utf-8")
+        fh.setLevel(logging.DEBUG)
+        fh.setFormatter(fmt)
+        logger.addHandler(fh)
+
+    return logger
+
+
+# ── GPU 情報 ──────────────────────────────────────────────────
+
+def log_gpu_info(logger: logging.Logger) -> None:
+    if not torch.cuda.is_available():
+        logger.warning("CUDA が利用できません。CPU で実行します。")
+        return
+    for i in range(torch.cuda.device_count()):
+        props = torch.cuda.get_device_properties(i)
+        total_gb = props.total_memory / 1e9
+        logger.info(f"GPU {i}: {props.name}  VRAM: {total_gb:.1f}GB")
+    logger.info(f"bfloat16 サポート: {torch.cuda.is_bf16_supported()}")
+
+
+# ── SFT データセット読み込み ──────────────────────────────────
+
+def load_sft_dataset(logger: logging.Logger) -> Dataset:
+    """
+    HF Hub から SFT データセットを読み込み、チャット形式に変換する。
+    フォーマット: messages フィールド（OpenAI 形式）
+    """
+    logger.info(f"SFT データセット読み込み: {cfg.SFT_DATASET}")
+    try:
+        ds = load_dataset(
+            cfg.SFT_DATASET,
+            split="train",
+            token=cfg.HF_TOKEN or None,
+        )
+    except Exception as e:
+        logger.error(f"データセット読み込みエラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    logger.info(f"  件数: {len(ds)}")
+    logger.info(f"  カラム: {ds.column_names}")
+
+    # サンプル確認
+    sample = ds[0]
+    logger.debug(f"  サンプル[0] キー: {list(sample.keys())}")
+    if "messages" in sample:
+        for m in sample["messages"][:2]:
+            logger.debug(f"    role={m['role']} content={m['content'][:80]}...")
+
+    return ds
+
+
+# ── DPO データセット読み込み ──────────────────────────────────
+
+def load_pref_dataset(logger: logging.Logger) -> Dataset:
+    """
+    HF Hub から選好データセットを読み込む。
+    フォーマット: prompt / chosen / rejected フィールド
+    """
+    logger.info(f"選好データセット読み込み: {cfg.PREF_DATASET}")
+    try:
+        ds = load_dataset(
+            cfg.PREF_DATASET,
+            split="train",
+            token=cfg.HF_TOKEN or None,
+        )
+    except Exception as e:
+        logger.error(f"データセット読み込みエラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    logger.info(f"  件数: {len(ds)}")
+    logger.info(f"  カラム: {ds.column_names}")
+
+    # バリデーション
+    required = {"prompt", "chosen", "rejected"}
+    missing = required - set(ds.column_names)
+    if missing:
+        raise ValueError(f"DPO データセットに必須カラムが不足: {missing}")
+
+    # サンプル確認
+    sample = ds[0]
+    logger.debug(f"  prompt[0]: {sample['prompt'][:80]}")
+    logger.debug(f"  chosen[0]: {sample['chosen'][:80]}")
+    logger.debug(f"  rejected[0]: {sample['rejected'][:80]}")
+
+    # chosen/rejected に <synth> タグが残っていないか確認
+    synth_count = sum(1 for x in ds["chosen"] if "<synth>" in x)
+    if synth_count > 0:
+        logger.warning(f"  chosen に <synth> タグが {synth_count} 件残存しています！")
+    else:
+        logger.info("  chosen <synth> タグなし ✅")
+
+    return ds
+
+
+# ── チャットテンプレート適用（SFT用） ─────────────────────────
+
+def apply_chat_template_sft(
+    examples: dict,
+    tokenizer: PreTrainedTokenizer,
+    logger: logging.Logger,
+) -> dict:
+    """
+    messages フィールドをチャットテンプレートで text に変換する。
+    LFM2 のチャットテンプレートに対応。
+    """
+    texts = []
+    errors = 0
+    for messages in examples["messages"]:
+        try:
+            text = tokenizer.apply_chat_template(
+                messages,
+                tokenize=False,
+                add_generation_prompt=False,
+            )
+            texts.append(text)
+        except Exception as e:
+            logger.warning(f"チャットテンプレート適用エラー: {e}")
+            logger.debug(traceback.format_exc())
+            texts.append("")
+            errors += 1
+    if errors > 0:
+        logger.warning(f"チャットテンプレート適用エラー: {errors} 件")
+    return {"text": texts}
+
+
+# ── DPO データ変換（チャットテンプレート適用） ────────────────
+
+def apply_chat_template_dpo(
+    examples: dict,
+    tokenizer: PreTrainedTokenizer,
+    logger: logging.Logger,
+) -> dict:
+    """
+    DPO データの prompt/chosen/rejected にチャットテンプレートを適用する。
+    prompt は user ターンのみ、chosen/rejected は assistant ターンとして整形する。
+    """
+    prompts, chosens, rejecteds = [], [], []
+
+    for prompt, chosen, rejected in zip(
+        examples["prompt"], examples["chosen"], examples["rejected"]
+    ):
+        try:
+            # prompt: user メッセージ
+            prompt_text = tokenizer.apply_chat_template(
+                [{"role": "user", "content": prompt}],
+                tokenize=False,
+                add_generation_prompt=True,
+            )
+            # chosen: assistant メッセージ
+            chosen_text = tokenizer.apply_chat_template(
+                [
+                    {"role": "user", "content": prompt},
+                    {"role": "assistant", "content": chosen},
+                ],
+                tokenize=False,
+                add_generation_prompt=False,
+            )
+            # rejected: assistant メッセージ
+            rejected_text = tokenizer.apply_chat_template(
+                [
+                    {"role": "user", "content": prompt},
+                    {"role": "assistant", "content": rejected},
+                ],
+                tokenize=False,
+                add_generation_prompt=False,
+            )
+            prompts.append(prompt_text)
+            chosens.append(chosen_text)
+            rejecteds.append(rejected_text)
+        except Exception as e:
+            logger.warning(f"DPO チャットテンプレート適用エラー: {e}")
+            prompts.append(prompt)
+            chosens.append(chosen)
+            rejecteds.append(rejected)
+
+    return {"prompt": prompts, "chosen": chosens, "rejected": rejecteds}
+
+
+# ── 学習設定のサマリー出力 ─────────────────────────────────────
+
+def log_training_config(logger: logging.Logger, mode: str) -> None:
+    logger.info(f"=== {mode} 学習設定 ===")
+    logger.info(f"  ベースモデル : {cfg.BASE_MODEL}")
+    if mode == "SFT":
+        logger.info(f"  データセット : {cfg.SFT_DATASET}")
+        logger.info(f"  エポック数   : {cfg.SFT_EPOCHS}")
+        logger.info(f"  バッチサイズ : {cfg.SFT_BATCH_SIZE} × 勾配累積 {cfg.SFT_GRAD_ACCUM}")
+        logger.info(f"  学習率       : {cfg.SFT_LR}")
+        logger.info(f"  出力先       : {cfg.SFT_OUTPUT_DIR}")
+        logger.info(f"  HF リポジトリ: {cfg.SFT_HF_REPO}")
+    else:
+        logger.info(f"  データセット : {cfg.PREF_DATASET}")
+        logger.info(f"  エポック数   : {cfg.DPO_EPOCHS}")
+        logger.info(f"  バッチサイズ : {cfg.DPO_BATCH_SIZE} × 勾配累積 {cfg.DPO_GRAD_ACCUM}")
+        logger.info(f"  学習率       : {cfg.DPO_LR}")
+        logger.info(f"  DPO beta     : {cfg.DPO_BETA}")
+        logger.info(f"  出力先       : {cfg.DPO_OUTPUT_DIR}")
+        logger.info(f"  HF リポジトリ: {cfg.DPO_HF_REPO}")
+    logger.info(f"  LoRA rank    : {cfg.LORA_R}  alpha: {cfg.LORA_ALPHA}")
+    logger.info(f"  最大長       : {cfg.MAX_SEQ_LENGTH}")
+    logger.info(f"  GGUF 保存    : {cfg.SAVE_GGUF} ({cfg.GGUF_QUANTIZATION})")
+    logger.info(f"  HF Push      : {cfg.PUSH_TO_HUB}")