training/train_utils.py

"""
train_utils.py — 共通ユーティリティ

ログ出力・データセット読み込み・チャットテンプレート適用など
SFT/DPO 両スクリプトで共有する処理をまとめる。
"""

from __future__ import annotations

import json
import logging
import os
import sys
import traceback
from datetime import datetime, timezone
from pathlib import Path
from typing import Any

import torch
from datasets import Dataset, load_dataset
from transformers import PreTrainedTokenizer

import train_config as cfg


# ── ロガー設定 ────────────────────────────────────────────────

def setup_logger(name: str, log_file: str | None = None) -> logging.Logger:
    """
    詳細なログを出力するロガーを設定する。
    ファイルとstdoutの両方に出力する。
    """
    logger = logging.getLogger(name)
    logger.setLevel(logging.DEBUG)
    fmt = logging.Formatter(
        "[%(asctime)s] [%(levelname)s] [%(name)s] %(message)s",
        datefmt="%Y-%m-%d %H:%M:%S",
    )

    # stdout ハンドラ
    sh = logging.StreamHandler(sys.stdout)
    sh.setLevel(logging.DEBUG)
    sh.setFormatter(fmt)
    logger.addHandler(sh)

    # ファイルハンドラ（オプション）
    if log_file:
        Path(log_file).parent.mkdir(parents=True, exist_ok=True)
        fh = logging.FileHandler(log_file, encoding="utf-8")
        fh.setLevel(logging.DEBUG)
        fh.setFormatter(fmt)
        logger.addHandler(fh)

    return logger


# ── GPU 情報 ──────────────────────────────────────────────────

def log_gpu_info(logger: logging.Logger) -> None:
    if not torch.cuda.is_available():
        logger.warning("CUDA が利用できません。CPU で実行します。")
        return
    for i in range(torch.cuda.device_count()):
        props = torch.cuda.get_device_properties(i)
        total_gb = props.total_memory / 1e9
        logger.info(f"GPU {i}: {props.name}  VRAM: {total_gb:.1f}GB")
    logger.info(f"bfloat16 サポート: {torch.cuda.is_bf16_supported()}")


# ── SFT データセット読み込み ──────────────────────────────────

def load_sft_dataset(logger: logging.Logger) -> Dataset:
    """
    HF Hub から SFT データセットを読み込み、チャット形式に変換する。
    フォーマット: messages フィールド（OpenAI 形式）
    """
    logger.info(f"SFT データセット読み込み: {cfg.SFT_DATASET}")
    try:
        ds = load_dataset(
            cfg.SFT_DATASET,
            split="train",
            token=cfg.HF_TOKEN or None,
        )
    except Exception as e:
        logger.error(f"データセット読み込みエラー: {e}")
        logger.debug(traceback.format_exc())
        raise

    logger.info(f"  件数: {len(ds)}")
    logger.info(f"  カラム: {ds.column_names}")

    # サンプル確認
    sample = ds[0]
    logger.debug(f"  サンプル[0] キー: {list(sample.keys())}")
    if "messages" in sample:
        for m in sample["messages"][:2]:
            logger.debug(f"    role={m['role']} content={m['content'][:80]}...")

    return ds


# ── DPO データセット読み込み ──────────────────────────────────

def load_pref_dataset(logger: logging.Logger) -> Dataset:
    """
    HF Hub から選好データセットを読み込む。
    フォーマット: prompt / chosen / rejected フィールド
    """
    logger.info(f"選好データセット読み込み: {cfg.PREF_DATASET}")
    try:
        ds = load_dataset(
            cfg.PREF_DATASET,
            split="train",
            token=cfg.HF_TOKEN or None,
        )
    except Exception as e:
        logger.error(f"データセット読み込みエラー: {e}")
        logger.debug(traceback.format_exc())
        raise

    logger.info(f"  件数: {len(ds)}")
    logger.info(f"  カラム: {ds.column_names}")

    # バリデーション
    required = {"prompt", "chosen", "rejected"}
    missing = required - set(ds.column_names)
    if missing:
        raise ValueError(f"DPO データセットに必須カラムが不足: {missing}")

    # サンプル確認
    sample = ds[0]
    logger.debug(f"  prompt[0]: {sample['prompt'][:80]}")
    logger.debug(f"  chosen[0]: {sample['chosen'][:80]}")
    logger.debug(f"  rejected[0]: {sample['rejected'][:80]}")

    # chosen/rejected に <synth> タグが残っていないか確認
    synth_count = sum(1 for x in ds["chosen"] if "<synth>" in x)
    if synth_count > 0:
        logger.warning(f"  chosen に <synth> タグが {synth_count} 件残存しています！")
    else:
        logger.info("  chosen <synth> タグなし ✅")

    return ds


# ── チャットテンプレート適用（SFT用） ─────────────────────────

def apply_chat_template_sft(
    examples: dict,
    tokenizer: PreTrainedTokenizer,
    logger: logging.Logger,
) -> dict:
    """
    messages フィールドをチャットテンプレートで text に変換する。
    LFM2 のチャットテンプレートに対応。
    """
    texts = []
    errors = 0
    for messages in examples["messages"]:
        try:
            text = tokenizer.apply_chat_template(
                messages,
                tokenize=False,
                add_generation_prompt=False,
            )
            texts.append(text)
        except Exception as e:
            logger.warning(f"チャットテンプレート適用エラー: {e}")
            logger.debug(traceback.format_exc())
            texts.append("")
            errors += 1
    if errors > 0:
        logger.warning(f"チャットテンプレート適用エラー: {errors} 件")
    return {"text": texts}


# ── DPO データ変換（チャットテンプレート適用） ────────────────

def apply_chat_template_dpo(
    examples: dict,
    tokenizer: PreTrainedTokenizer,
    logger: logging.Logger,
) -> dict:
    """
    DPO データの prompt/chosen/rejected にチャットテンプレートを適用する。
    prompt は user ターンのみ、chosen/rejected は assistant ターンとして整形する。
    """
    prompts, chosens, rejecteds = [], [], []

    for prompt, chosen, rejected in zip(
        examples["prompt"], examples["chosen"], examples["rejected"]
    ):
        try:
            # prompt: user メッセージ
            prompt_text = tokenizer.apply_chat_template(
                [{"role": "user", "content": prompt}],
                tokenize=False,
                add_generation_prompt=True,
            )
            # chosen: assistant メッセージ
            chosen_text = tokenizer.apply_chat_template(
                [
                    {"role": "user", "content": prompt},
                    {"role": "assistant", "content": chosen},
                ],
                tokenize=False,
                add_generation_prompt=False,
            )
            # rejected: assistant メッセージ
            rejected_text = tokenizer.apply_chat_template(
                [
                    {"role": "user", "content": prompt},
                    {"role": "assistant", "content": rejected},
                ],
                tokenize=False,
                add_generation_prompt=False,
            )
            prompts.append(prompt_text)
            chosens.append(chosen_text)
            rejecteds.append(rejected_text)
        except Exception as e:
            logger.warning(f"DPO チャットテンプレート適用エラー: {e}")
            prompts.append(prompt)
            chosens.append(chosen)
            rejecteds.append(rejected)

    return {"prompt": prompts, "chosen": chosens, "rejected": rejecteds}


# ── 学習設定のサマリー出力 ─────────────────────────────────────

def log_training_config(logger: logging.Logger, mode: str) -> None:
    logger.info(f"=== {mode} 学習設定 ===")
    logger.info(f"  ベースモデル : {cfg.BASE_MODEL}")
    if mode == "SFT":
        logger.info(f"  データセット : {cfg.SFT_DATASET}")
        logger.info(f"  エポック数   : {cfg.SFT_EPOCHS}")
        logger.info(f"  バッチサイズ : {cfg.SFT_BATCH_SIZE} × 勾配累積 {cfg.SFT_GRAD_ACCUM}")
        logger.info(f"  学習率       : {cfg.SFT_LR}")
        logger.info(f"  出力先       : {cfg.SFT_OUTPUT_DIR}")
        logger.info(f"  HF リポジトリ: {cfg.SFT_HF_REPO}")
    else:
        logger.info(f"  データセット : {cfg.PREF_DATASET}")
        logger.info(f"  エポック数   : {cfg.DPO_EPOCHS}")
        logger.info(f"  バッチサイズ : {cfg.DPO_BATCH_SIZE} × 勾配累積 {cfg.DPO_GRAD_ACCUM}")
        logger.info(f"  学習率       : {cfg.DPO_LR}")
        logger.info(f"  DPO beta     : {cfg.DPO_BETA}")
        logger.info(f"  出力先       : {cfg.DPO_OUTPUT_DIR}")
        logger.info(f"  HF リポジトリ: {cfg.DPO_HF_REPO}")
    logger.info(f"  LoRA rank    : {cfg.LORA_R}  alpha: {cfg.LORA_ALPHA}")
    logger.info(f"  最大長       : {cfg.MAX_SEQ_LENGTH}")
    logger.info(f"  GGUF 保存    : {cfg.SAVE_GGUF} ({cfg.GGUF_QUANTIZATION})")
    logger.info(f"  HF Push      : {cfg.PUSH_TO_HUB}")