""" train_utils.py — 共通ユーティリティ ログ出力・データセット読み込み・チャットテンプレート適用など SFT/DPO 両スクリプトで共有する処理をまとめる。 """ from __future__ import annotations import json import logging import os import sys import traceback from datetime import datetime, timezone from pathlib import Path from typing import Any import torch from datasets import Dataset, load_dataset from transformers import PreTrainedTokenizer import train_config as cfg # ── ロガー設定 ──────────────────────────────────────────────── def setup_logger(name: str, log_file: str | None = None) -> logging.Logger: """ 詳細なログを出力するロガーを設定する。 ファイルとstdoutの両方に出力する。 """ logger = logging.getLogger(name) logger.setLevel(logging.DEBUG) fmt = logging.Formatter( "[%(asctime)s] [%(levelname)s] [%(name)s] %(message)s", datefmt="%Y-%m-%d %H:%M:%S", ) # stdout ハンドラ sh = logging.StreamHandler(sys.stdout) sh.setLevel(logging.DEBUG) sh.setFormatter(fmt) logger.addHandler(sh) # ファイルハンドラ(オプション) if log_file: Path(log_file).parent.mkdir(parents=True, exist_ok=True) fh = logging.FileHandler(log_file, encoding="utf-8") fh.setLevel(logging.DEBUG) fh.setFormatter(fmt) logger.addHandler(fh) return logger # ── GPU 情報 ────────────────────────────────────────────────── def log_gpu_info(logger: logging.Logger) -> None: if not torch.cuda.is_available(): logger.warning("CUDA が利用できません。CPU で実行します。") return for i in range(torch.cuda.device_count()): props = torch.cuda.get_device_properties(i) total_gb = props.total_memory / 1e9 logger.info(f"GPU {i}: {props.name} VRAM: {total_gb:.1f}GB") logger.info(f"bfloat16 サポート: {torch.cuda.is_bf16_supported()}") # ── SFT データセット読み込み ────────────────────────────────── def load_sft_dataset(logger: logging.Logger) -> Dataset: """ HF Hub から SFT データセットを読み込み、チャット形式に変換する。 フォーマット: messages フィールド(OpenAI 形式) """ logger.info(f"SFT データセット読み込み: {cfg.SFT_DATASET}") try: ds = load_dataset( cfg.SFT_DATASET, split="train", token=cfg.HF_TOKEN or None, ) except Exception as e: logger.error(f"データセット読み込みエラー: {e}") logger.debug(traceback.format_exc()) raise logger.info(f" 件数: {len(ds)}") logger.info(f" カラム: {ds.column_names}") # サンプル確認 sample = ds[0] logger.debug(f" サンプル[0] キー: {list(sample.keys())}") if "messages" in sample: for m in sample["messages"][:2]: logger.debug(f" role={m['role']} content={m['content'][:80]}...") return ds # ── DPO データセット読み込み ────────────────────────────────── def load_pref_dataset(logger: logging.Logger) -> Dataset: """ HF Hub から選好データセットを読み込む。 フォーマット: prompt / chosen / rejected フィールド """ logger.info(f"選好データセット読み込み: {cfg.PREF_DATASET}") try: ds = load_dataset( cfg.PREF_DATASET, split="train", token=cfg.HF_TOKEN or None, ) except Exception as e: logger.error(f"データセット読み込みエラー: {e}") logger.debug(traceback.format_exc()) raise logger.info(f" 件数: {len(ds)}") logger.info(f" カラム: {ds.column_names}") # バリデーション required = {"prompt", "chosen", "rejected"} missing = required - set(ds.column_names) if missing: raise ValueError(f"DPO データセットに必須カラムが不足: {missing}") # サンプル確認 sample = ds[0] logger.debug(f" prompt[0]: {sample['prompt'][:80]}") logger.debug(f" chosen[0]: {sample['chosen'][:80]}") logger.debug(f" rejected[0]: {sample['rejected'][:80]}") # chosen/rejected に タグが残っていないか確認 synth_count = sum(1 for x in ds["chosen"] if "" in x) if synth_count > 0: logger.warning(f" chosen に タグが {synth_count} 件残存しています!") else: logger.info(" chosen タグなし ✅") return ds # ── チャットテンプレート適用(SFT用) ───────────────────────── def apply_chat_template_sft( examples: dict, tokenizer: PreTrainedTokenizer, logger: logging.Logger, ) -> dict: """ messages フィールドをチャットテンプレートで text に変換する。 LFM2 のチャットテンプレートに対応。 """ texts = [] errors = 0 for messages in examples["messages"]: try: text = tokenizer.apply_chat_template( messages, tokenize=False, add_generation_prompt=False, ) texts.append(text) except Exception as e: logger.warning(f"チャットテンプレート適用エラー: {e}") logger.debug(traceback.format_exc()) texts.append("") errors += 1 if errors > 0: logger.warning(f"チャットテンプレート適用エラー: {errors} 件") return {"text": texts} # ── DPO データ変換(チャットテンプレート適用) ──────────────── def apply_chat_template_dpo( examples: dict, tokenizer: PreTrainedTokenizer, logger: logging.Logger, ) -> dict: """ DPO データの prompt/chosen/rejected にチャットテンプレートを適用する。 prompt は user ターンのみ、chosen/rejected は assistant ターンとして整形する。 """ prompts, chosens, rejecteds = [], [], [] for prompt, chosen, rejected in zip( examples["prompt"], examples["chosen"], examples["rejected"] ): try: # prompt: user メッセージ prompt_text = tokenizer.apply_chat_template( [{"role": "user", "content": prompt}], tokenize=False, add_generation_prompt=True, ) # chosen: assistant メッセージ chosen_text = tokenizer.apply_chat_template( [ {"role": "user", "content": prompt}, {"role": "assistant", "content": chosen}, ], tokenize=False, add_generation_prompt=False, ) # rejected: assistant メッセージ rejected_text = tokenizer.apply_chat_template( [ {"role": "user", "content": prompt}, {"role": "assistant", "content": rejected}, ], tokenize=False, add_generation_prompt=False, ) prompts.append(prompt_text) chosens.append(chosen_text) rejecteds.append(rejected_text) except Exception as e: logger.warning(f"DPO チャットテンプレート適用エラー: {e}") prompts.append(prompt) chosens.append(chosen) rejecteds.append(rejected) return {"prompt": prompts, "chosen": chosens, "rejected": rejecteds} # ── 学習設定のサマリー出力 ───────────────────────────────────── def log_training_config(logger: logging.Logger, mode: str) -> None: logger.info(f"=== {mode} 学習設定 ===") logger.info(f" ベースモデル : {cfg.BASE_MODEL}") if mode == "SFT": logger.info(f" データセット : {cfg.SFT_DATASET}") logger.info(f" エポック数 : {cfg.SFT_EPOCHS}") logger.info(f" バッチサイズ : {cfg.SFT_BATCH_SIZE} × 勾配累積 {cfg.SFT_GRAD_ACCUM}") logger.info(f" 学習率 : {cfg.SFT_LR}") logger.info(f" 出力先 : {cfg.SFT_OUTPUT_DIR}") logger.info(f" HF リポジトリ: {cfg.SFT_HF_REPO}") else: logger.info(f" データセット : {cfg.PREF_DATASET}") logger.info(f" エポック数 : {cfg.DPO_EPOCHS}") logger.info(f" バッチサイズ : {cfg.DPO_BATCH_SIZE} × 勾配累積 {cfg.DPO_GRAD_ACCUM}") logger.info(f" 学習率 : {cfg.DPO_LR}") logger.info(f" DPO beta : {cfg.DPO_BETA}") logger.info(f" 出力先 : {cfg.DPO_OUTPUT_DIR}") logger.info(f" HF リポジトリ: {cfg.DPO_HF_REPO}") logger.info(f" LoRA rank : {cfg.LORA_R} alpha: {cfg.LORA_ALPHA}") logger.info(f" 最大長 : {cfg.MAX_SEQ_LENGTH}") logger.info(f" GGUF 保存 : {cfg.SAVE_GGUF} ({cfg.GGUF_QUANTIZATION})") logger.info(f" HF Push : {cfg.PUSH_TO_HUB}")