docs: ルートREADME.mdを追加(YAMLメタデータ・パイプライン全体像)

#14
by YUGOROU - opened
Files changed (1) hide show
  1. README.md +212 -0
README.md ADDED
@@ -0,0 +1,212 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - ja
4
+ - en
5
+ license: mit
6
+ tags:
7
+ - llm-training
8
+ - eq-bench
9
+ - vllm
10
+ pretty_name: TeenEmo Scripts
11
+ ---
12
+
13
+ # TeenEmo Scripts
14
+
15
+ TeenEmo の学習・評価パイプラインを構成するスクリプト集です。
16
+ 合成データ生成 → SFT → DPO → EQ-Bench3 日本語評価 という一連のフローをカバーします。
17
+
18
+ ---
19
+
20
+ ## パイプライン全体像
21
+
22
+ ```
23
+ [合成データ生成]
24
+ teememo-synth-complete.zip # Qwen3.5-35B-A3B で生成した SFT/DPO データ
25
+ setup.sh # Vast.ai 上でデータ生成環境をセットアップ
26
+ test_llm.py # vLLM 接続スモークテスト
27
+
28
+
29
+
30
+ [モデル学習]
31
+ training/
32
+ train_sft.py # SFT (LFM2.5-1.2B-Base → LoRA)
33
+ train_dpo.py # DPO (SFT済みLoRA → 継続学習)
34
+ → YUGOROU/TeenEmo-LFM2.5-1.2B-SFT
35
+ → YUGOROU/TeenEmo-LFM2.5-1.2B-DPO
36
+ → YUGOROU/TeenEmo-LFM2.5-1.2B-GGUF
37
+
38
+
39
+
40
+ [EQ-Bench3 日本語化]
41
+ eqbench-ja/
42
+ translate_eqbench.py # Qwen3.5-9B で英語 → 日本語翻訳
43
+ → YUGOROU/teememo-eq-bench-ja
44
+
45
+
46
+
47
+ [EQ-Bench3 評価]
48
+ eqbench-run-v2/ # Vast.ai (L4/RTX4090) + HF Inference Providers (judge)
49
+ eqbench-ja-run/ # A100 80GB + ローカル vLLM (judge)
50
+ ```
51
+
52
+ ---
53
+
54
+ ## ディレクトリ構成
55
+
56
+ ```
57
+ TeenEmo-Scripts/
58
+ ├── setup.sh # Vast.ai 合成データ生成環境セットアップ
59
+ ├── test_llm.py # vLLM 接続スモークテスト
60
+ ├── teememo-synth-complete.zip # 合成データ生成パイプライン一式
61
+
62
+ ├── training/ # 学習スクリプト群
63
+ │ ├── README.md
64
+ │ ├── train_config.py # 全設定値(環境変数で上書き可能)
65
+ │ ├── train_utils.py # 共通ユーティリティ(ログ・データ読込)
66
+ │ ├── train_sft.py # SFT 学習スクリプト
67
+ │ └── train_dpo.py # DPO 学習スクリプト
68
+
69
+ ├── eqbench-ja/ # EQ-Bench3 日本語翻訳パイプライン
70
+ │ ├── setup_translate.sh # 翻訳環境セットアップ
71
+ │ ├── serve_translate.sh # Qwen3.5-9B vLLM サーバー起動
72
+ │ └── translate_eqbench.py # 非同期翻訳スクリプト(チェックポイント対応)
73
+
74
+ ├── eqbench-run-v2/ # EQ-Bench3 評価 (Vast.ai / HF Inference Providers)
75
+ │ ├── README.md
76
+ │ ├── setup_eqbench_vast.sh # Vast.ai セットアップ
77
+ │ ├── serve_test_vast.sh # TeenEmo vLLM サーバー起動
78
+ │ └── restore_english_tags.py # 翻訳時に日本語化されたタグの復元
79
+
80
+ └── eqbench-ja-run/ # EQ-Bench3 評価 (A100 80GB / ローカル judge)
81
+ ├── README.md
82
+ ├── setup_eqbench_run.sh # A100 セットアップ
83
+ ├── serve_test.sh # TeenEmo vLLM サーバー起動(低GPU使用率)
84
+ └── serve_judge.sh # Qwen3.5-35B-A3B judge vLLM サーバー起動
85
+ ```
86
+
87
+ ---
88
+
89
+ ## モデル・データセット
90
+
91
+ | 種別 | HF リポジトリ |
92
+ |------|--------------|
93
+ | ベースモデル | `LiquidAI/LFM2.5-1.2B-Base` |
94
+ | SFT 済みモデル | `YUGOROU/TeenEmo-LFM2.5-1.2B-SFT` |
95
+ | DPO 済みモデル | `YUGOROU/TeenEmo-LFM2.5-1.2B-DPO` |
96
+ | GGUF | `YUGOROU/TeenEmo-LFM2.5-1.2B-GGUF` |
97
+ | SFT データ | `YUGOROU/teememo-sft-validation` |
98
+ | DPO データ | `YUGOROU/teememo-pref-data` |
99
+ | EQ-Bench 日本語化 | `YUGOROU/teememo-eq-bench-ja` |
100
+
101
+ ---
102
+
103
+ ## 1. 合成データ生成環境のセットアップ
104
+
105
+ ```bash
106
+ export HF_TOKEN="hf_xxxx"
107
+ export HF_USERNAME="YUGOROU"
108
+
109
+ curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
110
+ "https://huggingface.co/datasets/YUGOROU/TeenEmo-Scripts/resolve/main/setup.sh" \
111
+ | bash
112
+ ```
113
+
114
+ 動作確認:
115
+ ```bash
116
+ cd /workspace/teememo-synth
117
+ python /path/to/test_llm.py
118
+ ```
119
+
120
+ ---
121
+
122
+ ## 2. モデル学習 (SFT → DPO)
123
+
124
+ 詳細は [`training/README.md`](training/README.md) を参照してください。
125
+
126
+ ```bash
127
+ pip install unsloth trl datasets transformers
128
+
129
+ export HF_TOKEN="hf_xxxx"
130
+
131
+ # Step 1: SFT
132
+ python train_sft.py
133
+
134
+ # Step 2: DPO(SFT完了後)
135
+ python train_dpo.py
136
+ ```
137
+
138
+ 主な設定(環境変数で上書き可能):
139
+
140
+ | 設定 | SFT | DPO |
141
+ |------|-----|-----|
142
+ | エポック | 3 | 2 |
143
+ | 実効バッチサイズ | 128 (32×4) | 32 (8×4) |
144
+ | 学習率 | 2e-4 | 5e-5 |
145
+ | LoRA rank | 32 | ← 継承 |
146
+
147
+ ---
148
+
149
+ ## 3. EQ-Bench3 日本語翻訳
150
+
151
+ ```bash
152
+ export HF_TOKEN="hf_xxxx"
153
+
154
+ bash eqbench-ja/setup_translate.sh
155
+
156
+ # vLLM (Qwen3.5-9B) を tmux で起動
157
+ tmux new-session -d -s eq_tmux
158
+ tmux send-keys -t eq_tmux "cd /workspace/eqbench-ja && ./serve_translate.sh" Enter
159
+
160
+ # 翻訳実行(チェックポイントで途中再開可能��
161
+ python translate_eqbench.py
162
+
163
+ # 動作確認のみ(最初の2シナリオ)
164
+ python translate_eqbench.py --dry-run
165
+ ```
166
+
167
+ 翻訳結果は [`YUGOROU/teememo-eq-bench-ja`](https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja) に自動アップロードされます。
168
+
169
+ ---
170
+
171
+ ## 4. EQ-Bench3 評価
172
+
173
+ ### Vast.ai 構成(推奨): `eqbench-run-v2/`
174
+
175
+ 受験者を Vast.ai の vLLM で、採点者を HF Inference Providers (novita / `gpt-oss-120b`) で実行します。
176
+ 詳細は [`eqbench-run-v2/README.md`](eqbench-run-v2/README.md) を参照してください。
177
+
178
+ ```bash
179
+ export HF_TOKEN="hf_xxxx"
180
+ curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
181
+ "https://huggingface.co/datasets/YUGOROU/TeenEmo-Scripts/resolve/main/eqbench-run-v2/setup_eqbench_vast.sh" \
182
+ -o /tmp/setup.sh && bash /tmp/setup.sh
183
+ ```
184
+
185
+ ### A100 80GB 構成: `eqbench-ja-run/`
186
+
187
+ 受験者・採点者ともに同一インスタンス上のローカル vLLM を使用します。
188
+ 詳細は [`eqbench-ja-run/README.md`](eqbench-ja-run/README.md) を参照してください。
189
+
190
+ ```bash
191
+ export HF_TOKEN="hf_xxxx"
192
+ curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
193
+ "https://huggingface.co/datasets/YUGOROU/TeenEmo-Scripts/resolve/main/eqbench-ja-run/setup_eqbench_run.sh" \
194
+ -o /tmp/setup.sh && bash /tmp/setup.sh
195
+ ```
196
+
197
+ ---
198
+
199
+ ## 技術スタック
200
+
201
+ | カテゴリ | ライブラリ・サービス |
202
+ |---------|-------------------|
203
+ | 学習 | [Unsloth](https://github.com/unslothai/unsloth) + [TRL](https://github.com/huggingface/trl) |
204
+ | 推論 | [vLLM](https://github.com/vllm-project/vllm) |
205
+ | 評価 | [EQ-Bench3](https://github.com/EQ-bench/eqbench3) |
206
+ | GPU 環境 | [Vast.ai](https://vast.ai/) (L4 / RTX 4090) |
207
+
208
+ ---
209
+
210
+ ## ライセンス
211
+
212
+ MIT