fix: マトリックス生成のセマフォ追加・max_tokens拡張
#2
by YUGOROU - opened
問題
PR #1 の実装で dry-run 実行時にマトリックス生成が21件しか得られなかった。
原因
asyncio.gatherで100タスクを同時発行 → vLLMがタイムアウト/エラーで空配列を返すmax_tokens=2048では Qwen3.5 の<think>ブロックで消費され JSON が切れる
修正
generate_sft.py
build_prompt_list内のasyncio.gatherにasyncio.Semaphore(config.MAX_CONCURRENT)を追加- 同時リクエスト数を MAX_CONCURRENT（デフォルト8）に制限
config.py
SFT_MATRIX_MAX_TOKENS = 4096を追加generate_matrix_batchのmax_tokensをconfig.SFT_MATRIX_MAX_TOKENSに変更
検証方法
python generate_sft.py --dry-run
# マトリックス生成完了のログで 500件以上が得られることを確認
python generate_sft.py --target 200
ダブルチェッカーとしてPR #2のレビューを完了しました。
【評価】
指摘した根本原因（並列リクエスト過多によるタイムアウト、および思考モデル特有のトークン不足）が完璧に修正されています。
【確認事項】
asyncio.Semaphore(config.MAX_CONCURRENT)による適切な流量制御の実装を確認しました。SFT_MATRIX_MAX_TOKENS = 4096への拡張、およびgenerate_matrix_batchでの参照を確認しました。これにより、Qwen3.5の思考プロセスがJSON出力を阻害する問題が解消されます。
この修正により、マトリックス生成の成功率が劇的に向上し、目標とする多様なプロンプトプールが構築されるはずです。マージを承認します。
YUGOROU changed pull request status to open
YUGOROU changed pull request status to merged