feat: PR#12 - Vast.ai + HF Inference Providers統合・エラーハンドリング改善
#12
by YUGOROU - opened
概要
今セッションで発生した全エラーを修正した Vast.ai (受験者) + HF Inference Providers (採点者) 統合構成。
ファイル構成
eqbench-vast/serve_test_vast.sh— TeenEmo受験者サーバー（全Fix適用）eqbench-vast/setup_eqbench_vast.sh— 一括セットアップeqbench-vast/README.md— 手順・コスト試算
修正内容
| Fix | 問題 | 修正 |
|---|---|---|
| Fix-1 | LoRA rank 32 > max_lora_rank 16 → 起動失敗 |
--max-lora-rank 32 |
| Fix-2 | max_tokens=12000 > max_model_len=4096 → 全タスク失敗 |
--max-model-len 32768 |
| Fix-3 | Judge URLが誤り → Connection refused | router.huggingface.co/novita/v1/chat/completions |
| Fix-4 | 途中失敗で再起動不可 | --save-interval 1 |
| Fix-5 | HF APIタイムアウト | MAX_RETRIES=6, RETRY_DELAY=10, REQUEST_TIMEOUT=300 |
アーキテクチャ変更
- 採点者をHF Inference Providers (novita/gpt-oss-120b) に外出し
- TeenEmo専用インスタンスでOOM問題を完全排除
- 対象GPU: L4/RTX4090 (24GB) で十分
推定コスト
~$0.20/回 (Vast.ai ~$0.18 + HF Providers ~$0.024)
YUGOROU changed pull request status to open
YUGOROU changed pull request status to merged