Hugging Face Blog·· 20 天前精选AI 评分60
Hugging Face 用 Storage Bucket 和代理实现跨 Jobs 的 Async GRPO LoRA 训练，无需 NCCL
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI 导读
Hugging Face 在 TRL v1.14 的 AsyncGRPOTrainer 中加入 LoRA 支持（PR #7017），训练器与 vLLM 副本作为独立 HF Jobs 运行，仅几 MB 的 adapter 经 Storage Bucket 挂载同步，无需 NCCL。
推荐理由
原文给出完整的跨节点 LoRA 异步 RL 架构与五轮瓶颈调优数据，读者可以复用其中按 KV 前缀路由和 token 打包的调优方法。
来源：Hugging Face Blog · huggingface.co