rollout
-
英伟达用Dynamo给强化学习训练减负:按缓存分流rollout,CoreWeave称权重更新最快可提速约15倍
英伟达于11月19日发表技术博客,介绍如何把推理服务框架Dynamo用作强化学习训练中的rollout服务层。它处在训练框架和推理工人之间,负责分流请求、分发更新后的权重,并在工人故障时把任务转到仍可用的算力上。
英伟达于11月19日发表技术博客,介绍如何把推理服务框架Dynamo用作强化学习训练中的rollout服务层。它处在训练框架和推理工人之间,负责分流请求、分发更新后的权重,并在工人故障时把任务转到仍可用的算力上。