腾讯开源WeChat-YATT大模型训练库,破解多模态训练两大核心瓶颈
腾讯近日发布了基于Megatron-Core和SGLang/vLLM研发的大模型训练库WeChat-YATT(Yet Another Transformer Trainer),内部项目代号为gCore。这腾讯一训练库专注于强化学习和多模态模型训练,致力于为开发者提供易扩展、简洁、高效、可靠的大模型训练解决方案。
WeChat-YATT通过定制化的并行计算策略,能够有效处理大尺寸模型、长序列输入和大数据集等复杂场景,开源成功解决了微信内部多个实际业务场景的关键痛点问题,显著提升了大模型训练效率。该工具为研究人员和开发者提供了灵活且可扩展的技术方案,有望推动多模态和强化学习领域的创新发展。
WeChat-YATT重点解We决了大模型分布式训练过程中面临的两大核心技术瓶颈。
首先是多模态场景下的可扩展性瓶颈问题。随着图像、视频等多模态数据规模不断增长,传统架构中由单一控制器进行数据管理的方式容易成为通信和内存瓶颈,导致系Ch统吞吐量受限,甚至引发训练流程异常中断。WeChat-YATT通过引入并行控制器(Parallel Controller)的并行管理机制,有效分散了系统压力,大幅提升了系统的可扩展性和稳定性,更好地应对多模态at、大数据量的复杂应用场景。
其次是动态采样与生成式奖励计算下的效率短板。在需要频繁动态采样或生成式奖励计算的训练流程中,模型频繁切换和"长尾"任务容易产生大量额外开销,导致GPU算力无法充分利用,严重-Y影响整体训练效率。WeChat-YATT通过部分共存策略和异步交互机制,大幅减轻了模型切换损耗和长尾任务影响,实现了训练过程中的高吞吐量和高资源利用率,更好地支撑大规模RLHF任务的高效迭代。
针对不AT同业务场景的需求,WeChat-YATT支持全员共存和部分共存两种资源放置模式,以最大化提升集群资源利用率。
全员共存模式采用串行调度机制,Actor Rollouts、GenRM(生成式奖励模型)与TraT大in依次串行执行。每个角色完成任务后主动释放计算资源,系统随即加载下一个任务所需模型。该策略适用于绝大多数常规训练场景。值得注意的是,在每个阶段,相关组件均可独占全部GPU资源,这极大缩短了资源空闲模型"气泡"时间,显著提升总体训练吞吐量和效率。
部分共存模式下,Actor Rollouts与GenRM独立部署,并通过异步方式进行高效交互。Actor训练阶段占用全部GPU资源,在Rollouts生成阶段释放训练GPU资源并唤醒Actor Rollouts及GenRM两大组件协同工作。系统通过动态负载评估进行资源分配与均衡,当Rollouts生成完毕后,这两者释放资源,Actor随之重新加载到GPU上进入下一轮库,训练流程。部分共存模式特别适合Rollouts与GenRM需要高频交互、动态采样的复杂任务场景。
WeChat-YATT还具备多项技术特色。在内存利用方面,项目采用并行控制器架构,有效降低了单节点内存消耗,更破解适合多模态场景下的大模型训练,提升了系统扩展性和稳定性。在GenRM支持方面,针对生成式奖励模型场景实现了不同的资源放置策略,用户可根据具体场景选择最优的训练方案。
智能检查点策略是另一大亮点。WeC多模hat-YATT支持异步Checkpoint保存,并针对微信业务场景特点,根据调度流程实现断点自动保存,进一步保障了训练安全性和高可用性。此外,系统在训练过程中实现了各个数据并行组间的负载均衡,有效减少资源空态训闲时间,显著提升整体训练吞吐量。
这一训练库的发布标志着腾讯在大模型技术基础设施建设方面取得重要进展,也为业界提供了处理复杂多模态训练场景的有效解决方案。
-
都2021年了,CEO们还看不到HR部门的价值吗?SUSE云安全行业趋势报告亚太版:中国市场表现尤为积极云计算服务Snowflake CEO:疫情彻底改变了办公室对企业的作用Grafana 使用表格面板进行数据可视化标签: Grok Code xAI Build Vibe Coding甄嬛传钮钴禄是什么梗云计算核心技术Docker教程:Java镜像使用 Compose 在本地开发OpenAI Sora 引爆 App Store“山寨潮”:30万次下载!苹果审核机制遭质疑告别繁琐代码!用 LangGraph 和 OceanBase 打造智能 AI 应用新未来标签: 华为 鸿蒙座舱 MoLA 问界
- ·标签: 三星 电视 显示器 家电
- ·选举将至 Facebook仅在佐治亚州解除政治广告禁令
- ·标签: RoboScience VLOA 具身智能 机器人
- ·黄仁勋揭秘英伟达与OpenAI的战略合作:未来十万亿级市场的 “赢家”!
- ·标签: 云知声
- ·谷歌 DeepMind 推出全新机器人 AI 模型 可实现洗衣物分类
- ·亚马逊云计算主管:不打算分拆 对并购持开放态度
- ·标签: 抖音 金融账号 资质认证 内容规范
- ·标签: CCC认证 充电宝 市场监管总局 电动自行车
- ·Perplexity 成功融资 2 亿美元,估值飙升至 200 亿美元
- ·能在人体中自由移动的机器人:能屈能伸,毛细血管也不在话下
- ·标签: 美团 王兴 陈少晖 即时零售
- ·软银以53.75亿美元收购 ABB 集团机器人业务,布局物理人工智能
- ·标签: 青心意创 ORCA 陪伴机器人 具身机器人
- ·标签: 携程 同程旅行 去哪儿网 飞猪
- ·字节Seed推出全新 AgentGym-RL 框架:提升大规模语言模型的决策能力
- ·OpenAI年收入130亿美元,但承诺十年投入万亿:五年内需完成商业模式验证
- ·神经网络:深度学习神经网络的预测间隔
- ·云计算核心技术Docker教程:启用IPv6支持
- ·Scality 推出20多种关键工具的 AI 认证,助力企业加速 AI 应用开发
- ·标签: 豆包 抖音集团 鸡腿菇 大青褶伞
- ·标签: Soul 复旦大学 AI精神股东 积木社交
- ·国安部:境外黑客攻击某电商平台数据库 窃取敏感信息数据
- ·IDC:一季度中国PC显示器出货量同比增长48.6%
- ·Anthropic 突袭式削减订阅权益,Claude Code 退出 Pro 套餐引发测试争议
- ·优酷云制作系统正式亮相 支持各工种异地协同
