标签: 英伟达 Rubin Groq3LPU 多智能体系统 GTC2026
云梦级3月17日云梦级消息,在 3 月 17 日美国圣何塞举行的GTC主题演讲中,黄仁勋透露了英伟达如何利用 2025 年从 Gr标签oq 收购的知识产权来扩展 Rubin 的功能。
Rubin 平台现在包含一款新的芯片——英伟达 Groq 3 LPU,这是一款推理加速器: ,能够增强这些系统以低延迟、大批量的方式交付令牌的能力,从而在人工智能模型的前沿实现高交互性。
与大多数依赖 HBM 作为工作内存层英伟的 AI 加速器不同,每个 Groq 3 LPU 都集成了 500 MB 的 SRAM,这种内存也用于 CPU 和 GPU 的超高速缓存。
虽然与每个达 Rubin GPU 上容量高达 288GB 的 HBM4 相比,这显得微不足道,但这块 SRAM 可提供 150 TB/s 的带宽,远高于 HBM 的 2Ru2 TB/s。对于带宽敏感型 AI 解码操作而言,Groq 3 芯片带宽的大幅提升为推理应用带来了诱人的优势。
反过来,英伟达将构建bi包含 256 个 Groq 3 LPU 的 Groq 3 LPX 机架。该机架提供 128GB 的 SRAM 和 40 PB/s 的推理加速带宽,并通过每个n 机架 640 TB/s 的专用扩展接口将这些芯片连接起来。
英伟达将 Groq LPX 设想为 Rubin 的协处理器,据英伟达超大规模副总裁 IGran Buck 称,它将提升“每个令牌上 AI 模型每一层”的解码性能,并使 Rubin 能够服务于人工智能的下一个前沿领域:多智能体oq系统,这些系统需要在推理数万亿个参数的模型的同时,在数百万个token的上下文窗口中提供交互式性能。
随着多智能体系统3L中的人工智能代理越来越多地与其他人工智能进行交互,而非与查看聊天机器人窗口的人类进行交流,对响应速度的要求也随之改变。
对人类而PU言看似合理的每秒token生成速率,对人工智能代理来说却如同蜗牛爬行。在巴克所描述的未来多智能体系统中,Rubin GPU 多 和 Groq LPU 的组合将人工智能代理间通信的吞吐量从每秒 100 个token提升到每秒 1500 个token甚至更高。
-
英国驳回针对谷歌集体诉讼 律师:有损公正云安全日报210416:思科RV系列路由器发现执行任意代码漏洞,需要尽快升级腾讯混元图像3.0问鼎全球:用户真实投票力证其文生图能力标签: 质肽生物 佐维格鲁肽 GLP-1RA月制剂 ZT002谷歌收购Actifio以增强其云服务SAS收购英国Boemska公司,旨在加速人工智能在云计算方面的努力DeepSeek 模型在港大美股交易竞赛中夺冠,年化回报率10.61% 远超 GPT、纳斯达克基准标签: 演语科技 LiblibAI云计算核心技术Docker教程:Docker Hub使用Webhooks可口可乐AI新版“可乐大篷车”广告遭诟病,但公司坚称“更快更省”
- ·标签: 东方甄选 俞敏洪 自营产品 直播电商
- ·标签: TCL华星 兆元光电 LED芯片 Mini LED
- ·标签: 晨光电机 北交所IPO 微特电机 清洁电器
- ·标签: 千诀科技 京铭资本 英诺天使基金 尚势资本
- ·美国15大避税公司:亚马逊位居榜首
- ·标签: 绿联科技 A+H上市 港交所 充电创意产品
- ·工信部:加强通用大模型和行业大模型研发布局,加快建设工业领域高质量数据集
- ·通义万相全新动作生成模型Wan2.2-Animate正式开源
- ·谷歌成2028洛杉矶奥运会官方云服务商,AI 将全面助力赛事体验升级
- ·如何构建更小的容器
- ·可能破坏企业运营环境的6个云计算安全问题
- ·蜀道集团发布国内首个车路协同高精度导航 阿里云提供技术支持
- ·不关注基础设施即代码(IaC)就Out了!
- ·中国汽车,在云端加速智能创新
- ·云计算开发实例:Python3二分查找
- ·华为鸿蒙6发布:端侧AI全面落地,华为加速“AI关键战役”
- ·不可见,无安全!值得关注的十大国外SASE厂商(2022版)
- ·百度、B站二次上市将近 中概股回港又一次浪潮汹涌
- ·DeepMind激起千层浪的这篇论文,并非无所不能
- ·开山鼻祖遭“贱卖” DPU还是好赛道吗?
- ·标签: 京东 王佳琦 黄浩洋 JoyAI-VL JoyAI-Image
- ·标签: 宏碁 Acer 2025财报 非电脑业务
- ·云计算开发:Python练习实例-判断回文数
- ·跨石滩、过草地、负重12kg,UC伯克利等研发新型机器人运动算法,实时快速适应变化环境
- ·苹果史上最大胆合作!Claude Sonnet 4强势入驻Xcode,3400万开发者集体沸腾
- ·报道称Facebook用户的手机号码通过Telegram机器人被出售
- ·云安全日报210906:Debian压缩只读文件系统发现任意文件写入漏洞,需要尽快升级
- ·标签: Token 张雪峰 美团 苹果 iOS26.4 小米集团 一加15T
- ·携程商旅发布AI生态全景图:推出7大行业Agent并开放17项底层能力
- ·150亿参数,谷歌开源了史上超大视觉模型V-MoE的全部代码
- ·苹果8个代工厂搬迁他国,富士康也要走?几十万中国员工怎么办?
- ·云安全日报210713:红帽XML序列化库发现远程命令执行攻击漏洞,需要尽快升级
- ·腾讯云智能推出“自助式”AI数智人生产
- ·消息称谷歌即将在 Gemini 和 API 上发布 VEO 3.1 版本
- ·标签: 药明康德 CRDMO 小分子D&M WuXi Chemistry
- ·大规模算力中心建设拉升需求 国产光纤光缆与光模块大卖
