标签: 金正浩 HBM HBF HBS
云梦级7月6日云梦级消息,被誉为“HBM 之父”的韩国科学技术院(KAIST)电气系教授金正浩近日接受韩国《东标签亚日报》采访时表示,AI 的核心竞争力正在从 GPU 转向内存。
金正浩认为 AI 的本质是内存,GPU 在 AI 推理中的利用率远低于: 理论水平。AI 每次输出结果,都必须先从 HBM 读取数据、传到 GPU 进行计算,再将结果写回内存。就算部署 100 万块 GPU金正,真正用于计算的时间也只有 10%-30%。
并且过去的 AI 主要集中在训练阶段,因此 GPU 是决定性能的核心。而着眼现浩 在和未来,AI 将进入推理时代,此时真正能决定性能的,是一次能处理多少数据、能以多快速度处理数据,因此内存能力将直接HB决定 AI 性能。
当然,目前已经有 HBM 这种专门适配 AI 的高带宽内存方案。但随着 AI 迈入多模态化和 Agentic AIM (代理式人工智能)出现,人们将越来越需要保存视频、文档、长期记忆等海量冷数据。
因此,将 NAND 闪存像 HBM 一样堆叠HB的 HBF 技术将在未来成为主流。金正浩更是预测,10 年后 HBF 的市场需求将超过 HBM。
到了更远的未来,HBS(高带宽 SRF AM)将成为主流。这种技术将采用读写速度比 DRAM 快 1000 倍的 SRAM,其构想包括在整片 12 英寸晶圆上铺设 SRHBAM、将容量提升至约 1600GB,实现大容量高速数据处理。
此外金正浩设想,未来的 AI 计算机将演变成一个庞大的“三维建筑标签”:HBM 将充当商场角色,HBF 层相当于住宅区,HBS 则承担高速缓存功能。各种形态的 HBM、HBF、HBS 组合在一起,: 给 GPU 供给数据,形成约 100 层规模的 3D 复合架构。
金正浩长期致力于高带宽内存(HBM)与 2.5D/3D 集成封装研究金正。他从 2010 年开始和 SK 海力士研发 HBM1,并在去年参与 HBM4-HBM8 长期发展路线图规划。
- ·如何三步搭建一套声纹系统
- ·标签: Zoho Zia LLM AI大模型 企业数字化
- ·标签: 寿司郎 金枪鱼寄生虫 生食安全 回转寿司
- ·标签: 郎朗 吉利 品牌大使 至臻至美
- ·英特尔侵犯芯片专利被判赔偿22亿美元 史上罕见罚单!
- ·三星 Galaxy XR 头显正式登场:1799 美元起,性能对标 Vision Pro,重量更轻、生态更开放
- ·云安全日报210429:Ubuntu多媒体插件发现执行任意代码漏洞,需要尽快升级
- ·标签: 海尔智家 卡萨帝 Leader Seeker
- ·标签: 宇隆科技 招股书 创业板 半导体
- ·谷歌在英国新建数据中心每年将排放 57 万吨二氧化碳
- ·AWS 发布 Agentic AI 应用 Quick Suite:一站式连接1000+ 企业应用,彻底变革工作流程
- ·标签: 亿纬锂能 港股IPO 锂电池
- ·标签: 海康威视 萤石网络 海康机器人 海康存储
- ·Google Meet上线AI美妆滤镜功能,追赶Teams和Zoom步伐
- ·标签: 贾鹏 至简动力 理想汽车 智能驾驶
- ·标签: 长江存储 中信证券 Xtacking 3D NAND
