OpenAI 将 k8s 扩展至 7500 个节点以支持机器学习
为了满足 GPT-3、CLIP 和 DALL+ 等大型模型的需要,以及类似于神经语言模型的缩放定Op律的快速小规模迭代研究,OpenAI 将基础设施 k8s 集群扩展到 7500 各节点。
据其描述,对于大en型机器学习作业来说,一个节点通常由单个 pod 占据,并且 OpenAI 部署的集群具有二等分带宽,AI因此尽管其有许多节点,但是调度程序的压力相对较低,仅在一项新任务一次性创建数百个 pod 时会 将有调度压力。
除此之外,OpenAI 还详细说明了其在扩展 k8s 集群时的重要工作内容,比如通过改用基于 k别名的 IP 寻址来解决大量节点的联网问题,在专用节点上部署 etcd 和 API 服务器以分散负载,定8s位使用 Prometheus 和 Grafana 收集指标时的 OOM 问题,设计对集群的健康检查,以及 扩在团队中合理分配集群资源等。
不过,OpenAI 也指出,在扩展 k8s 集群时,目前仍有一些问题要解决展至,比如大规模时 Prometheus 的内置 TSDB 存储引擎压缩速度过慢,并且需要很长的时间才能重新 7启动 WAL(写入预录),以及扩展集群时,由于每个 pod 都会被计算为需要一定带宽而带来的网络50带宽压力。然而,尽管还有很多地方需要改进,但 k8s 凭借其出色的扩展能力,仍然能满足其研究需0 求。
本文转自OSCHINA
本文标题:OpenAI 将 k8s 扩展至 7500 个节点以支持机器学个节习
本文地址:https://www.oschina.net/news/127949/openai-点以scale-k8s-7500
- ·腾讯云下调DeepSeek-V4系列模型价格,全面对齐DeepSeek官方定价
- ·标签: 海大国际 港交所上市 饲料业务 水产料
- ·亚马逊AWS获得美国国家安全局百亿美元云计算合同
- ·人工智能自然语言处理技术拉动产业升级引擎
- ·英特尔CFO称黑客窃取敏感财务信息 公司被迫提前发布财报
- ·工会组织列出亚马逊23条罪状:干预投票结果
- ·标签: 赤子城科技 SUGO TopTop Boomiix
- ·数据分析值不值得学?
- ·标签: 智谱 GLM MaaS 港股
- ·标签: 字节跳动 火山引擎 人形机器人 具身智能
- ·标签: 英伟达 黄仁勋 Deepseek R1 自动驾驶 CES2026
- ·标签: 段永平 特斯拉 马斯克 投资
- ·微软Copilot Appearance即将面向更广泛用户推广
- ·微软将在PC及iOS端测试Xbox云游戏服务
- ·标签: 华能国际 电力行业 风电装机 超超临界机组
- ·云原生 PostgreSQL 集群 - PGO:五分钟快速上手
