OpenAI 将 k8s 扩展至 7500 个节点以支持机器学习
为了满足 GPT-3、CLIP 和 DALL+ 等大型模型的需要,以及类似于神经语言模型的缩放定Op律的快速小规模迭代研究,OpenAI 将基础设施 k8s 集群扩展到 7500 各节点。 据其描述,对于大en型机器学习作业来说,一个节点通常由单个 pod 占据,并且 OpenAI 部署的集群具有二等分带宽,AI因此尽管其有许多节点,但是调度程序的压力相对较低,仅在一项新任务一次性创建数百个 pod 时会有调 将度压力。 除此之外,OpenAI 还详细说明了其在扩展 k8s 集群时的重要工作内容,比如通过改用基 k于别名的 IP 寻址来解决大量节点的联网问题,在专用节点上部署 etcd 和 API 服务器以分散负载,8s定位使用 Prometheus 和 Grafana 收集指标时的 OOM 问题,设计对集群的健康检查, 扩以及在团队中合理分配集群资源等。 不过,OpenAI 也指出,在扩展 k8s 集群时,目前仍有一些问题要展至解决,比如大规模时 Prometheus 的内置 TSDB 存储引擎压缩速度过慢,并且需要很长的时间 7才能重新启动 WAL(写入预录),以及扩展集群时,由于每个 pod 都会被计算为需要一定带宽而带来的50网络带宽压力。然而,尽管还有很多地方需要改进,但 k8s 凭借其出色的扩展能力,仍然能满足其研究需0 求。 本文转自OSCHINA 本文标题:OpenAI 将 k8s 扩展至 7500 个节点以支持机器学习 本个节文地址:https://www.oschina.net/news/127949/opena点以i-scale-k8s-7500
- 最近发表
-
- 谷歌正免费向所有人开放AI视频编辑工具Google Vids基本编辑工具
- OpenAI“Codex Alpha”抢先体验!七层级新模型曝光,GPT-5编程能力大升级
- 标签: 港交所 巴曙松 首席中国经济学家 香港交易所
- llama.cpp彻底进化!本地AI迎来多模态革命,Ollama恐被“降维打击”
- “AI老法师”上岗:大模型接管工厂,工业制造开启“生命化”进化
- 标签: 海菲曼 纳米振膜平板扬声器 喜马拉雅R2R DAC芯片 高端音频
- 萤石发布EZVIZ AI Core X智能大模型主机:64Tops算力开启家居“大脑”时代
- 马来西亚芯片突破!SkyeChip发布该国首款边缘AI处理器,摆脱对美依赖迈出关键一步
- 标签: 山姆 菜鸟 浙江联通 3G退网
- IBM开盘跌8.5% 第四季度营收不及市场预期
- 随机阅读
-
- 通义 APP 推出知识库功能,助力用户高效管理个人与官方信息
- 谷歌将应用商店开发者每年首次100万美元收入抽成减少至15%
- 标签: 阿里巴巴 千问 Qwen3.7-Max 悟空
- 吉祥彩
- OpenAI豪掷 15 亿美元布局B端:新合资公司“DeployCo”浮出水面
- 标签: 阿科玛 涂料解决方案 粘合剂解决方案 MBS
- 标签: 海正药业 2025年年报 医药研发 扣非净利润
- 标签: 比亚迪 F1 Alpine车队 WEC
- 标签: DeepSeek Engram 梁文锋 V4
- Mercor 获3.5亿美元融资,借行业变局加码 AI 数据标注业务
- IDC:一季度全球传统PC出货量同比增长55.2%
- Anthropic研究:仅需 250 份中毒文件即可轻易攻破大型 AI 模型
- 云计算核心技术Docker教程:Java镜像启用 BuildKit
- 对抗SpaceX!亚马逊收购Facebook卫星互联网团队
- 谷歌云状态页面显示谷歌计算引擎正面临服务中断
- 苹果电池容量阈值为80%,较低时需要换电池吗?得换原装的吗?
- 标签: 宏景电子 汽车电子 IPO 车载信息娱乐
- LoRa优缺点及其网络架构
- 人工智能主播(AI主播):只能突破你想象
- 标签: 滴滴 悠然租车 悠骑单车 两轮电动车
- 搜索
-
- 友情链接