标签: 金正浩 HBM HBF HBS
云梦级7月6日云梦级消息,被誉为“HBM 之父”的韩国科学技术院(KAIST)电气系教授金正浩近日接受韩国《东标签亚日报》采访时表示,AI 的核心竞争力正在从 GPU 转向内存。 金正浩认为 AI 的本质是内存,GPU 在 AI 推理中的利用率远: 低于理论水平。AI 每次输出结果,都必须先从 HBM 读取数据、传到 GPU 进行计算,再将结果写回内存。就算部署 100 万金正块 GPU,真正用于计算的时间也只有 10%-30%。 并且过去的 AI 主要集中在训练阶段,因此 GPU 是决定性能的核心。而浩 着眼现在和未来,AI 将进入推理时代,此时真正能决定性能的,是一次能处理多少数据、能以多快速度处理数据,因此内存能力HB将直接决定 AI 性能。 当然,目前已经有 HBM 这种专门适配 AI 的高带宽内存方案。但随着 AI 迈入多模态化和 AgentM ic AI(代理式人工智能)出现,人们将越来越需要保存视频、文档、长期记忆等海量冷数据。 因此,将 NAND 闪存像 HBM 一HB样堆叠的 HBF 技术将在未来成为主流。金正浩更是预测,10 年后 HBF 的市场需求将超过 HBM。 到了更远的未来,HBS(高带F 宽 SRAM)将成为主流。这种技术将采用读写速度比 DRAM 快 1000 倍的 SRAM,其构想包括在整片 12 英寸晶圆上铺设 SHBRAM、将容量提升至约 1600GB,实现大容量高速数据处理。 此外金正浩设想,未来的 AI 计算机将演变成一个庞大标签的“三维建筑”:HBM 将充当商场角色,HBF 层相当于住宅区,HBS 则承担高速缓存功能。各种形态的 HBM、HBF、HBS: 组合在一起,给 GPU 供给数据,形成约 100 层规模的 3D 复合架构。 金正浩长期致力于高带宽内存(HBM)与 2.5D/3D金正 集成封装研究。他从 2010 年开始和 SK 海力士研发 HBM1,并在去年参与 HBM4-HBM8 长期发展路线图规划。
- 最近发表
-
- 标签: 蔚来 神玑NX9031 安徽神玑 车规芯片
- 爱奇艺回应“签约AI演员”争议:入驻库不代表直接授权
- 中国AI军团横扫硅谷!a16z最新榜单曝光:中国团队狂揽移动端半壁江山,美图5款产品称霸
- 标签: 同仁堂医养 同仁堂集团 港交所 IPO
- 阿里云开源全模态模型Qwen2.5-Omni-7B,手机上就能部署
- 三星官宣AI眼镜计划:联手谷歌、时尚巨头,打造Gemini驱动的下一代智能可穿戴设备
- 蔡崇信吴泳铭发布上任首封致股东信:AI将带来巨大机遇
- 小米 MiMo-V2.5震撼公测:4.3小时手搓编译器,长程智能体迎“满分”跨越
- 如何通过云计算集成提高移动应用程序的性能
- 蚂蚁数科Agentar打造“金融AI大脑”,入选国际标准卓越案例
- 随机阅读
-
- 标签: 火绒安全 鲁大师 奇鲁科技 云控推广
- 标签: 联想 Token
- 2020年的优秀云计算技巧
- 标签: Kimi 月之暗面 张予彤 AI模型
- 标签: OPPO 一加 豆包 QClaw
- 标签: 寒武纪 梁军 股权激励 劳动关系
- 人工智能热潮遭遇现实冷风:企业应用量下降,盈利能力堪忧
- 下周就将见分晓,亚马逊的噩梦要来了|观潮
- Twitter将于8月3日停止其阅后即焚功能Fleets
- 标签: BOSS直聘 灭蟑行动 AI风控 求职安全
- 亚马逊云计算业务Q3营收230亿美元 营收营业利润双双创下新高
- 谷歌宣布回购500亿美元股票 盘后股价涨超4%
- 云计算开发:Python内置函数-compile()函数详解
- 标签: 联发科 2025财报 半导体 台湾企业
- 云安全日报211011:红帽配套火狐浏览器发现重要安全漏洞,需要尽快升级
- 云计算开发:Python内置函数-bytearray() 函数详解
- 标签: 小米汽车 YU7 YU7GT 雷军
- 为规避欧盟隐私法规 Facebook将让英国用户接受美国用户协议
- 是否有算法可以控制超级人工智能?
- 谷歌Jeff Dean回信反转剧情,李飞飞学生Timnit被爆主动离职而非被辞退
- 搜索
-
- 友情链接