炼丹速度×7!你的Mac电脑也能在PyTorch训练中用GPU加速了
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。 一直以来,Pytorch在Mac上仅支持使用CPU进行训练。 就在刚刚炼丹,Pytorch官方宣布,其最新版v1.12可以支持GPU加速了。 只要是搭载了M1系列芯片的Mac都行。 这也就意味着在Mac本机用Pytorch“炼丹”会速度更方便了! 训练速度可提升约7倍 此功能由Pytorch与Apple的Metal工程团队合作推出。 它使用Apple的Metal Performance×7 Shaders(MPS) 作为PyTorch的后端来启用GPU加速训练。 为了优化计算性能,MPS还针对Metal GPU系列的独特特性对!你每个内核进行了微调。 Metal是一个类似OpenGL的框架,只不过OpenGL适用于各平台的移动端GPU渲染和计算,Metal专用于iOS/MacOS的M平台,不过也兼顾了性能和易用性。 MPS就是一套基于Metal框架的库,直接调用即可使用GPU的高性能进行图形处理、构建卷积神经网络等工作。 苹果官ac方在搭载了M1 Ultra、20核CPU、64核GPU、128GB RAM和2TB SSD的Mac Studio上进行了测试。 (这阵容差不多能算是豪华配置了)。 他电脑们分别训练了batch size为128的ResNet50、batch size为64的HuggingFace BERT,以及batch size=64的VG也能G16。 从下图中我们可以发现,相比使用CPU加速,使用GPU可将模型训练速度提高约7倍,评估(evaluation)速度则最高能提约20倍。 看到这在P儿,有网友开始好奇它与搭载了Nvidia GPU的laptop相比性能如何。 有人表示,虽说目前M1的原始计算性能比不上英伟达的产品,但功耗方面还不yT错。未来苹果很有可能慢慢追上性能。 总的来说,Mac Studio现在看起来实在太香了。 他进一步解释道: “毕竟它是你花4800美元就能买到的最便宜、包含128orGB GPU内存的机器。现在有了基于GPU加速的PyTorch支持,完全可以用来训练大模型、配置大的batch size。 对于我所做的那种DL工作,数据加ch载比实际的原始计算能力更容易成为瓶颈。” 你心动了吗? 现在就试试? 只需保证你的macOS操作系统在12.3版本及以上,且安装了arm64原生Pyt训练hon,然后去官网下载最新的Pytorch预览版就可以了。 地址:
https://pytorch.org/blog/introducing-accelera中用ted-pytorch-training-on-mac/
-
上一篇
-
下一篇
- 最近发表
- 随机阅读
-
- IDC:“双减”政策推动作用初显 中国学生平板电脑市场触底反弹
- 云计算核心技术Docker教程:Docker Swarm 模式对管理节点进行故障排除
- OpenAI修复ChatGPT安全漏洞,用户数据曾面临泄露风险
- Salesforce总裁兼首席运营官被晋升为副董事长兼联席CEO
- 中国华电发布 “华电智” 大模型,能源管理进入智能新时代
- 标签: 京东 美的 抖音 二选一
- 标签: 美团 AITransformation 牧遥 微信AI
- 微软将于1月27日发布2021财年第二季度财报
- 标签: 华为 华为乾崑 智能驾驶
- 标签: 源策未来 ArchonRobotics 人形基座模型 全身智能
- 标签: 高德 袋马 VibeCoding 微信小程序
- 标签: 青瓷游戏 迪士尼书境传奇 ARPPU 免费畅玩
- 记一次CDH集群升级事故的解决
- 标签: 马云公益基金会 乡村教师计划 李浩波 何如阳
- 云计算开发:Python练习实例-按逗号分隔列表
- 标签: 米哈游 原神 崩坏星穹铁道 绝区零
- 云安全日报220705:红帽PHP解释器发现执行任意代码漏洞,需要尽快升级
- 万国数据海外拓展计划全面启航,香港首座自建数据中心正式动工,预计2022年中完工
- 标签: 西部数据 WD 机械硬盘 AI基础设施
- 国际区块链专利统计最新结果:蚂蚁、平安、腾讯分列申请数前三名
- 搜索
-
- 友情链接