动态计算图和GPU支持操作
动态计算图 在深度学习中使用 PyTorch 的主要原因之一,是我们可以自动获得定义的函数的梯度/导数。 当我们操作我们的输入时,会自动创建一个计算图。该图显示了如何从输入到输出的动态计算过程。 为了熟悉计算图的概念,下面将动态为以下函数创建一个: 这里的 是我们的参数,我们想要优化(最大化或最小化)输出 . 为此,我们想要获得梯度. 在下面的代码中,我将使用[1,2,3]作输入。 # 只有浮动张量有梯度 x =计算 torch.arange(1,4, dtype=torch.float32, requires_grad=True) print("X", x)&nb图和sp; # X tensor([1., 2., 3.], requires_grad=True) 现在让我来一步一步地构建计算图,了解每个操作是到底是GP如何添加到计算图中的。 a = x + 2 b = a ** 2 c = b +U支 3 y = c.mean() print("Y", y) # Y tensor(19.6667, grad_fn=持操) 使用上面的语句,我们创建了一个类似于下图的计算图(通过tensorboard )查看: 我们计算 a 基于输入x 和常数2, b是 a平方等等操作。计算图通常以相反的方向可视化(箭头从结果指向输入)。 我们可以通过bac动态kward()在最后一个输出上调用函数来对计算图执行反向传播,这样可以,计算了每个具有属性的张量的梯度requires_grad=True: y.backward() 最后打印x.grad就可以查看对应梯度。 &计算nbsp; GPU支持操作 在Pytorch中GPU 可以并行执行数以千计的小运算,因此非常适合在神经网络中执行大型矩阵运算。 「CPU 与 GPU的区别」 PyTorch 使用GPU,需要搭建NVIDIA 的CUDA和cuDNN。 下图和面代码,检查是否有可用的 GPU: gpu_avail = torch.cuda.is_available() print("Is the GPU availableGP? %s" % str(gpu_avail)) 现在创建一个张量并将其推送到GPU设备: device = torch.device("cuda")U支 if torch.cuda.is_available() else torch.device("cpu") print("Device", device)&nbs持操p;x = x.to(device) print("X", x) # Device cuda # X t动态ensor([1., 1., 1.], device='cuda:0') cuda 旁边的零表示这是计算机上的第0个 GPU 设备。因此,PyTorch 还支持多 GPU 系统, 下面将CP计算U 上的大型矩阵乘法的运行时间与 GPU 上的运算进行比较: 根据系统中的配置而定,GPU加速提高模型的训练速度。
-
上一篇
-
下一篇
- 最近发表
- 随机阅读
-
- 小鹏汽车AI科技日将发布“物理AI”重大突破!全球最大数据量基座模型曝光
- 陈皮是用哪种桔子做的
- 奥地利对Facebook处以960万欧元罚款
- 微软Copilot迎来重磅更新:类ChatGPT记忆管理功能即将上线!
- 云数据库选型也绕不开“CAP定理”?
- 谷歌脸书推特CEO将出席美国国会听证会:阐述虚假信息审核问题
- 标签: 纸尿裤 甲酰胺 碧芭宝贝 Babycare
- 篮球一级运动员
- 标签: 哈啰单车 猎鹰计划 共享单车 竞品打压
- 标签: 滴滴 滴滴关爱 中国红十字基金会 公益救助
- IDC:2020Q4苹果以36.5%市场份额领跑全球平板电脑市场
- 标签: 新石器 RoboVan CES 2026 X1 CES2026
- 标签: 松下 YKK 松下家居 住宅设备
- Figma MCP服务器重磅升级!一键设计转代码,设计师与前端告别“翻译”时代
- 都是5G旗舰,为何大家买华为Mate40,也不买苹果12?
- 标签: 零跑汽车 C11 B01 Lafa5
- AI如何超越人类修图师?万字长文看懂美图云修AI修图解决方案
- 标签: 云知声 山海大模型 MedBench4.0 智慧医疗
- 标签: Alien Chat AI涉黄案 上海法院 制作淫秽物品牟利罪
- 福布斯发布2026 年全球AI50 榜单 OpenAI、Anthropic依然领先
- 搜索
-
- 友情链接