正如PyTorch 在官网上所说,PyTorch 是一个张量和动态神经网络 Python 库,它有着极其强大的 GPU 加速性能。我们一般可以直接定义 GPU 张量,也可以由 CPU 张量转化为 GPU 张量。如下,我们定义了两个 GPU 张量,并对这两个张量执行矩阵乘法。当然,我们也可以如下所示将 CPU 张量转换为 GPU 张量。 x = torch.cuda...
第一次调度基于设备类型和张量布局:比如是 CPU 张量还是 CUDA张量,是有步幅的张量还是稀疏的张量。这个调度是动态的:这是一个虚函数(virtual function)调用(这个虚函数调用究竟发生在何处是本演讲后半部分的主题)。这里需要做一次调度应该是合理的:CPU 矩阵乘法的实现非常不同于 CUDA 的实现。这里是动态调度的原因...
2．3．4 张量 30 2．3．5 张量算法的基本性质 31 2．3．6 降维 32 2．3．7 点积 33 2．3．8 矩阵-向量积 33 2．3．9 矩阵-矩阵乘法 34 2．3．10 范数 35 2．3．11 关于线性代数的更多信息 36 2．4 微积分 37 2．4．1 导数和微分 37 2．4．2 偏导数 40 2．4．3...
2.2.3 转换为张量格式 27 2.3 线性代数 27 2.3.1 标量 28 2.3.2 向量 28 2.3.3 矩阵 29 2.3.4 张量 30 2.3.5 张量算法的基本性质 31 2.3.6 降维 32 2.3.7 点积 33 2.3.8 矩阵-向量积 33 2.3.9 矩阵-矩阵乘法 34 2.3.10 范数 35 2.3.11 关于线性代数...
《码农的零门槛AI课：基于fastai与PyTorch的深度学习》是2023年电子工业出版社出版的图书，作者是【澳】Jeremy Howard、【法】Sylvain Gugger。该书深入浅出地介绍了深度学习的概念，并为读者提供了掌握深度学习的详细指导。 本书的目标读者是对深度学习感兴趣的广大程序员，只要你有一些编程基础，即可通过这本书轻松上...
2.6 PyTorch中张量的运算70 2.6.1 涉及单个张量的函数运算70 2.6.2 涉及多个张量的函数运算72 2.6.3 张量的极值和排序73 2.6.4 矩阵的乘法和张量的缩并75 2.6.5 张量的拼接和分割77 2.6.6 张量维度的扩增和压缩79 2.6.7 张量的广播80 2.7 PyTorch中的模块简介82 2...