(1)整体复制矩阵块元素
repeat (整体元素重复的次数,(4,2),代表在行上重复4次,在列上重复2次)
torch.Tensor.repeat — PyTorch 1.11.0 documentation
这样可能还是不好形象理解,形象化一点吧:看作矩阵块更加形象具体
二. 神经网络层实现理解(1)线性层(也就是全连接层)
参考网址:torch.nn.functional.linear — PyTorch 1.11.0 documentation
看到这里一大堆,可能会发怵,初学小白可能会懵:
看懂了之后这样记忆理解:
最重要的是那个公式 :
input 对应 x,weight对应A,那么x的列数=A的列数,y的列数=A的行数,按照矩阵计算法则可以分析出来的
三. pytorch网络搭建的通用步骤四. 网络参数的通用步骤(1)创建一个类 继承自 nn.Moudle
(2)类的构造函数里面实现网络结构的搭建,推荐使用nn.sequential结构
(3)定义forward成员函数(外部创建此网络对象时,并且把那个对象当作函数方法使用时,会调用这个forward函数)
暑期编程PK赛 得CSDN机械键盘等精美礼品!(1)通过torch.nn建立损失函数类
(2)通过optim建立优化器(指定优化器优化的参数,以及学习率等等)
(3)输入实际值和目标值,计算损失函数值,并且返回一个损失tensor
(4)调用优化器的zero_grad(),清除梯度累积
(5)调用损失tensor的backward,进行反向误差传播
(6)调用optim的step,进行参数更新



