- 网络输出尺寸计算公式
- C++
- 条件概率
- 权重衰减
- LSTM
- 通用逼近器
- HMM马尔科夫
- += -= 运算优先级
卷积层输出尺寸计算公式
H
o
u
t
=
H
i
n
+
2
∗
P
−
K
S
+
1
H_{out}=frac{H_{in}+2*P-K}{S} +1
Hout=SHin+2∗P−K+1
池化pooling层输出尺寸计算公式 同上
H
o
u
t
=
H
i
n
+
2
∗
P
−
K
S
+
1
H_{out}=frac{H_{in}+2*P-K}{S} +1
Hout=SHin+2∗P−K+1
膨胀卷积是对卷积核的膨胀
膨胀后的卷积核 不膨胀的情况下D=1
K
′
=
D
∗
(
K
−
1
)
+
1
K^{'}=D*(K-1)+1
K′=D∗(K−1)+1
因此,膨胀卷积输出尺寸计算公式为
H
o
u
t
=
H
i
n
+
2
∗
P
−
K
′
S
+
1
K
′
=
D
∗
(
K
−
1
)
+
1
H_{out}=frac{H_{in}+2*P-K^{'}}{S} +1\ K^{'}=D*(K-1)+1
Hout=SHin+2∗P−K′+1K′=D∗(K−1)+1
数组的初始化
#includeusing namespace std; int main() { int a[3]={1,2,3}; int b[3]={1,2,3};//[1,2,3]; for( int i = 0; i < 3; i = i + 1 ) { cout< #include条件概率 权重衰减using namespace std; int main() { //二维数组分行初始化 int a[2][3]={{1,2,3},{4,5,6}}; //不分行初始化 int a[2][3]={ 1,2,3,4,5,6}; return 0; } 应对过拟合的方法:权重衰减
LSTM 通用逼近器 HMM马尔科夫 += -= 运算优先级
权重衰减等价于L2范数正则化(regularization)。还有L1和L0范数,其中L2范数应对过拟合最好。
正则化通过为模型损失函数添加惩罚项使学出的模型参数值较小,是应对过拟合的常用手段。至于为什么添加了正则项就能降低过拟合。简单来说,添加了正则项后,损失函数计算梯度下降时就要同时满足原损失函数和正则项的权重同时等于0,压缩了解的空间,即对权重w的可能的取值做了限制。



