算法2.2
(1) 初始化参数 α = 0 alpha = 0 α=0, b = 0 b = 0 b=0, η ∈ ( 0 , 1 ] eta in (0,1] η∈(0,1]
(2) 对于特征数据进行循环:
quad quad 如果 y i ( ∑ j = 1 N α j y j x j ∗ x i + b ) ⩽ 0 y_i(sum_{j=1}^N alpha_j y_j x_j * x_i + b) leqslant 0 yi(∑j=1Nαjyjxj∗xi+b)⩽0 ,更新参数:
quad quad quad quad quad quad quad quad α i = α i + η alpha_i = alpha_i + eta αi=αi+η
quad quad quad quad quad quad quad quad b = b + y i ∗ η b= b+ y_i *eta b=b+yi∗η
(3) 重复(2),直到没有错分数据。
错分条件在Python里其实可以使用 Gram 矩阵进行简便计算:
记
α
=
(
α
1
,
α
2
,
α
3
)
T
,
y
=
(
y
1
,
y
2
,
y
3
)
T
alpha = (alpha_1,alpha_2,alpha_3)^T, y = (y_1,y_2,y_3)^T
α=(α1,α2,α3)T,y=(y1,y2,y3)T
其实错分条件就等价于:先将
α
alpha
α 和
y
y
y 的对应项相乘,然后在和 Gram 矩阵的 第
i
i
i 行求内积。(就是下面代码里的写法)
例2.2 Python 代码
class perceptronDual:
def __init__(self): # 初始化参数
self.a = np.zeros(3)
self.b = 0
self.lr = 1
def fit(self, Y, Gram):
flag = False
while flag != True:
count = 0
for i in range(len(Y)):
if (np.dot(self.a * Y , Gram[i]) + self.b) * Y[i] <= 0: # 误分条件
self.a[i] += self.lr
self.b += self.lr * Y[i]
count += 1
print(self.a,self.b)
print("-"*10)
else:
continue
if count == 0:
flag = True
if __name__ == '__main__':
x = np.array([[3,3],[4,3],[1,1]])
y = np.array([1,1,-1])
G = np.dot(x,x.T) # 计算Gram矩阵
p1 = perceptronDual()
p1.fit(y,G)



