符号定义:
将训练数据写成列的形式更好,
M是代表训练集个数 也通常用M_train来代替
Mtext是代表训练集
定义一个函数 原先定义一个wx+b的函数 但是预测值y的值是0～1
wx+b有负值和很大的值 所以不适合用这个模型
新增一个sigmoid模型 如上图sigmoid(z)会在0到z范围
y-hat是通过sigmoid函数计算出来的y值
y是训练集的数据
通过Loss函数尽可能使得Loss函数的值尽量小
如果Loss函数使用(y-y-hat)^2就会得到局部最小值,用梯度下降法找不到全局最小值
所以Loss函数使用图中的函数
Loss函数是对单个训练数据
而成本函数是对训练数据总体的表示
最佳化:因为我们设定的成本函数式非凹凸不平的 而是像一口锅一样
所以初始化一个w点,时刻对w进行更新,learning rate是我们自己设定的
总的来说 先定义一个sigmoid模型,然后因为sigmoid模型中有w和b参数
需要定义一个Loss函数用来判断w和b的参数值好坏(这是对单个训练数据而言的),而成本函数就是对整个训练集来进行,找到最佳的w和b的值 使得预测模型的值接近真实值
