- 当我们取得一条数据：
x i : { y 1 = a 1 , y 2 = a 2 , y 3 = a 3 , … , y d = a d } x_i : { y_1= a_1, y_2=a_2, y_3=a_3, dots, y_d=a_d } xi:{y1=a1,y2=a2,y3=a3,…,yd=ad}
这条数据中 x i x_i xi 被称为样本， y 1 , … , y d y_1, dots, y_d y1,…,yd 被称为属性， a 1 , … , a d a_1, dots, a_d a1,…,ad被称为属性值，由这些属性所组成的d维空间被称为属性空间。 - 当我们获取了几条这样格式的数据后：
D = { x 1 , x 2 , x 3 , … , x n } D={ x_1, x_2, x_3, dots, x_n } D={x1,x2,x3,…,xn}
由这几条数据组成的集合被称为数据集，
- 这些数据集将被用来训练或者测试模型，训练模型的过程被称为学习，测试模型的过程被称为测试。
- 模型在学习过程中学习到的有关数据与结果之间的潜在规律被称为假设，所有可能的规律的集合被称为假设空间，而客观世界中，数据与结果的真实规律被称为真相
- 当模型预测的数值为离散值时，这种学习任务被称为分类；当模型预测的数值为连续值时，这种学习任务被称为回归；
- 学习任务可以被分为两类有监督学习和无监督学习
- 学得模型适用于新样本的能力被称为泛化能力
- 当训练模型时，数据集作为输入被称为训练集，样本被称为训练样本
- 当测试模型时，数据集作为输入被称为测试集，样本被称为测试样本。
- 为了检测模型的输出结果与真实结果之间的差距，需要将训练样本与真实结果对应起来，每个训练样本的真实结果被称为标记，所有标记的集合被称为标记空间或输出空间
- 实际预测输出与真实输出相比的差异被称为误差，其中在训练样本的误差被称为经验误差，新样本的误差被称为泛化误差
- 过拟合是指模型将样本的一些特性当作共性，从而导致模型的泛化能力下降（学的太好）
- 欠拟合是指模型仍有一些共性特征未被发现，从而导致模型的泛化能力不足（学的不行）
quadquad 直接以某比例a : b，顺序地划分出训练集和测试。为了使得训练集、测试集、原始数据尽可能地同分布：（1）保留类别比例的分层采样。（2）多次划分，取泛化误差的平均值。
2.2 交叉验证法quadquad 图一清晰地展示了一次 k折交叉验证的过程。也就是划分为k个集合，每次用一个子集作为测试集。为了消除一次交叉验证中划分方式带来的误差（即测试集和训练集不同分布带来的误差），我们将随机划分数据集，然后进行一个k折交叉，如此重复p次，将这p次平均以消除 划分带来的误差。这种方法也被称为p次k折交叉验证。
quadquad 原始数据含有m个样本，我们从原始数据中有放回地采样m次，得到与原始数据等大的train训练集。统计即知，m次采样中始终未被采样到的概率是 ( 1 − 1 m ) m left ( 1 - frac{1}{m} right )^{m} (1−m1)m, 数据集规模m很大时，概率为36.8%。也就是原始数据中有36.8%没有出现在训练集中，我们可以取这些数据作为测试集。
3 泛化能力具体量化误差：回归任务中的均方误差，分类任务中的误分类错误率。我们先只关注分类任务。
3.1 查准率，召回率准 确 率 A c c = T P + T N Total 准确率Acc = frac{TP + TN}{text{Total}} 准确率Acc=TotalTP+TN
查 准 率 P = T P T P + F P 查准率P = frac{TP}{TP+FP} 查准率P=TP+FPTP
召 回 率 R = T P T P + F N 召回率R = frac{TP}{TP+FN} 召回率R=TP+FNTP
quadquad 面临模型选择时，我们选择P和R都更高的模型。 当一个模型的PR不是绝对优于另一个模型时，我们需要综合考量PR。（ F 1 F_1 F1 和 F β F_beta Fβ 就是 P和R的调和平均和加权调和平均）
