新手入门机器学习案例（附源代码）

这里复习一下一些简单的机器学习算法，也算是一个总结，希望能给大家做一个参考，后续会继续更新。

• 基础知识
• • 混淆矩阵
• 第一天-KNN
• • 鸢尾花分类
• 第二天-线性回归
• • 波士顿房价预测
• 第三天-支持向量机
• 第四天-逻辑回归
• • 糖尿病预测
  • • 逻辑回归简介
• 第n天-决策树
• • 糖尿病预测
  • • 决策树参数

Logistic Regression算法是通过训练数据中的正负样本，学习样本特征和样本标签的假设函数，它是典型的线性分类器，是广义线性模型的一种。它具有很强的可解释性，应用也非常广泛。如电商利用该模型判断用户是否会选择某种支付方式、金融企业通过该模型将用户划分为不同的信用等级、旅游业用该模型完成酒店客户的流失概率预测、医学界用该模型寻找影响某种疾病的“坏”因素、广告业利用该模型进行点击率预估等等。
优点：输出结果会有很好的概率解释，而算法也能通过正则化以避免过拟合；很容易通过随机梯度下降来更新数据模型；计算代价不高，速度很快，存储资源低。
缺点：容易欠拟合，分类精度可能不高；在面对多元或非线性决策边界时性能较差；逻辑回归是线性回归所对应的分类方法，基本概念由线性回归推导而出，所以只有当数据线性可分时（例如，数据可被某决策平面完全分离），这一算法才会有很好的表现。

kaggle数据集，有些同学可能不方便翻墙，已经给大家下好了。
数据集

决策树（Decision tree）是一种非参数的有监督学习方法，它能够从一系列有特征的和标签的数据中总结出决策规则，并以树状图的结构来呈现这些规则，以解决分类和回归问题。

from sklearn.tree import DecisionTreeClassifier

clf=DecisionTreeClassifier()
clf=clf.fit(x_train,y_train)
result=clf.score(x_test,y_test)