- 前言
- 一、学习知识点概要
- 1.1 赛题理解
- 1.2 评价指标
- 二、学习内容
- 2.1 赛题流程
- 三、学习问题与解答
- 3.1 什么是脱敏
- 四、学习思考与总结
- 4.1 数据分析的流程：
前言
本学习笔记为阿里云天池龙珠计划金融风控训练营的学习内容，学习链接为：
https://tianchi.aliyun.com/specials/activity/promotion/aicampfr
比赛要求参赛选手根据给定的数据集，建立模型，预测金融风险。
赛题以预测金融风险为任务，数据来自某信贷平台的贷款记录，总数据量超过120w，包含47列变量信息，其中15列为匿名变量。为了保证比赛的公平性，将会从中抽取80万条作为训练集，20万条作为测试集A，20万条作为测试集B，同时会对employmentTitle、purpose、postCode和title等信息进行脱敏。
1.2 评价指标竞赛采用AUC作为评价指标。AUC（Area Under Curve）被定义为 ROC曲线 （receiver operating characteristic curve）下与坐标轴围成的面积。
ROC空间将假正例率（FPR）定义为 X 轴，真正例率（TPR）定义为 Y 轴。
TPR：在所有实际为正例的样本中，被正确地判断为正例之比率。 T P R = T P T P + F N TPR = frac{TP}{TP + FN} TPR=TP+FNTP FPR：在所有实际为负例的样本中，被错误地判断为正例之比率。 F P R = F P F P + T N FPR = frac{FP}{FP + TN} FPR=FP+TNFP
AUC(Area Under Curve) AUC（Area Under Curve）被定义为 ROC曲线 下与坐标轴围成的面积，显然这个面积的数值不会大于1。又由于ROC曲线一般都处于y=x这条直线的上方，所以AUC的取值范围在0.5和1之间。AUC越接近1.0，检测方法真实性越高;等于0.5时，则真实性最低，无应用价值。
-
准确率（Accuracy） 准确率是常用的一个评价指标，但是不适合样本不均衡的情况。 A c c u r a c y = T P + T N T P + T N + F P + F N Accuracy = frac{TP + TN}{TP + TN + FP + FN} Accuracy=TP+TN+FP+FNTP+TN
-
精确率（Precision） 又称查准率，正确预测为正样本（TP）占预测为正样本(TP+FP)的百分比。 P r e c i s i o n = T P T P + F P Precision = frac{TP}{TP + FP} Precision=TP+FPTP
-
召回率（Recall） 又称为查全率，正确预测为正样本（TP）占正样本(TP+FN)的百分比。 R e c a l l = T P T P + F N Recall = frac{TP}{TP + FN} Recall=TP+FNTP
-
F1 Score 精确率和召回率是相互影响的，精确率升高则召回率下降，召回率升高则精确率下降，如果需要兼顾二者，就需要精确率、召回率的结合F1 Score。 F 1 − S c o r e = 2 1 P r e c i s i o n + 1 R e c a l l F1-Score = frac{2}{frac{1}{Precision} + frac{1}{Recall}} F1−Score=Precision1+Recall12
-
P-R曲线（Precision-Recall Curve） P-R曲线是描述精确率和召回率变化的曲线
图片来源
四、学习思考与总结 4.1 数据分析的流程：数据脱敏，指对某些敏感信息通过脱敏规则进行数据的变形，实现敏感隐私数据的可靠保护。这样就可以在开发、测试和其它非生产环境以及外包环境中安全地使用脱敏后的真实数据集。
数据脱敏通过对敏感信息采用脱敏方式进行匿名化，防止因生产库中的主要数据，明文显示在测试系统中，导致数据泄漏问题。
明确分析目的、数据获取、数据处理、数据分析、数据可视化、提出建议推动落地
在这里插入图片描述
备注：4.1节图片均来自知乎@风清扬
