机器学习基础算法原理

很早以前写的，担心以后会丢失，故在此备份。字不好请见谅。😂

一、模型评估和选择

这一章主要是讲对于数据的操作，应当如何增加数据来进行评估，以及评估方法如 macro/micro F1 score、ROC、AUC 等。

二、线性模型

基础线性回归的算法，进阶有如拉格朗日插值法、牛顿插值法、勒让德多项式、埃尔米特插值法等。

三、决策树

信息熵为关键信息，进阶有随机森林，应用广泛。值得一提的还有 xgboost 等叠加器。

四、神经网络

深度学习必备基础知识，前向后向传播，参数计算量等都需要从这里开始。

五、支持向量机

现在不是很强的一个算法，基础在于拉格朗日乘数法，进阶在于正则化、核函数等一些超参的调整。

六、贝叶斯

最基础的要求：一定要会朴素贝叶斯的推断。另外还有一些混合高斯和 EM 算法等，则需要联合分布概率等。混合高斯可以对比 fft 了解不同之处，基本上都可以拟合出所有函数，但是 fft 为周期函数，混合高斯特点为系数和为 1，更多不同之处还请进一步交流。