感知机
感知机是神经网络和支持向量机的基础。
本节主要涉及到
- 模型的基本定义
- 学习策略
- 学习算法,收敛性
包括线性可分和线性不可分两种,一般只讨论线性可分的情况。
确认好基本的模型形式,然后选择损失函数,思路是使得所有误分类点到分类超平面的距离之和最小,直至为 0。稍微具体点的思路在节末的图片中描述了。
再通过随机梯度下降算法来迭代更新模型参数,每次随机选取一个误分类点,分类的超平面跟初始选择的点,以及迭代过程中误分类点的选择顺序相关。最终的超平面不是唯一的,这个问题后续对比支持向量机。
感知机对线性可分的数据,必然收敛。证明略。可以证明误分类的次数是有上界的。
欢迎来到这里!
我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。
注册 关于