算法是指学习模型参数的具体计算方法,统计学习基于训练数据集,根据学习策略,从假设空间中选择最优模型,最后需要考虑用什么样方法取计算求解最优模型或者最优参数空间。 统计学问题最终归结为最优化问题,统计学系的算法称为求解最优化问题的算法: 如果优化问题为显式解析解 如果优化问题的解析解不存在: 数值计算方法 对...
机器学习【统计学习方法.第二版】清华大学教授李航主讲!《统计学习方法》彻底讲明白了!算法公式一步步手推!模型代码完整复现!——人工自能、深度学习、机器学习、AI 4.7万 161 22:49:04 App 【李航】北大教授,统计学习方法全集,学不会回来找我 8.1万 497 22:39:50 App 【国家级精品课程】北大教授,华为实验室...
【李航】统计学习方法--2. 感知机(详细推导) 感知机原理 感知机是二分类的线性模型,其输入是实例的特征向量,输出的是实例的类别,分别是+1和-1,属于判别模型。 假设训练数据集是线性可分的,感知机学习的目标是求得一个能够将训练数据集正实例点和负实例点完全正确分开的分离超平面。如果是非线性可分的数据,则...
学不会的统计学 隐马尔可夫模型 总结: 1. 状态链、观测链、状态转移矩阵、观测转移矩阵 2. 隐马尔可夫两种假设:齐次马尔可夫性、观测独立假设 3. 概率计算法:直接计算法、前向算法、后向算法 4. 学习算法:EM算法 5. 预测算法:近似算法、维特比算法 前向算法 总结:一般将前向和后项结合使用 维特比算法 ...
【李航】统计学习方法--3. k近邻法(详细推导) 3.3.2 搜索kd树 代码 3.1 k近邻算法 k近邻法(k-nearest neighbor,k-NN):给定一个训练数据集,对新的输入实例,在训练数据集中找到与该实例最近邻的k个实例,这k个实例的多数属于某个类,就把该输入实例分为这个类。KNN使用的模型实际上对应于...
基于贝叶斯定理与特征条件独立假设的分类方法。 10.1 首先基于特征条件独立假设学习输入/输出的联合概率分布 10.2 然后基于此模型,对给定的输入x,利用贝叶斯定理求出后验概率最大的输出Y 注:后验概率:事情已经发生了,事情发生可能有很多原因,判断事情发生时由哪个 原因引起的概率。
在李航统计学方法中,常用的半监督学习算法有半监督支持向量机、拉普拉斯正则化等。 1.半监督支持向量机 半监督支持向量机算法通过利用未标记样本来扩展训练集,并且使用核函数将数据映射到高维空间中进行分类。 2.拉普拉斯正则化 拉普拉斯正则化算法通过加入Laplace平滑项来利用未标记样本进行分类。它可以在保证分类准确率...
4. 统计推断方法：包括参数估计（如极大似然估计、贝叶斯估计）、假设检验、置信区间估计等方法；5. 机器学习基础：包括监督学习（如线性回归、逻辑回归、支持向量机等）和无监督学习（如聚类、主成分分析等）的基本算法和理论。李航的《统计学方法》以简洁清晰的语言和严谨的数学推导，为初学者提供了一本较为全面的...
该项目截止到目前已经有了10.6k的star，对于想通过李航博士《统计学方法》作为入门教材的人来说，可谓是...
4. 1.3 统计学习方法的三要素 5. 1.4 模型评估与模型选择 6. 1.5 正则化与交叉验证 7. 1.6 泛化能力——概念理解 8. 1.6 泛化能力——定理证明 9. 1.7 生成模型与判别模型 10. 1.8 监督学习应用——分类问题 11. 1.8 监督学习应用——标注问题和回归问题 12. 2.1 感知机——模型介绍和学习策略 13. 2....