具体描述
统计学习方法即机器学习方法，是计算机及其应用领域的一门重要学科。本书分为监督学 习和无监督学习两篇，全面系统地介绍了统计学习的主要方法。包括感知机、k 近邻法、朴素贝叶斯法、决策树、逻辑斯谛回归与最大熵模型、支持向量机、提升方法、EM 算法、隐马尔可夫模型和条件随机场，以及聚类方法、奇异值分解、主成分分析、潜在语义分析、概率潜在语义分析、马尔可夫链蒙特卡罗法、潜在狄利克雷分配和 PageRank 算法等。除有关统计学习、监督学习和无监督学习的概论和总结的四章外，每章介绍一种方法。叙述力求从具体问题或实例入手， 由浅入深，阐明思路，给出必要的数学推导，便于读者掌握统计学习方法的实质，学会运用。 为满足读者进一步学习的需要，书中还介绍了一些相关研究，给出了少量习题，列出了主要参考文献。 本书是统计机器学习及相关课程的教学参考书，适用于高等院校文本数据挖掘、信息检索及自然语言处理等专业的大学生、研究生，也可供从事计算机应用相关专业的研发人员参考。
作者简介
李航 日本京都大学电气工程系毕业，日本东京大学计算机科学博士。曾任职于日本NEC公司中央研究所，微软亚洲研究院高级研究员及主任研究员，现任华为诺亚方舟实验室首席科学家。北京大学、南开大学、西安交通大学客座教授。研究方向包括信息检索、自然语言处理、统计机器学习及数据挖掘。
目录信息
第二篇 无监督学习
第13章 无监督学习概论
13.1.1 无监督学习基本原理
13.1.2 基本问题
13.1.3 机器学习三要素
13.1.4 无监督学习方法
第14章 聚类方法
14.1 聚类的基本概念
14.1.1 相似度或距离
14.1.2 类或簇
14.1.3 类与类之间的距离
14.2 层次聚类
14.3 k均值聚类
14.3.1 模型
14.3.2 策略
14.3.3 算法
14.3.4 算法特点
本章概要
继续阅读
习题
参考文献
第15章 奇异值分解
15.1 奇异值分解的定义与性质
15.1.1 定义与定理
15.1.2 紧奇异值分解与截断奇异值分解
15.1.3 几何解释
15.1.4 主要性质
15.2 奇异值分解的计算
15.3 奇异值分解与矩阵近似
15.3.1 弗罗贝尼乌斯范数
15.3.2 矩阵的优近似
15.3.3 矩阵的外积展开式
本章概要
继续阅读
习题
参考文献
第16章 主成分分析
16.1 总体主成分分析
16.1.1 基本想法
16.1.2 定义和导出
16.1.3 主要性质
16.1.4 主成分的个数
16.1.5 规范化变量的总体主成分
16.2 样本主成分分析
16.2.1 样本主成分的定义和性质
16.2.2 相关矩阵的特征值分解算法
16.2.3 数据局正的奇异值分解算法
本章概要
继续阅读
习题
参考文献
第17章 潜在语义分析
17.1 单词向量空间与话题向量空间
17.1.1 单词向量空间
17.1.2 话题向量空间
17.2 潜在语义分析算法
17.2.1 矩阵奇异值分解算法
17.2.2 例子
17.3 非负矩阵分解算法
17.3.1 非负矩阵分解
17.3.2 潜在语义分析模型
17.3.3 非负矩阵分解的形式化
17.3.4 算法
本章概要
继续阅读
习题
参考文献
第18章 概率潜在语义分析
18.1 概率潜在语义分析模型
18.1.1 基本想法
18.1.2 生成模型
18.1.3 共现模型
18.1.4 模型性质
18.2 概率潜在语义分析的算法
本章概要
继续阅读
习题
参考文献
第19章 马尔可夫链蒙特卡罗法
19.1 蒙特卡罗法
19.1.1 随机抽样
19.1.2 数学期望估计
19.1.3 积分计算
19.2 马尔可夫链
19.2.1 基本定义
19.2.2 离散状态马尔可夫链
19.2.3 连续状态马尔可夫链
19.2.4 马尔可夫链的性质
19.3 马尔可夫链蒙特卡罗法
19.3.1 基本想法
19.3.2 基本步骤
19.3.3 马尔可夫链蒙特卡罗法与统计学习
19.4 Metropolis-Hastings算法
19.4.1 基本原理
19.4.2 Metropolis-Hastings算法
19.4.3 单分量Metropolis-Hastings算法
19.5 吉布斯抽样
19.5.1 基本原理
19.5.2 吉布斯抽样算法
19.5.3 抽样计算
本章概要
继续阅读
习题
参考文献
第20章 潜在狄利克雷分配
20.1 狄利克雷分布
20.1.1 分布定义
20.1.2 共轭先验
20.2 潜在狄利克雷分配模型
20.2.1 基本想法
20.2.2 模型定义
20.2.3 概率图模型
20.2.4 随机变量序列的可交换性
20.2.5 概率公式
20.3 LDA的吉布斯抽样算法
20.3.1 基本想法
20.3.2 算法的主要部分
20.3.3 算法的后处理
20.3.4 算法
20.4 LDA的变分EM算法
20.4.1 变分推理
20.4.2 变分EM算法
20.4.3 算法推导
20.4.4 算法总结
本章概要
继续阅读
习题
参考文献
第21章 PageRank算法
21.1 PageRank的定义
21.1.1 基本想法
21.1.2 有向图和随机游走模型
21.1.3 PageRank的基本定义
21.1.4 PageRank的一般定义
21.2 PageRank的计算
21.2.1 迭代算法
21.2.2 幂法
21.3.3 代数算法
本章概要
继续阅读
习题
参考文献
第22章 无监督学习方法总结
22.1 无监督学习方法的关系和特点
22.1.1 各种方法之间的关系
22.1.2 无监督学习方法
22.1.3 基础及其学习方法
22.2 话题模型之间的关系和特点
参考文献
附录A 梯度下降法
附录B 牛顿法和拟牛顿法
附录C 拉格朗日对偶性
附录D 矩阵的基本子空间
附录E KL散度的定义和狄利克雷分布的性质
索引
· · · · · · (收起)
读后感
这本书一共235页，写了10个算法，可见每个算法都介绍的篇幅不长，貌似每个算法该讲的都讲了。 详细看了一章最大熵，发现其实都是对已有文献的翻译，其中的部分符号修改了，更加通俗易读。不过翻译的非常好，是目前国内翻译的最好的吧。 最大熵的举例来自论文...
本书总共12章，除最后一章总结之外，其余11章每章末尾都附有参考文献。不算论文，引用到的书籍将近20本。其中有一本被引用了7次之多，或者说只有4章没有提及。 书名是：《The Elements of Statistical Learning》，豆瓣评价9.5分，想必不错。 另外还有一本被提到3次的：《Patte...
初学者不适合看，但是从事相关行业的人必定要看，本书精简不啰嗦，面面俱到，从原理上给你整得明明白白的，辅以适当的例子，没有多余的图表，因为人工智能不是什么画图跑demo的专业，你需要有扎实的数学基础。 建议路线，ng课程入门，知道有哪些算法，大致怎么做，然后去kaggle...
本书总共12章，除最后一章总结之外，其余11章每章末尾都附有参考文献。不算论文，引用到的书籍将近20本。其中有一本被引用了7次之多，或者说只有4章没有提及。 书名是：《The Elements of Statistical Learning》，豆瓣评价9.5分，想必不错。 另外还有一本被提到3次的：《Patte...
读了机器学习实战、深度学习花书、PRML、西瓜书以及这本统计学习方法 总体来说这本书叙述较为详细，数学推导难度适中，可以作为西瓜书的辅助材料阅读。相比较西瓜书来说优点是：都是干活，算法证明过程很详细，缺点是：没有包含最新的一些机器学习算法，甚至神经网络都没有涉及...
用户评价
**适合入门，也适合进阶** 对于想要入门统计学习的读者来说，《统计学习方法（第2版）》无疑是一个非常好的选择。它没有一开始就抛出大量的复杂数学公式，而是从最基本、最核心的概念讲起，比如监督学习、无监督学习、模型评估等。作者用清晰易懂的语言，结合图示和简单的例子，帮助读者建立起对这些概念的直观理解。但这本书的价值远不止于此。对于已经有一定基础的读者，书中对各种经典算法的深入剖析，以及对算法背后的数学原理的严谨推导，也能带来很大的启发。我特别喜欢书中关于“偏差-方差”权衡的论述，以及如何通过正则化来缓解过拟合的讲解，这些都是在实际建模中非常关键的知识点。而且，书中还提供了一些进阶的思考方向，鼓励读者去探索更复杂的模型和更前沿的研究。总而言之，这本书的知识密度非常高，但又组织得井井有条，无论是初学者还是有一定经验的学习者，都能从中找到适合自己的内容，并获得显著的提升。
**理论与实践的完美结合** 在阅读《统计学习方法（第2版）》的过程中，我最直观的感受就是它在理论和实践之间的平衡做得非常到位。很多统计学习的书籍，要么过于注重理论，枯燥乏味，让人望而却步；要么又过于注重代码实现，缺乏理论深度，让人知其然不知其所以然。但这本书恰恰填补了这个空白。作者在讲解每一个模型或算法时，都会先给出清晰的数学推导，让我们理解其内在的逻辑；接着，又会通过具体的例子，展示这个模型或算法在实际问题中的应用，让我们知道它能做什么，以及如何去用。我记得书中关于决策树和支持向量机的章节，讲解得既有深度又不失生动，让我对这些曾经觉得有些“玄乎”的算法有了非常清晰的认识。而且，书中对于模型评估和选择的讨论，也提供了很多实用的技巧和建议，这对于我们在实际项目中构建可靠的模型至关重要。这本书就像一位经验丰富的老师，既教你“道”，也教你“术”，让你真正掌握统计学习的精髓。
**一本值得反复研读的宝典** 老实说，《统计学习方法（第2版）》并不是那种“翻完一遍就丢到一边”的书。相反，我感觉这是一本可以反复研读的宝典。每次重读，都能从中发现新的东西，或者对之前理解不深的概念有更深刻的领悟。作者的逻辑非常严谨，每一章的内容都承接上一章，环环相扣，构建了一个完整的知识体系。我尤其欣赏书中对数学原理的讲解，虽然包含了不少公式，但作者的讲解方式非常清晰，能够帮助我们理解每一个符号的含义以及推导的每一步逻辑。这对于我们理解算法的本质，而不是仅仅停留在表面是非常重要的。而且，书中还包含了一些关于模型解释性和可读性的讨论，这在实际应用中往往被忽视，但却是构建可信赖AI系统不可或缺的一部分。总而言之，这本书的内容非常扎实，讲解也非常透彻，无论是作为学习资料，还是作为案头参考，都具有极高的价值。我相信，随着我对统计学习理解的不断深入，这本书在我心中的地位也会越来越重要。
**好书推荐！** 这本书，说实话，我拿到手的时候，并没有抱太大的期望。市面上关于统计学习的书籍琳琅满目，很多都是泛泛而谈，要么过于理论化，要么又太过于碎片化，很难形成一个完整的知识体系。然而，《统计学习方法（第2版）》给了我一个大大的惊喜。首先，它的内容组织非常清晰，从最基础的概念讲起，循序渐进地引入更复杂的模型和算法。作者在讲解过程中，非常注重概念的直观理解，很多抽象的数学公式都能通过生动的例子和图示来解释，这对于我这样的非数学专业背景的读者来说，简直是福音。我尤其喜欢它对各种算法的推导过程，讲解得细致入微，逻辑严谨，读起来有一种豁然开朗的感觉。而且，书中还穿插了很多关于算法优缺点、适用场景的讨论，这让我能够更深刻地理解不同算法之间的联系和区别，并且在实际应用中做出更明智的选择。虽然我还没有完全读完，但已经感受到了它在构建统计学习知识体系上的强大力量，相信这本书会成为我学习和研究道路上的重要参考。
**给我带来了新的启发** 在接触《统计学习方法（第2版）》之前，我自认为对机器学习的某些领域已经有所了解，也看过一些相关的书籍和论文。然而，这本书的出现，就像一盏明灯，照亮了我之前可能忽略的盲点，也让我从一个全新的角度去审视那些熟悉的概念。作者的叙述方式非常独特，他不是简单地罗列算法，而是深入挖掘算法背后的思想和原理。在讲解某个模型时，他会先从它要解决的问题出发，然后层层剥离，直至揭示其数学本质。这种“由问题到原理，再到应用”的讲解模式，让我不再是死记硬背公式，而是真正理解了“为什么”要这样做。书中的案例分析也非常精彩，很多都是业界经典的应用，作者通过这些案例，将理论知识与实际场景紧密结合，读来引人入胜。特别是关于模型评估和选择的章节，让我受益匪浅，很多之前不曾注意到的细节，在这本书里都被细致地展开，让我对如何构建鲁棒、高效的机器学习模型有了更深的认识。
相比第一版 增加了很多新内容 更加丰富了
好书
相比第1版主要增加了无监督学习方法的内容。这次读第2版，一些之前读第1版时没看明白的推导内容有了豁然开朗的感觉。所以还是要多看多思考，一遍不懂就多看多练几遍。全书精炼明了，有几章偏NLP，因为NLP接触不太多，所以有些地方理解也不太深刻。还需继续多结合实际问题进行思考和应用。
已然98一本了 不知道是知识涨价了 还是出版业无奈的挣扎 只能理解着去图书馆抢资源了。
已然98一本了 不知道是知识涨价了 还是出版业无奈的挣扎 只能理解着去图书馆抢资源了。
