具体描述
本书是机器学习实战领域的一本佳作，从机器学习的基本概念讲起，旨在将初学者引入机器学习的大门，并走上实践的道路。本书通过讲解机器学习中的监督学习和无监督学习，并结合特征选择和排序、聚类方法、文本和网页挖掘等热点问题，论证了“优化是力量之源”这一观点，为机器学习在企业中的应用提供了切实可行的操作建议。
作者简介
【作者简介】
罗伯托·巴蒂蒂（Roberto Battiti）
人工智能领域先驱，IEEE会士。因在无功搜索优化（RSO）方向做出了开创性的工作而名震学界。 目前为意大利特伦托大学教授，同时担任特伦托大学机器学习与智能优化实验室（LION lab）主任。
毛罗·布鲁纳托（Mauro Brunato）
意大利特伦托大学助理教授，LION研究团队成员。
【译者简介】
王彧弋
博士，现于瑞士苏黎世联邦理工学院从事研究工作，主要研究方向为理论计算机科学与机器学习。
目录信息
1.1 学习与智能优化：燎原之火 1
1.2 寻找黄金和寻找伴侣 3
1.3 需要的只是数据 5
1.4 超越传统的商业智能 5
1.5 LION方法的实施 6
1.6 “动手”的方法 6
第2章 懒惰学习：最近邻方法 9
第3章 学习需要方法 14
3.1 从已标记的案例中学习：最小化和泛化 16
3.2 学习、验证、测试 18
3.3 不同类型的误差 21
第一部分 监督学习
第4章 线性模型 26
4.1 线性回归 27
4.2 处理非线性函数关系的技巧 28
4.3 用于分类的线性模型 29
4.4 大脑是如何工作的 30
4.5 线性模型为何普遍，为何成功 31
4.6 最小化平方误差和 32
4.7 数值不稳定性和岭回归 34
第5章 广义线性最小二乘法 37
5.1 拟合的优劣和卡方分布 38
5.2 最小二乘法与最大似然估计 42
5.2.1 假设检验 42
5.2.2 交叉验证 44
5.3 置信度的自助法 44
第6章 规则、决策树和森林 50
6.1 构造决策树 52
6.2 民主与决策森林 56
第7章 特征排序及选择 59
7.1 特征选择：情境 60
7.2 相关系数 62
7.3 相关比 63
7.4 卡方检验拒绝统计独立性 64
7.5 熵和互信息 64
第8章 特定非线性模型 67
8.1 logistic 回归 67
8.2 局部加权回归 69
8.3 用LASSO来缩小系数和选择输入值 72
第9章 神经网络：多层感知器 76
9.1 多层感知器 78
9.2 通过反向传播法学习 80
9.2.1 批量和bold driver反向传播法 81
9.2.2 在线或随机反向传播 82
9.2.3 训练多层感知器的高级优化 83
第10章 深度和卷积网络 84
10.1 深度神经网络 85
10.1.1 自动编码器 86
10.1.2 随机噪声、屏蔽和课程 88
10.2 局部感受野和卷积网络 89
第11章 统计学习理论和支持向量机 94
11.1 经验风险最小化 96
11.1.1 线性可分问题 98
11.1.2 不可分问题 100
11.1.3 非线性假设 100
11.1.4 用于回归的支持向量 101
第12章 最小二乘法和健壮内核机器 103
12.1 最小二乘支持向量机分类器 104
12.2 健壮加权最小二乘支持向量机 106
12.3 通过修剪恢复稀疏 107
12.4 算法改进：调谐QP、原始版本、无补偿 108
第13章 机器学习中的民主 110
13.1 堆叠和融合 111
13.2 实例操作带来的多样性：装袋法和提升法 113
13.3 特征操作带来的多样性 114
13.4 输出值操作带来的多样性：纠错码 115
13.5 训练阶段随机性带来的多样性 115
13.6 加性logistic回归 115
13.7 民主有助于准确率－拒绝的折中 118
第14章 递归神经网络和储备池计算 121
14.1 递归神经网络 122
14.2 能量极小化霍普菲尔德网络 124
14.3 递归神经网络和时序反向传播 126
14.4 递归神经网络储备池学习 127
14.5 超限学习机 128
第二部分 无监督学习和聚类
第15章 自顶向下的聚类：K均值 132
15.1 无监督学习的方法 134
15.2 聚类：表示与度量 135
15.3 硬聚类或软聚类的K均值方法 137
第16章 自底向上（凝聚）聚类 142
16.1 合并标准以及树状图 142
16.2 适应点的分布距离：马氏距离 144
16.3 附录：聚类的可视化 146
第17章 自组织映射 149
17.1 将实体映射到原型的人工皮层 150
17.2 使用成熟的自组织映射进行分类 153
第18章 通过线性变换降维（投影） 155
18.1 线性投影 156
18.2 主成分分析 158
18.3 加权主成分分析：结合坐标和关系 160
18.4 通过比值优化进行线性判别 161
18.5 费希尔线性判别分析 163
第19章 通过非线性映射可视化图与网络 165
19.1 最小应力可视化 166
19.2 一维情况：谱图绘制 168
19.3 复杂图形分布标准 170
第20章 半监督学习 174
20.1 用部分无监督数据进行学习 175
20.1.1 低密度区域中的分离 177
20.1.2 基于图的算法 177
20.1.3 学习度量 179
20.1.4 集成约束和度量学习 179
第三部分 优化：力量之源
第21章 自动改进的局部方法 184
21.1 优化和学习 185
21.2 基于导数技术的一维情况 186
21.2.1 导数可以由割线近似 190
21.2.2 一维最小化 191
21.3 求解高维模型（二次正定型） 191
21.3.1 梯度与最速下降法 194
21.3.2 共轭梯度法 196
21.4 高维中的非线性优化 196
21.4.1 通过线性查找的全局收敛 197
21.4.2 解决不定黑塞矩阵 198
21.4.3 与模型信赖域方法的关系 199
21.4.4 割线法 200
21.4.5 缩小差距：二阶方法与线性复杂度 201
21.5 不涉及导数的技术：反馈仿射振荡器 202
21.5.1 RAS：抽样区域的适应性 203
21.5.2 为健壮性和多样化所做的重复 205
第22章 局部搜索和反馈搜索优化 211
22.1 基于扰动的局部搜索 212
22.2 反馈搜索优化：搜索时学习 215
22.3 基于禁忌的反馈搜索优化 217
第23章 合作反馈搜索优化 222
23.1 局部搜索过程的智能协作 223
23.2 CoRSO：一个政治上的类比 224
23.3 CoRSO的例子：RSO与RAS合作 226
第24章 多目标反馈搜索优化 232
24.1 多目标优化和帕累托最优 233
24.2 脑－计算机优化：循环中的用户 235
第四部分 应用精选
第25章 文本和网页挖掘 240
25.1 网页信息检索与组织 241
25.1.1 爬虫 241
25.1.2 索引 242
25.2 信息检索与排名 244
25.2.1 从文档到向量：向量－空间模型 245
25.2.2 相关反馈 247
25.2.3 更复杂的相似性度量 248
25.3 使用超链接来进行网页排名 250
25.4 确定中心和权威：HITS 254
25.5 聚类 256
第26章 协同过滤和推荐 257
26.1 通过相似用户结合评分 258
26.2 基于矩阵分解的模型 260
参考文献 263
索引 269
· · · · · · (收起)
读后感
用户评价
作为一名在数据科学领域摸爬滚打多年的工程师，我发现自己对这本书的评价会略带挑剔，但这种挑剔恰恰源于它高超的水准。我通常对那些把“实战”和“理论”分得太开的书籍感到不耐烦。然而，这本书却在理论的严谨性和工程的实用性之间找到了一个近乎完美的平衡点。在关于大规模数据集处理的部分，作者对随机梯度下降（SGD）的变种的分析，融入了大量的分布式计算和内存效率的考量，这正是教科书上常常忽略的实际瓶颈。例如，书中对并行化策略的讨论，不仅考虑了算法复杂度，还结合了现代GPU架构的特点进行了分析，非常贴合当前的工业实践需求。这种对“如何让模型跑起来并且跑得快”的关注，使得这本书的实用价值大大超越了一般的学术著作。它更像是一份结合了最新研究成果和多年项目经验的“作战手册”。
这本书的结构安排极具匠心，它仿佛为你量身定做了一条从基础到前沿的攀登路径。初看时，我以为它会很快进入那些令人望而生畏的理论推导，但作者的节奏把握得极其精准。前几章对线性代数和概率论基础的快速回顾，既保证了新手的跟进，又没有拖慢有基础读者的进度。然后，它自然而然地过渡到核心的监督学习算法，每一个算法的介绍都紧密结合了一个优化视角。我尤其欣赏它对“黑箱”模型的解构。比如在讲解支持向量机（SVM）时，它没有仅仅停留在最大间隔分类器的层面，而是详细阐述了对偶问题以及核函数的非线性映射是如何通过优化技术实现的。这种深入骨髓的讲解方式，使得我不再满足于仅仅调用库函数，而是开始思考如何根据特定数据集的特性来微调这些算法的内在机制。这本书更像是一本“工具箱的说明书”，它教你如何正确地使用每一个工具，而不是只教你如何把工具扔到一边，只看最后的结果。
读完这本书，我最大的感受是“豁然开朗”，尤其是在处理那些涉及到复杂约束条件的优化问题时。之前看其他教材，总觉得优化算法和机器学习模型是割裂开的两个领域，一个是纯数学，一个是应用。但这本宝典却巧妙地将它们编织在一起。书中对各种梯度下降的变体，比如Adam、Adagrad的详细剖析，已经做到了极致的细致，不光是告诉你它们“是什么”，更深入地解释了它们在不同损失曲面上的“行为模式”。举个例子，作者对鞍点的描述，配上了清晰的几何解释图，这比单纯看公式推导要直观得多。更令人称道的是，它没有止步于标准凸优化，而是花了相当的篇幅探讨非凸优化在深度学习中的应用，特别是权重初始化和学习率调度策略，这些都是实战中让人头疼的关键点。它没有那种故作高深的堆砌术语，而是用最精炼的语言直击问题的核心，让人感觉作者是真正理解这些算法的“脾气秉性”的。对于希望深入理解模型训练底层逻辑的从业者来说，这本书简直是必备的内功心法。
这本书的封面设计得相当有力量感，那种深邃的蓝色和简洁的白色字体搭配，立刻给人一种专业和严谨的印象。我本来是带着一丝忐忑的心情打开它的，毕竟“机器学习”和“优化”这两个词组合在一起，总让人觉得内容会非常晦涩难懂，充满复杂的数学公式。然而，阅读的过程却出乎我的意料。它并没有一上来就用那些高深的理论把我轰炸，而是从一个非常接地气的问题入手——比如如何用算法解决一个实际的资源分配难题。作者的叙述方式非常流畅，就像一位经验丰富的工程师在跟你分享他的项目心得，而不是一个高高在上的学者在讲授理论。特别是关于模型泛化能力的部分，作者没有停留于空洞的定义，而是通过生动的案例对比了过拟合和欠拟合的后果，让我对选择合适的正则化方法有了直观的认识。这种循序渐进的引导，极大地降低了入门的门槛，让我感觉自己真的在掌握解决问题的钥匙，而不是仅仅在背诵公式。这本书的价值，很大程度上在于它成功地架设了理论与实践之间的桥梁，让人明白那些看似抽象的数学结构，是如何在现实世界中发挥作用的。
我对这本书的语言风格和排版设计也想特别提一下。市面上很多技术书籍，内容是好的，但阅读体验却是一场灾难——密密麻麻的文字和难以辨认的公式。这本书在这方面做得非常出色。作者的语言风格充满了一种老派的英式幽默和学术的严谨的结合体，读起来既不觉得枯燥，也不会因为过于口语化而失去专业度。图表的绘制质量极高，那些高维空间的示意图，色彩搭配和线条粗细的运用都恰到好处，使得复杂的空间关系一目了然。尤其是当讨论到高级的变分推断和马尔可夫链蒙特卡洛（MCMC）方法时，作者甚至通过一些类比，将那些晦涩的概率采样过程描述得如同在进行一场精妙的棋局博弈。这种对读者体验的重视，让我在连续阅读数小时后，依然能保持高度的专注和学习的热情，这本身就是一本优秀技术书籍的巨大加分项。
能啃下来的都是大佬...这本书更像是大纲，东西覆盖很广，都是微微提一下。数学公式还是很多的！基本没部分都有对应的论文，一步步跟上会变大牛
风趣幽默卡哇伊...我最喜欢的风格...强烈推荐...
没有太多数学公式的机器学习书籍，清爽易读，很推荐
能啃下来的都是大佬...这本书更像是大纲，东西覆盖很广，都是微微提一下。数学公式还是很多的！基本没部分都有对应的论文，一步步跟上会变大牛
大概翻了一遍，写得还是比较通俗易懂的，第七章特征选择我需要，特征提取：相关系数，相关比，熵和互信息。。更高级的应该是文本挖掘的特征提取，比如LDA提取文本相似度或者自己给予问题需要构建特征变量。。。
