具体描述
本书全程图解式讲解，通过大量全彩插图拆解概念，让读者真正告别学习大模型的枯燥和复杂。
全书分为三部分，依次介绍语言模型的原理、应用及优化。第一部分 理解语言模型（第1~3章），解析语言模型的核心概念，包括词元、嵌入向量及Transformer架构，帮助读者建立基础认知。第二部分 使用预训练语言模型（第4~9章），介绍如何使用大模型进行文本分类、聚类、语义搜索、文本生成及多模态扩展，提升模型的应用能力。第三部分 训练和微调语言模型（第10~12章），探讨大模型的训练与微调方法，包括嵌入模型的构建、分类任务的优化及生成式模型的微调，以适应特定需求。
本书适合对大模型感兴趣的开发者、研究人员和行业从业者。读者无须深度学习基础，只要会用Python，就可以通过本书深入理解大模型的原理并上手大模型应用开发。书中示例还可以一键在线运行，让学习过程更轻松。
编辑推荐
1.【直观】300幅全彩插图，极致视觉化呈现
2.【全面】涵盖大模型原理、应用开发、优化
3.【实操】真实数据集，实用项目，典型场景
4.【热点】18幅图深度解读DeepSeek底层原理
5.【附赠】一键运行代码+大模型面试题200问
6.【视频】大量线上拓展资料，包括文章、视频
作者简介
Jay Alammar
Cohere总监兼工程研究员，知名大模型技术博客Language Models & Co作者，DeepLearning.AI和Udacity热门机器学习和自然语言处理课程作者。
Jay的图解系列文章“The Illustrated Transformer”“The Illustrated DeepSeek-R1”全网疯传，累积了几百万专业读者。
Maarten Grootendorst
IKNL（荷兰综合癌症中心）高级临床数据科学家，知名大模型技术博客博主，BERTopic等开源大模型软件包作者（下载量超百万），DeepLearning.AI和Udacity热门机器学习和自然语言处理课程作者。
目录信息
中文版序 xxi
前言 xxiii
第 一部分 理解语言模型
第 1章 大语言模型简介 3
1.1 什么是语言人工智能 4
1.2 语言人工智能的近期发展史 4
1.2.1 将语言表示为词袋模型 5
1.2.2 用稠密向量嵌入获得更好的表示 7
1.2.3 嵌入的类型 9
1.2.4 使用注意力机制编解码上下文 10
1.2.5 “Attention Is All You Need” 13
1.2.6 表示模型：仅编码器模型 16
1.2.7 生成模型：仅解码器模型 18
1.2.8 生成式AI元年 20
1.3 “LLM”定义的演变 22
1.4 LLM的训练范式 22
1.5 LLM的应用 23
1.6 开发和使用负责任的LLM 24
1.7 有限的资源就够了 25
1.8 与LLM交互 25
1.8.1 专有模型 26
1.8.2 开源模型 26
1.8.3 开源框架 27
1.9 生成你的第 一段文本 28
1.10 小结 30
第 2章 词元和嵌入 31
2.1 LLM的分词 32
2.1.1 分词器如何处理语言模型的输入 32
2.1.2 下载和运行LLM 33
2.1.3 分词器如何分解文本 36
2.1.4 词级、子词级、字符级与字节级分词 37
2.1.5 比较训练好的LLM分词器 39
2.1.6 分词器属性 47
2.2 词元嵌入 48
2.2.1 语言模型为其分词器的词表保存嵌入 49
2.2.2 使用语言模型创建与上下文相关的词嵌入 49
2.3 文本嵌入（用于句子和整篇文档） 52
2.4 LLM之外的词嵌入 53
2.4.1 使用预训练词嵌入 53
2.4.2 word2vec算法与对比训练 54
2.5 推荐系统中的嵌入 57
2.5.1 基于嵌入的歌曲推荐 57
2.5.2 训练歌曲嵌入模型 58
2.6 小结 60
第3章 LLM的内部机制 61
3.1 Transformer模型概述 62
3.1.1 已训练Transformer LLM的输入和输出 62
3.1.2 前向传播的组成 64
3.1.3 从概率分布中选择单个词元（采样/解码） 66
3.1.4 并行词元处理和上下文长度 68
3.1.5 通过缓存键 值加速生成过程 70
3.1.6 Transformer块的内部结构 71
3.2 Transformer架构的最新改进 79
3.2.1 更高效的注意力机制 79
3.2.2 Transformer块 83
3.2.3 位置嵌入：RoPE 85
3.2.4 其他架构实验和改进 87
3.3 小结 87
第二部分 使用预训练语言模型
第4章 文本分类 91
4.1 电影评论的情感分析 92
4.2 使用表示模型进行文本分类 93
4.3 模型选择 94
4.4 使用特定任务模型 96
4.5 利用嵌入向量的分类任务 99
4.5.1 监督分类 99
4.5.2 没有标注数据怎么办 102
4.6 使用生成模型进行文本分类 105
4.6.1 使用T5 106
4.6.2 使用ChatGPT进行分类 110
4.7 小结 113
第5章 文本聚类和主题建模 114
5.1 ArXiv文章：计算与语言 115
5.2 文本聚类的通用流程 116
5.2.1 嵌入文档 116
5.2.2 嵌入向量降维 117
5.2.3 对降维后的嵌入向量进行聚类 119
5.2.4 检查生成的簇 120
5.3 从文本聚类到主题建模 122
5.3.1 BERTopic：一个模块化主题建模框架 124
5.3.2 添加特殊的“乐高积木块” 131
5.3.3 文本生成的“乐高积木块” 135
5.4 小结 138
第6章 提示工程 140
6.1 使用文本生成模型 140
6.1.1 选择文本生成模型 140
6.1.2 加载文本生成模型 141
6.1.3 控制模型输出 143
6.2 提示工程简介 145
6.2.1 提示词的基本要素 145
6.2.2 基于指令的提示词 147
6.3 高级提示工程 149
6.3.1 提示词的潜在复杂性 149
6.3.2 上下文学习：提供示例 152
6.3.3 链式提示：分解问题 153
6.4 使用生成模型进行推理 155
6.4.1 思维链：先思考再回答 156
6.4.2 自洽性：采样输出 159
6.4.3 思维树：探索中间步骤 160
6.5 输出验证 161
6.5.1 提供示例 162
6.5.2 语法：约束采样 164
6.6 小结 167
第7章 高级文本生成技术与工具 168
7.1 模型输入/输出：基于LangChain加载量化模型 169
7.2 链：扩展LLM的能力 171
7.2.1 链式架构的关键节点：提示词模板 172
7.2.2 多提示词链式架构 174
7.3 记忆：构建LLM的对话回溯能力 177
7.3.1 对话缓冲区 178
7.3.2 窗口式对话缓冲区 180
7.3.3 对话摘要 181
7.4 智能体：构建LLM系统 185
7.4.1 智能体的核心机制：递进式推理 186
7.4.2 LangChain中的ReAct实现 187
7.5 小结 190
第8章 语义搜索与RAG 191
8.1 语义搜索与RAG技术全景 191
8.2 语言模型驱动的语义搜索实践 193
8.2.1 稠密检索 193
8.2.2 重排序 204
8.2.3 检索评估指标体系 207
8.3 RAG 211
8.3.1 从搜索到RAG 212
8.3.2 示例：使用LLM API进行基于知识的生成 213
8.3.3 示例：使用本地模型的RAG 213
8.3.4 高级RAG技术 215
8.3.5 RAG效果评估 217
8.4 小结 218
第9章 多模态LLM 219
9.1 视觉Transformer 220
9.2 多模态嵌入模型 222
9.2.1 CLIP：构建跨模态桥梁 224
9.2.2 CLIP的跨模态嵌入生成机制 224
9.2.3 OpenCLIP 226
9.3 让文本生成模型具备多模态能力 231
9.3.1 BLIP-2：跨越模态鸿沟 231
9.3.2 多模态输入预处理 235
9.3.3 用例1：图像描述 237
9.3.4 用例2：基于聊天的多模态提示词 240
9.4 小结 242
第三部分 训练和微调语言模型
第 10章 构建文本嵌入模型 247
10.1 嵌入模型 247
10.2 什么是对比学习 249
10.3 SBERT 251
10.4 构建嵌入模型 253
10.4.1 生成对比样本 253
10.4.2 训练模型 254
10.4.3 深入评估 257
10.4.4 损失函数 258
10.5 微调嵌入模型 265
10.5.1 监督学习 265
10.5.2 增强型SBERT 267
10.6 无监督学习 271
10.6.1 TSDAE 272
10.6.2 使用TSDAE进行领域适配 275
10.7 小结 276
第 11章 为分类任务微调表示模型 277
11.1 监督分类 277
11.1.1 微调预训练的BERT模型 279
11.1.2 冻结层 281
11.2 少样本分类 286
11.2.1 SetFit：少样本场景下的高效微调方案 286
11.2.2 少样本分类的微调 290
11.3 基于掩码语言建模的继续预训练 292
11.4 命名实体识别 297
11.4.1 数据准备 298
11.4.2 命名实体识别的微调 303
11.5 小结 305
第 12章 微调生成模型 306
12.1 LLM训练三步走：预训练、监督微调和偏好调优 306
12.2 监督微调 308
12.2.1 全量微调 308
12.2.2 参数高效微调 309
12.3 使用QLoRA进行指令微调 317
12.3.1 模板化指令数据 317
12.3.2 模型量化 318
12.3.3 LoRA配置 319
12.3.4 训练配置 320
12.3.5 训练 321
12.3.6 合并权重 322
12.4 评估生成模型 322
12.4.1 词级指标 323
12.4.2 基准测试 323
12.4.3 排行榜 324
12.4.4 自动评估 325
12.4.5 人工评估 325
12.5 偏好调优、对齐 326
12.6 使用奖励模型实现偏好评估自动化 327
12.6.1 奖励模型的输入和输出 328
12.6.2 训练奖励模型 329
12.6.3 训练无奖励模型 332
12.7 使用DPO进行偏好调优 333
12.7.1 对齐数据的模板化 333
12.7.2 模型量化 334
12.7.3 训练配置 335
12.7.4 训练 336
12.8 小结 337
附录 图解DeepSeek-R1 338
后记 349
· · · · · · (收起)
读后感
用户评价
这本书的装帧和排版简直是业界良心，简直就是一场视觉盛宴！我这个人对手写体的图示和清晰的区块划分有着近乎苛刻的要求，很多技术书的图表常常是密密麻麻的黑白线条，让人阅读起来十分费力。而这本书，采用了大量的彩色插图，每一个示意图都经过精心设计，无论是网络结构的层级划分，还是数据流动的路径追踪，都做得一目了然。阅读体验极佳，长时间阅读也不会感到视觉疲劳。尤其欣赏作者在关键概念引入时，会用一个醒目的“💡 思考点”来引导读者暂停并内化知识，这种教学设计非常人性化。对我这种需要时不时停下来梳理思路的读者来说，这种节奏把控得恰到好处。可以说，这本书在提升阅读体验方面，达到了教科书级别的水准，让学习技术知识的过程不再是煎熬，而变成了一种享受。
我作为一个资深程序员，对市面上那些号称“全景覆盖”的技术书籍持保留态度，大多是内容堆砌，深度不够。但这本书，绝对是难得的精品。它没有停留在宏观概念的介绍，而是深入到了模型架构的精妙之处。我对Transformer结构一直抱有浓厚兴趣，但网上的资料往往侧重于论文复现，缺乏对设计哲学层面的探讨。这本书在这方面做得极其出色，它详细分析了自注意力机制的设计初衷，以及它如何解决了传统RNN/LSTM的瓶颈，这种“知其然亦知其所以然”的讲解方式，极大地满足了我对底层原理的求知欲。而且，书中对不同类型大模型（比如生成式与判别式）的优劣势对比分析得鞭辟入里，逻辑严密，观点独到。读完整本书，我感觉自己的技术视野被极大地拓宽了，不仅仅是学会了如何使用工具，更是理解了工具背后的设计思想，这对于我未来进行模型优化和二次开发，无疑是至关重要的基石。
我是一个对“应用”和“落地”极其关注的工程师，很多理论书籍读起来总觉得有点空中楼阁的感觉，难以和实际项目联系起来。这本书的厉害之处在于，它完美地架起了理论与实践的桥梁。它不仅解释了“是什么”，更着重讲解了“怎么用”。在介绍完基础理论后，书中紧接着提供了大量的“实战案例分析”，这些案例覆盖了从自然语言理解到图像生成等多个重要应用场景。这些案例的描述非常详尽，包括了数据预处理的挑战、模型微调（Fine-tuning）的最佳实践，以及在资源受限情况下如何进行高效部署的策略。我可以直接将书中的某些架构思路迁移到我目前正在负责的项目中去优化效果。这种“即学即用”的特点，极大地提高了我的工作效率，让我能迅速将学到的新知识转化为实际的生产力，而不是让这些知识束之高阁，成为书架上的装饰品。
这本书简直是我的“救星”！我之前对人工智能领域，尤其是那些复杂的模型概念，总是感到一头雾水，看了很多枯燥的技术文档和晦涩难懂的论文，越陷越深。直到我发现了这本书，那种豁然开朗的感觉简直无法用言语形容。作者的叙事方式非常平易近人，仿佛是在和一位经验丰富的技术前辈面对面交流，而不是在啃一本冷冰冰的教科书。他没有急于抛出那些高深莫测的数学公式，而是从最基础的逻辑和直观的例子入手，把“大模型”这个听起来高大上的概念，层层剥开，展示出其内在的运作原理。尤其是关于模型训练和推理过程的描述，那些原本在我脑海中模糊不清的“黑箱”，通过书中的生动比喻和清晰的流程图，变得清晰可见。读完后，我感觉自己终于抓住了这个领域的核心脉络，不再是那个只能跟在别人后面听报告的门外汉了。这本书的价值，在于它真正实现了知识的“去门槛化”，让非专业背景的读者也能领略到AI的魅力。
坦白说，我对这类前沿技术的书籍通常抱有一种审慎的态度，因为技术迭代太快，书本内容很容易过时。然而，这本书的独特视角和扎实的基础内容，让它拥有了更长的生命周期。它不像某些书那样紧紧追逐最新的“热词”，而是专注于构建一个坚实的知识框架。作者对模型“涌现能力”（Emergent Abilities）的探讨，让我印象极为深刻。他没有简单地罗列这些现象，而是试图从信息论和复杂系统的角度去解释为何会产生这些意想不到的能力，这种跨学科的思维方式非常启发人。此外，书中对于模型评估指标和伦理考量的章节，也体现了作者的责任心和远见。在当前AI快速发展，伴随着各种争议的背景下，这本书不仅是技术指南，更是一份对未来技术发展的深刻反思，它引导读者思考的，是如何负责任地、可持续地发展和应用这些强大的工具，这一点是我认为它远超一般技术手册的价值所在。
本书英文原名为 Hands-On Large Language Models: Language Understanding and Generation。从原理解释上来说我个人认为并不易懂，抽象程度不上不下让我有点难受。不过实战解析算是能看懂。
一图胜千言，内容非常好懂，适合用来对LLM的原理及应用领域有一个比较全面的基础理解，然后应该得结合自己的具体应用场景看是否要做更深入的学习和实战了。
普及生成式AI值得一看
一图胜千言，内容非常好懂，适合用来对LLM的原理及应用领域有一个比较全面的基础理解，然后应该得结合自己的具体应用场景看是否要做更深入的学习和实战了。
非常非常凌乱，如果入门推荐日本人那本深度学习以及从零构建大语言模型
