具体描述
《走进搜索引擎(第2版)》由搜索引擎开发研究领域三位年轻的博士生精心编写,作者们希望将自己对搜索引擎的理解和实际应用相结合,让未接触过搜索引擎原理和方法的读者也能轻松读懂该书的大部分内容。
《走进搜索引擎(第2版)》在第1版的基础上,删除了搜索引擎历史等章节,并对错误和不足进行了修订和补充,同时增加了潘雪峰编写的第6章“搜索引擎日志分析”,花贵春编写的第7章“排序学习(LearningtoRank)”和梁斌编写的第8章“搜索引擎的性能调优”三个主要章节,变更的内容约占第1版的一半。
作者简介
目录信息
1.1 搜索引擎概述
1.1.1 目录式搜索引擎
1.1.2 全文搜索引擎
1.1.3 元搜索引擎(Meta-Search Engine)
1.2 搜索引擎的主要需求
1.2.1 快
1.2.2 全
1.2.3 准
1.2.4 稳
1.2.5 省
1.3 搜索引擎的4大系统
1.3.1 搜索引擎的体系结构
第2章 搜索引擎的下载系统
2.1 爬虫的发展历史
2.1.1 世界上第1个爬虫
2.1.2 爬虫的发展历程
2.2 万维网及其网页分析
2.2.1 蝴蝶结型的万维网
2.2.2 万维网的直径
2.2.3 万维网的规模及变化特征
2.2.4 网页的特征
2.3 有关爬虫的基本概念
2.3.1 爬虫
2.3.2 种子站点
2.3.3 URL
2.3.4 Backlinks
2.4 网页抓取原理
2.4.1 telnet和wget
2.4.2 从种子站点开始逐层抓取
2.4.3 不重复抓取策略
2.4.4 网页抓取优先策略
2.4.5 网页重访策略
2.4.6 Robots协议
2.4.7 其他应该注意的礼貌性问题
2.4.8 重要性网页优先抓取策略
2.4.9 抓取提速策略(合作抓取策略)
2.5 网页库
2.6 下载系统回顾及未来发展
参考文献
第3章 搜索引擎的分析系统
3.1 知识准备
3.1.1 HTML语言
3.1.2 锚文本(anchor text)
3.1.3 半结构化数据(semi-structured data)
3.2 信息抽取及网页信息结构化
3.2.1 网页结构化的目标
3.2.2 建立HTML标签树
3.2.3 通过投票方法得到正文
3.2.4 网页结构化过程回顾
3.3 网页查重
3.3.1 网页查重技术发展历史
3.3.2 网页查重实现方法
3.4 中文分词
3.4.1 什么是中文分词
3.4.2 通过字典实现分词
3.4.3 基于统计的分词方法
3.5 PageRank
3.5.1 PageRank的来由
3.5.2 PageRank的基本想法
3.5.3 PageRank的计算公式
3.5.4 PageRank的计算方法
3.6 分析系统结构图
参考文献
第4章 搜索引擎的索引系统
4.1 知识准备
4.1.1 信息
4.1.2 索引
4.1.3 倒排索引、倒排表、临时倒排文件、最终倒排文件
4.1.4 其他概念
4.2 全文检索
4.3 文档编号
4.3.1 编号的本质
4.3.2 文档编号的方法
4.3.3 游程编码
4.4 倒排索引
4.4.1 经典的倒排索引
4.4.2 正排索引(前向索引)
4.4.3 倒排索引
4.5 数据规模的估计
4.5.1 齐普夫法则
4.5.2 布尔检索模型下的索引规模估计
4.6 涉及存储规模的一些计算
4.6.1 正排表与倒排表的合并
4.6.2 多个临时倒排文件的归并
4.6.3 倒排索引分布式存储
4.6.4 倒排文件缓存
4.6.5 倒排索引词典统计信息的计算
4.7 倒排索引文件的创建过程
4.7.1 创建倒排表
4.7.2 计算统计信息
参考文献
第5章 搜索引擎的查询系统
5.1 知识准备
5.1.1 什么是信息熵
5.1.2 检索和查询的区别
5.1.3 检索词和查询词的区别
5.1.4 自动文本摘要(Automatic Text Summarization)
5.2 网页信息检索
5.2.1 早期的检索模型
5.2.2 向量空间模型(Vector Space Models)
5.2.3 关键词权重的量化方法TF/IDF
5.2.4 搜索引擎采用的检索模型
5.2.5 多文档列表求交计算
5.2.6 检索结果排序
5.2.7 堆排序
5.3 中文自动摘要
5.3.1 自动摘要的发展历史
5.3.2 自动摘要的含义和实现
5.4 生成搜索结果页
5.4.1 生成搜索结果页
5.5 搜索结果页的缓存
5.6 推测用户查询意图
5.6.1 查询分类
5.6.2 推测信息类、事物类的查询意图
5.7 查询系统的当前热点和发展方向
5.7.1 查询系统的当前热点
5.7.2 查询系统的发展方向
参考文献
第6章 搜索引擎日志分析
6.1 简介
6.1.1 人机交互的记录——日志
6.1.2 分析搜索引擎日志的意义
6.1.3 本章的主要内容
6.2 知识准备
6.2.1 二分图模型(Bipartite Model)
6.2.2 图模型(graphical model)
6.2.3 LDA(Latent Dirichlet Allocation)模型
6.2.4 随机游走 (Random Walk)
6.2.5 小结
6.3 查询日志分析
6.3.1 查询日志的内容
6.3.2 查询词频统计
6.3.3 查询串提示(Suggestion)
6.3.4 命名实体(Named Entity)类别识别
6.3.5 小结
6.4 点击日志分析
6.4.1 点击日志的内容
6.4.2 查询串提示(Suggestion)再分析
6.4.3 查询和结果类别属性传递
6.4.4 搜索结果相似性度量
6.4.5 查询结果排序
6.4.6 点击数据的稀疏性
6.4.7 小结
6.5 隐私问题
6.5.1 日志的两面性
6.5.2 日志的安全使用
6.5.3 小结
6.6 本章总结
参考文献
第7章 排序学习(Learning to Rank)
7.1 排序概述
7.2 传统的排序模型
7.2.1 查询相关的排序模型
7.2.2 查询无关的排序模型
7.3 排序学习简介以及研究现状
7.3.1 排序学习简介
7.3.2 排序学习问题的研究现状
7.4 排序学习模型的应用实例
7.5 排序学习方法的框架
7.5.1 参数设置
7.5.2 排序学习方法的框架
7.6 评测数据集
7.6.1 LETOR数据集
7.6.2 Microsoft Learning to Rank数据集
7.6.3 Yahoo Webscope数据集
7.7 排序学习模型简介
7.7.1 实例
7.7.2 Pointwise方法
7.7.3 Pairwise方法
7.7.4 Listwise方法
7.7.5 3种排序方法的对比
7.8 排序学习模型性能比较
7.8.1 评测方法
7.8.2 排序模型性能的比较
7.9 排序学习的研究方向
7.9.1 标准标注的自动构建
7.9.2 排序特征
7.9.3 半监督学习/主动学习
7.9.4 查询相关的排序模型
7.9.5 利用用户行为特征
7.10 总结
参考文献
第8章 搜索引擎的性能调优
8.1 系统调优概述
8.2 瓶颈识别
8.3 涉及CPU的优化方法
8.3.1 上下文切换问题(context switching)
8.3.2 中断和轮询
8.3.3 CPU的Affinity问题
8.3.4 流水线问题
8.4 涉及内存的优化方法
8.4.1 概述
8.4.2 对换区
8.4.3 cache line
8.4.4 false sharing问题
8.4.5 内存的锁问题
8.4.6 内存库的使用
8.5 涉及磁盘的优化方法
8.5.1 磁盘IO的调度
8.5.2 其他常见磁盘参数调优
8.5.3 磁盘读写方式
8.5.4 文件缓存问题
8.5.5 5分钟法则
8.6 涉及网络的优化方法
8.6.1 搜索首页,结果页提速方法
8.6.2 Web server的架构选择
参考文献
· · · · · · (收起)
读后感
作者倒是认真的,给大爷大妈们写了本介绍搜索引擎的“专业书”。 电子社居然两三百字就凑成一页,弄些图片来填充,每页还留有些“读书笔记”的硕大空挡,居然凑满了272页,卖你50大元没商量!还在封面上“刮”不知耻地写上“打造优质搜索引擎的第一书!” 我靠!
搜索引擎的四个系统的介绍,非常专业。 虽然是一本理论书籍,但是大多数段落我居然看懂了。特别是PageRank的部分写的太好了,总算理解这个是怎么回事了。
预估网站更新时间、频率和工作量,了解这些搜索引擎如果预测网站更新的概率,更新频率的概率,如果比较重复文章,如何建立自己各种排序索引,摘要,抓去数据的机制等等等等,都提供了一种网站如何进行优化的套路。 这也说明了,稳定、持续更新、原创的网站更加有意义。重要行...
作者倒是认真的,给大爷大妈们写了本介绍搜索引擎的“专业书”。 电子社居然两三百字就凑成一页,弄些图片来填充,每页还留有些“读书笔记”的硕大空挡,居然凑满了272页,卖你50大元没商量!还在封面上“刮”不知耻地写上“打造优质搜索引擎的第一书!” 我靠!
用户评价
最近,我对信息检索技术的发展趋势产生了浓厚的兴趣,而搜索引擎无疑是这一领域最前沿的代表。《走进搜索引擎》这本书的名字,让我看到了一个深入探索其内在机制的可能。我希望这本书能够为我揭示搜索引擎的“神经系统”——链接分析与网页评价。互联网上的网页并非孤立存在,它们之间通过超链接相互关联,形成了一个庞大而复杂的网络。搜索引擎是如何利用这些链接信息来评估网页的权威性和重要性的?我希望书中能详细介绍PageRank算法的核心思想,以及它如何将网页间的链接视为一种“投票”机制。同时,我也想了解,除了PageRank之外,还有哪些其他的链接分析技术被用于提升搜索结果的质量。例如,是否存在对链接的“质量”进行评估的机制?搜索引擎如何应对链接农场等作弊行为?我对于搜索引擎如何判断一个网页的“内容质量”也很好奇,这其中是否涉及到自然语言处理(NLP)和机器学习的技术?这本书能否让我理解,为什么有些网站虽然内容丰富,但排名却不高,而有些网站虽然看起来简单,却能排在前面?
我对现代科技的每一个“齿轮”的运作都充满了好奇,而搜索引擎无疑是现代信息社会最核心的“齿轮”之一。《走进搜索引擎》这本书名,让我感觉自己仿佛要被邀请进入一个神秘的殿堂,去一探究竟。我希望这本书能够为我揭示搜索引擎的“智能”部分——自然语言处理与查询理解。当我们用自然语言去搜索信息时,搜索引擎是如何理解我们的意图的?它是否能够理解同义词、近义词,甚至是上下文的含义?我非常好奇,中文分词技术是如何工作的,以及它如何影响搜索结果的准确性。我希望书中能够介绍一些基本的自然语言处理技术,比如词性标注、命名实体识别等,以及它们是如何被应用于搜索引擎中的。同时,我也对搜索引擎如何处理复杂查询,例如包含疑问句、祈使句,甚至是口语化的表达,充满了疑问。这本书能否让我理解,搜索引擎是如何在理解我们“说”什么的同时,还能“知道”我们要找什么?
我购买《走进搜索引擎》这本书,纯粹是因为我对信息检索的终极形态感到好奇,而搜索引擎无疑是这一领域的集大成者。在信息爆炸的时代,我们每天都在依赖搜索引擎来导航海量的数据,但真正理解它是如何工作的,却鲜为人知。这本书名《走进搜索引擎》,仿佛为我打开了一扇通往未知世界的大门,我期待它能为我勾勒出搜索引擎的全景图。我希望这本书能够深入浅出地介绍搜索引擎的“大脑”——查询处理和相关性计算。当我们提交一个查询时,搜索引擎是如何解析这个查询的?是简单的关键词匹配,还是更复杂的语义理解?词语的权重是如何确定的?是否存在基于用户行为的学习模型,来不断优化查询的理解和结果的相关性?我非常好奇,搜索引擎是如何在瞬息之间,从数以亿计的文档中找到最符合我们需求的答案的。这本书能否为我详细解释索引的构建过程?从网页的抓取,到文本的提取,再到索引的生成,每一个环节都充满了技术挑战。它是否会介绍诸如TF-IDF(词频-逆文档频率)这样的经典算法,以及更现代的基于机器学习的相关性模型?我也想了解,搜索引擎是如何处理用户隐私和信息安全问题的,毕竟,每一次搜索都可能涉及到用户的个人信息。
我一直对信息技术如何改变我们的生活方式感到着迷,而搜索引擎无疑是其中最深刻的变革者之一。《走进搜索引擎》这本书名,吸引了我,因为它似乎承诺了一个能够让我拨开迷雾、看到真相的视角。我希望这本书能够为我揭示搜索引擎的“核心算法”——相关性匹配与排序。当我们输入一个搜索词时,搜索引擎是如何判断哪些网页与我们的查询最相关的?仅仅是关键词的出现频率吗?还是有更复杂的模型?我期待书中能够详细介绍TF-IDF(词频-逆文档频率)这样的经典算法,以及更现代的基于机器学习的相关性模型,比如BM25。更重要的是,这些相关性评分是如何被用来对搜索结果进行排序的?哪些因素会影响最终的排名顺序?我希望这本书能够让我理解,为什么有些搜索结果会出现在第一页,而有些则隐藏在后面。我也对搜索引擎如何处理用户意图的理解充满好奇,它是否会根据用户的搜索历史和行为来调整搜索结果?
随着人工智能技术的飞速发展,我对搜索引擎的未来充满了期待,也想了解其当前的技术根基。《走进搜索引擎》这本书名,让我看到了一个机会,可以深入了解这个改变世界的工具。我希望这本书能够为我揭示搜索引擎的“数据处理”流程——从抓取到索引的构建。互联网上的信息是动态变化的,搜索引擎如何才能高效地捕捉和更新这些信息?我期待书中能够详细描述搜索引擎爬虫的工作机制,它们是如何遍历网页、提取内容、并将其存储起来的。同时,我也对索引的构建过程非常感兴趣。毕竟,将海量的网页内容转化为一个能够快速检索的索引库,是一项巨大的工程。这本书是否会介绍诸如倒排索引、前缀索引等数据结构,以及它们在提高检索效率方面的作用?我也想了解,搜索引擎是如何处理中文这样的自然语言的,包括分词、词性标注、以及如何为词语分配权重。
最近,我一直在思考我们所处的数字时代,尤其是搜索引擎在我们日常生活中的核心地位。《走进搜索引擎》这本书的名字,引起了我极大的兴趣,它似乎承诺了一种更深层次的理解,而非仅仅停留在用户使用的层面。我希望这本书能为我揭示搜索引擎的“骨骼”——数据爬取与索引构建。互联网就像一个巨大的海洋,而搜索引擎则需要不断地“游泳”,将海洋中的一切“宝藏”——网页内容,收集并整理起来。这本书能否详细描述搜索引擎爬虫的工作原理?它们是如何发现新的网页?又如何识别和更新已有的网页?爬取过程中又会遇到哪些挑战,比如网站的robots.txt协议、动态网页的处理等等?更关键的是,这些被爬取的海量数据是如何被转化为一个高效、可检索的索引的?我期待书中能够深入讲解倒排索引的原理,以及它如何实现快速的关键词匹配。同时,我也想知道,搜索引擎是如何处理中文这样复杂语言的,包括分词、词语的权重计算等等。这本书是否会涉及到搜索引擎的存储和管理技术,毕竟,需要处理的数据量是天文数字级的。
作为一名对技术细节充满好奇的普通读者,我对搜索引擎的强大能力始终感到惊叹。《走进搜索引擎》这个书名,恰好契合了我想要深入了解其运作机制的愿望。我希望这本书能够为我揭示搜索引擎的“灵魂”——排名算法。每天,我们都在与无数个网站打交道,而搜索引擎根据一定的规则,将它们以特定的顺序呈现在我们面前。这背后究竟是什么在决定网页的“优劣”?是网页内容的质量,是链接的数量和质量,还是其他更复杂的因素?我希望书中能够详细介绍PageRank算法的思想,以及它如何通过分析网页之间的链接关系来评估网页的重要性。同时,我也想了解,除了PageRank之外,还有哪些其他的排名因子被考虑在内,比如用户点击率、停留时间、甚至是用户的地理位置和搜索历史?这本书能否让我理解,为什么有时搜索结果会“变化”,以及搜索引擎是如何通过不断迭代算法来提升用户体验的?我对搜索引擎的反作弊机制也充满了好奇,毕竟,任何一个系统都会面临被“操纵”的风险。
拿到《走进搜索引擎》这本书,我的第一感觉是它的沉甸甸的质感,仿佛里面承载着无数的知识和智慧。我一直对科技进步的幕后运作充满敬畏,而搜索引擎无疑是现代信息社会最伟大的发明之一。它改变了我们获取信息的方式,也塑造了我们认知世界的方法。因此,我迫切地想了解,在那些看似简单的搜索框背后,究竟隐藏着怎样复杂而精妙的设计。这本书的名字《走进搜索引擎》恰恰击中了我内心的痒点,它传递出一种邀请,邀请读者深入探索这个数字世界的“幕后英雄”。我希望这本书能够带领我了解搜索引擎的“心脏”——检索技术。当我在搜索框里输入几个字时,搜索引擎是如何理解我的意图,并从中挑选出最相关的词汇?文本匹配的原理是什么?它是否会考虑同义词、近义词,甚至是我输入错误时的纠错机制?我希望书中能有关于倒排索引、前缀索引等数据结构的介绍,以及这些结构是如何实现毫秒级的检索速度的。此外,我也对搜索结果的排序机制非常感兴趣。一个网页的出现顺序,往往决定了它能否被用户注意到,而这个排序的背后,必然是经过深思熟虑的算法模型。这本书能否为我揭示这些算法的奥秘,让我们理解,为什么有些结果排在前面,而另一些则隐藏在后面?我想知道,搜索引擎是如何衡量一个网页的“价值”的。
我一直认为,理解一个工具的运作原理,才能更好地使用它,甚至对其进行改进。对于搜索引擎,我们几乎每天都在使用,但其背后的复杂性却鲜为人知。《走进搜索引擎》这本书名,对我来说,就像一个邀请,邀请我去探索这个数字世界的“导航仪”。我希望这本书能够带我深入了解搜索引擎的“脉搏”——查询处理和词语分析。当我输入一个查询时,搜索引擎是如何理解我的意图的?它是否会将我的查询词分解成更小的单元?对于中文这样的语言,分词是多么关键的一步?词语的权重是如何确定的?是否存在语义层面的理解,而不仅仅是字面上的匹配?我希望书中能够详细解释同义词、近义词、甚至是用户输入错误时的纠错机制。我非常好奇,搜索引擎是如何做到在毫秒之间,就从海量的网页中找到最相关的内容的。它是否会使用一些特殊的索引结构,比如倒排索引,来实现高效的检索?我对搜索引擎如何处理复杂查询,例如包含逻辑运算符(AND, OR, NOT)或者短语搜索的查询,也充满了疑问。
一本能够带领我穿越那些晦涩技术名词,直抵搜索引擎核心奥秘的书,正是我的期望。这本书的名字《走进搜索引擎》本身就充满了诱惑力,它似乎承诺了一个清晰的路径,让我不再是那个被动接受搜索结果的普通用户,而是能够理解背后运作机制的探索者。我对于搜索引擎的运作方式一直充满好奇,从输入关键词那一刻起,到眼前呈现出海量信息,这整个过程是如何实现的?背后有哪些精密的算法在驱动?又有哪些技术挑战需要克服?这本书是否能用一种易于理解的方式,将这些复杂的技术抽丝剥茧地呈现出来?我希望能看到关于索引构建的详细描述,了解搜索引擎是如何将互联网上浩瀚的信息转化为可以快速检索的索引库的,这里面涉及到数据采集、解析、存储和更新等多个环节,每一个环节都蕴含着巨大的工程量和技术智慧。同时,我也期待这本书能够深入探讨排名算法,这是搜索引擎的核心竞争力之一。如何判断一个网页的相关性和权威性?PageRank算法又经历了怎样的演变?TF-IDF、BM25等经典模型是否有所提及?更重要的是,如何应对各种“黑帽”SEO技术,保证搜索结果的公平性和准确性?这本书能否解答这些我一直萦绕在心头的问题,让我对这个我们日常生活中不可或缺的工具有一个全新的认识?我希望它不仅仅是理论的堆砌,更能结合实际的案例和发展趋势,让我感受到搜索引擎技术的生命力。
以一种易懂的方式阐述,可以学到许多在其他同类书籍中没有的知识,有种相见恨晚的感觉,印象最深的就是TFIDF的解释,很深入,如果其他内容都如TFIDF这么有深度又易懂的方式描述就更好了~总之,非常好的一本书。
写得挺好的,求问有哪些讲GPU讲得比较好的书?
以一种易懂的方式阐述,可以学到许多在其他同类书籍中没有的知识,有种相见恨晚的感觉,印象最深的就是TFIDF的解释,很深入,如果其他内容都如TFIDF这么有深度又易懂的方式描述就更好了~总之,非常好的一本书。
系统地写了搜索引擎的原理,以及各部分的主要算法介绍。如果想要自己搭建一个搜索引擎,这本书可以做简要的指南了。当然,对于不懂代码不懂算法的我来说,主要是原理部分于我很大启发性。后面的算法直接被我忽略了。
入门级。相比第1版增加的日志分析、排序、性能调优三章都挺不错。