搜索引擎原理 — 中文分词

网络营销评论67

  分词是中文搜索引擎中特有的技术。在英文中以单次为单位,单次之间会有空格,并且每个单次都有特定的意思,计算机很容易理解英文语句的意思。但是中文以字为单位,只有将一句话中所有的字串起来才能表达一个完整的意思,计算机不能直接把中文分成单个字来理解,所以就需要引入中文分词技术,把一句话切分成一个个有意义的词语来进行理解。比如把“我是一个学生”切分成“我/是/一个/学生”。

  搜索引擎面对中文网页时就是这样,靠中文分词来理解网页所描述的内容。其实分词技术的基础就是拥有海量的有意义的词库(词典),搜索引擎会使用自己强大的词库来对网页内容进行拆分,或者是对内容进行机械切割,统计出出现次数最多的词。通过分词就可以使得搜索引擎明白该网页内容是与什么相关的,这回直接决定该网页出现在哪些词的搜索结果中,所以中文分词在SEO工作中也是需要潜心研究的。现在很多SEO人员只是知道有这么个技术,但是对这项技术具体是怎么进行分词的,以及中文分词是怎么运用到SEO工作中的还一无所知。

  搜索引擎对于中文内容的理解和分词一直都没有太大的进步,所以搜索引擎程序在判断网页内容和关键词的相关性方面的技术,与几年前相比也并没有太大进步。现在常见的中文分词技术有两种:基于词典匹配和基于统计,也有研究基于语义分析的分词方法,但是汉语博大精深,计算机程序暂时还不能很好的支持。

  1.基于词典匹配

  这种分词技术是使用搜索引擎自己的词典对网页内容进行拆分。按照匹配方向的不同可以分为正向匹配和逆向匹配;按照不同长度优先匹配的不同可以分为最长匹配和最小匹配。常见的三种匹配方法是正向最大匹配(从左到由)、逆向最大匹配(从右到左)和最少切分

  不论使用什么样的匹配方式,都是使用搜索引擎已有的词典,对网页内容进行拆分理解。这种分词方式的准确度取决于词典的完整性和更新情况。如果当一个新词出现时,搜索引擎没有即时把该词加入到词典中,那么就会影响最终的分词精准度。尤其是在网络如此发达的今天,几乎每天都有新词出现。

  2.基于统计

  这种分词技术不依靠词典,而是对大量文字样本进行分析,然后把相邻出现次数比较多的几个字当成一个词来处理。基于统计的分词方法在一定程度上解决了搜索引擎词典更新的问题,并且有利于消除歧义。

  在当前搜索引擎中文分词中多多少少都会存在着一些难题没有解决,这可能是因为汉语真的太博大精深了,在当下计算机根本不可能完全理解。比如,网络上流传的两句“以前喜欢一个人,现在喜欢一个人” “以前谁都看不上,现在谁都看不上”,有些人第一眼看到这两句话也不太理解,相信搜索引擎在短期内更不会真正理解这两句话。

  搜索引擎会把网页拆分出来的词按照词频进行排序,使用TF-IDF之类的算法以确定该网页主要和哪些词相关,并进行相关度计算。搜索引擎会综合各方面因素来确定当前页面主题描述的内容。分词技术指导SEO人员再进行网站内容建设和关键词布局时,可以把一个关键词分成更小的单位进行拆分布局,这样不仅可以加强网页和这个关键词的相关度,也会使得网页匹配出更多的关键词。

  比如下图在百度搜索长尾词“婚纱摄影公司”,图中自然搜索结果第一和第三的网页title、description和页面内容都没有完整出现“婚纱摄影公司”这个词,但是依然有比较不错的排名。

  还有种情况,当在百度网页搜索“婚纱摄影公司”会被切割成“婚纱摄影” “公司”和“婚纱摄影”“摄影公司”或“婚纱”“摄影公司”,来进行相关度计算,在搜索结果中就算有网页完整的出现了“婚纱摄影公司”这个词,但是并不一定能排到靠前的位置,可见中文分词用得好,会为网页额外增加大量可以匹配的关键词,这样就可以是网站整体获得更多的搜索展现机会和流量。

  在上面例子中充分体现了分词技术中的正向最大匹配、逆向最大匹配以及最少切分的规律。如前面所述,很多SEO人员指导有中文分词这么回事,但是并不知道怎么运用。如果你还没有研究过中文分词,那么现在就开始详细研究吧,有不懂的就百度一下,会有很多详细介绍资料。也可以留言问我,每条留言必回!

----------------------------------------------------

长按二维码,打赏一杯咖啡钱:

部分文章将会更新至博客www.xyfeng.com

感谢关注,如果本文对你有帮助就点击右上角分享一下

微信搜索:xyfeng168

如果你有SEO、网络推广、网络营销等方面的问题可以给我留言,每条回复必看

 
商家们!又到了生意参谋的答疑时间 网络营销

商家们!又到了生意参谋的答疑时间

Q:生意参谋是啥?生意参谋平台是阿里巴巴重兵打造的首个商家统一数据平台,面向全体商家提供一站式、个性化、可定制的商务决策体验。集成了量子恒道的海量数据及生意参谋的店铺经营思路,不仅整合了量子恒道大部分...
百度回应“通过搜索引擎填报高考志愿” 网络营销

百度回应“通过搜索引擎填报高考志愿”

百度在声明中表示,百度高度重视高考相关信息查询的权威性和准确性。从2013年开始,百度就启动了对考试招生院官网的保护,将各地招生院官网在搜索结果进行显著位置展示,并为官网免费提供“官网”标识认证。针对...
匿名

发表评论

匿名网友
:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: