无痛安装===无痛人流?探讨中文分词

JSON 2016-08-22 17:44:56 4643

中文 分词 指的是将一个汉字序列切分成一个一个单独的词。分词就是将连续的字序列按照一定的规范重新组合成词序列的过程。我们知道,在英文的行文中,单词之间是以空 格作为自然分界符的,而中文只是字、句和段能通过明显的分界符来简单划界,唯独词没有一个形式上的分界符,虽然英文也同样存在短语的划分问题,不过在词这 一层上,中文比之英文要复杂的多、困难的多。

由此来看中文分词是比较难的,难就难在语义、组合、拆分上。

比如讨论的标题,

无痛安装:通俗讲就是解压缩的方式安装即可,而不是xxx.exe的方式(下一步以下一步)安装。

无痛人流:呵呵、就不用我说了。

但是用户意向的结果却是相差千里。我曾经吐槽 百度  、在他们的官方贴吧, 微薄  等地方吐槽,广告太严重了,我记得我2014年初的时候,搜索过一次 无痛安装  ,结果前2页都是“无痛人流”,我愤怒了。现在稍微好点,因为竞争对手 360  搜索出来了, 360  搜索虽然没有百度占的份额高,但是把腾讯的soso搜索、搜狗搜索等等都秒杀了。

相比之下 360  搜索稍微好点。

Google  那不用说,绝对OK。下面上图,你们也可以试试。

google 搜索 无痛安装


百度搜索 无痛安装 


搜狗搜索 无痛安装 

百度  是在 360  出来后才改进的还是在我愤怒后改进的,哈哈(^_^),以前是整整2页都是无痛人流。

所以对我们程序员来讲, google  你快回来吧。

下面我们讨论下为什么出现这样的问题?

其实在没有任何处理的情况下,分词后出现这样的问题也正常,但是就分词技术来讲,无痛安装分词后应该是[ 无痛安装 无痛安装],也就是权重最高的是 无痛安装  ,而不是无痛。

而无痛人流分词后应该是[无痛人流无痛人流]。

那么我们可以看出来 无痛人流 和 无痛安装  对应上是靠 无痛 对应上的。

所以从排序角度来说,在用户搜索 “无痛安装” 的时候,应该无痛安装是排第一。而 无痛 或者 安装是排其次。而我们得到的结果是不是我们想要的。

可能有的同学要喷我,说这是广告、竞价,我现在就要说这一点,广告讲究什么?讲究的是精准、假如我搜索一个无痛美容、无痛洗牙、那出来无痛人流是OK的,也就是都是医学挂钩的、你这…………

针对 中文分词  ,回头我就现在市面上的 中文分词  器做下对比再发布一篇博客。

版权所属:SO JSON在线解析

原文地址:https://www.sojson.com/blog/75.html

转载时必须以链接形式注明原始出处及本声明。


如果本文对你有帮助,那么请你赞助我,让我更有激情的写下去,帮助更多的人。

关于作者
一个低调而闷骚的男人。
相关文章
Elasticsearch教程(二),IK分词安装
Elasticsearch教程(三),IK分词安装 (极速版)
Elasticsearch教程,Elasticsearch Java API创建Mapping,指定分词
ik分词器如何实现模糊匹配
Elasticsearch 分词,Elasticsearch Java API 分词 操作
Elasticsearch教程,Elasticsearch 设置近义搜索,IK分词器实现同义搜索
ik分词器如何实现模糊匹配
Linux 安装 Redis 详细步骤讲解
Myecilpse,Eclipse安装Freemarker插件【附件】
MyEclipse8.5,MyEclipse10,安装ERMaster 建模插件
最新文章
文件上传漏洞与防御 4058
前端构建工具选型指南:Webpack、Vite、Rollup、esbuild 深度对比 1444
物联网时代2026年时序数据库选型指南 1151
SaaS行业面临AI挑战:从“无限复用”到“灵活适应” 1269
神经网络:从构造到模型训练全链路解析 1168
一文吃透 Redis 核心存储结构:ziplist、listpack 与哈希表扩容 / 并发查询 1593
Linux sudo提权完整指南:从基础用法到生产级安全配置 691
XSS 和 CSRF 的本质区别及开发防御全解析 772
JVM垃圾回收(GC)全维度解析:从原理到调优实战 813
Linux动静态库与ELF加载全解析:从实操制作到底层原理 912
最热文章
免费天气API,天气JSON API,不限次数获取十五天的天气预报 783114
最新MyEclipse8.5注册码,有效期到2020年 (已经更新) 711464
苹果电脑Mac怎么恢复出厂系统?苹果系统怎么重装系统? 679993
Jackson 时间格式化,时间注解 @JsonFormat 用法、时差问题说明 562673
我为什么要选择RabbitMQ ,RabbitMQ简介,各种MQ选型对比 512621
Elasticsearch教程(四) elasticsearch head 插件安装和使用 484794
Jackson 美化输出JSON,优雅的输出JSON数据,格式化输出JSON数据... ... 302947
Java 信任所有SSL证书,HTTPS请求抛错,忽略证书请求完美解决 247433
Elasticsearch教程(一),全程直播(小白级别) 233097
谈谈斐讯路由器劫持,你用斐讯路由器,你需要知道的事情 228329
支付扫码

所有赞助/开支都讲公开明细,用于网站维护:赞助名单查看

查看我的收藏

正在加载... ...