结巴分词可以完全使用自己定义的词库分词吗?

cqbtgcyy 2020-05-27 05:43:00
结巴分词可以完全使用自己定义的词库分词吗?我想用下面的词库来分

医学 5 n
卫生局 5 n
医疗卫生机构 5 n
毕业生 5 n

但结果是这样,分得太细了,连我没定义的很多词都分出来了,比如人才、文秘等。
array(20) { ["专业"]=> float(0) ["技能型"]=> float(0) ["管理部"]=> float(0) ["行政"]=> float(0) ["卫生"]=> float(0) ["医院"]=> float(0) ["医疗卫生机构"]=> float(0) ["服务"]=> float(0) ["毕业生"]=> float(0) ["人才"]=> float(0) ["应用"]=> float(0) ["高素质"]=> float(0) ["旨在"]=> float(0) ["能力"]=> float(0) ["管理"]=> float(0) ["同时"]=> float(0) ["专业技能"]=> float(0) ["文秘"]=> float(0) ["背景"]=> float(0) ["医学"]=> float(0) }

...全文
520 6 打赏 收藏 转发到动态 举报
写回复
用AI写文章
6 条回复
切换为时间正序
请发表友善的回复…
发表回复
一身正气丶 2021-12-10
  • 打赏
  • 举报
回复

删除源码的主词典即可,或者自定义路径,屏蔽它

horizon_zpy 2020-06-04
  • 打赏
  • 举报
回复
https://www.cnblogs.com/kingchou/p/7940691.html

我github打不开没法下载测试,搜到这篇文章,参考一下,应该可以自定义词库的。
cqbtgcyy 2020-06-03
  • 打赏
  • 举报
回复
引用 3 楼 horizon_zpy 的回复:
能分享一下这个分词吗?没用过。
你直接在网上搜索吧,结巴分词 php 就能找到了
horizon_zpy 2020-06-03
  • 打赏
  • 举报
回复
能分享一下这个分词吗?没用过。
cqbtgcyy 2020-06-02
  • 打赏
  • 举报
回复
请问这里有人用过结巴分词的吗?
cqbtgcyy 2020-05-28
  • 打赏
  • 举报
回复
难道使用结巴分词的php程序员很少吗?
结巴分词早期版本。 * 结巴分词(java版) jieba-analysis 首先感谢jieba分词原作者[[https://github.com/fxsjy][fxsjy]],没有他的无私贡献,我们也不会结识到结巴 分词,更不会有现在的java版本。 结巴分词的原始版本为python编写,目前该项目在github上的关注量为170, 打星727次(最新的数据以原仓库为准),Fork238次,可以说已经有一定的用户群。 结巴分词(java版)只保留的原项目针对搜索引擎分词的功能(cut_for_index、cut_for_search),词性标注,关键词提取没有实现(今后如用到,可以考虑实现)。 * 简介 ** 支持分词模式 - Search模式,用于对用户查询词分词 - Index模式,用于对索引文档分词 ** 特性 - 支持多种分词模式 - 全角统一转成半角 - 用户词典功能 - conf 目录有整理的搜狗细胞词库 - 支持词性标注(感谢 [[https://github.com/linkerlin][@linkerlin]] 的贡献) * 如何获取 - 当前稳定版本 #+BEGIN_SRC xml com.huaban jieba-analysis 0.0.2 #+END_SRC - 当前快照版本 - 支持词性标注 [[https://github.com/huaban/jieba-analysis/pull/4][#4]] - 修复以'-'连接词分词错误问题 [[https://github.com/huaban/jieba-analysis/issues/3][#3]] #+BEGIN_SRC xml com.huaban jieba-analysis 1.0.0-SNAPSHOT #+END_SRC * 如何使用 - Demo #+BEGIN_SRC java @Test public void testDemo() { JiebaSegmenter segmenter = new JiebaSegmenter(); String[] sentences = new String[] {"这是一个伸手不见五指的黑夜。我叫孙悟空,我爱北京,我爱Python和C++。", "我不喜欢日本和服。", "雷猴回归人间。", "工信处女干事每月经过下属科室都要亲口交代24口交换机等技术性器件的安装工作", "结果婚的和尚未结过婚的"}; for (String sentence : sentences) { System.out.println(segmenter.process(sentence, SegMode.INDEX).toString()); } } #+END_SRC * 算法(wiki补充...) - [ ] 基于 =trie= 树结构实现高效词图扫描 - [ ] 生成所有切词可能的有向无环图 =DAG= - [ ] 采用动态规划算法计算最佳切词组合 - [ ] 基于 =HMM= 模型,采用 =Viterbi= (维特比)算法实现未登录词识别 * 性能评估 - 测试机配置 #+BEGIN_SRC screen Processor 2 Intel(R) Pentium(R) CPU G620 @ 2.60GHz Memory:8GB 分词测试时机器开了许多应用(eclipse、emacs、chrome...),可能 会影响到测试速度 #+END_SRC - [[src/test/resources/test.txt][测试文本]] - 测试结果(单线程,对测试文本逐行分词,并循环调用上万次) #+BEGIN_SRC screen 循环调用一万次 第一次测试结果: time elapsed:12373, rate:2486.986533kb/s, words:917319.94/s 第二次测试结果: time elapsed:12284, rate:2505.005241kb/s, words:923966.10/s 第三次测试结果: time elapsed:12336, rate:2494.445880kb/s, words:920071.30/s 循环调用2万次 第一次测试结果: time elapsed:22237, rate:2767.593144kb/s, words:1020821.12/s 第二次测试结果: time elapsed:22435, rate:2743.167762kb/s, words:1011811.87/s 第三次测试结果: time elapsed:22102, rate:2784.497726kb/s, words:1027056.34/s 统计结果:词典加载时间1.8s左右,分词效率每秒2Mb多,近100万词。 2 Processor Intel(R) Core(TM) i3-2100 CPU @ 3.10GHz 12G 测试效果 time elapsed:19597, rate:3140.428063kb/s, words:1158340.52/s time elapsed:20122, rate:3058.491639kb/s, words:1128118.44/s #+END_SRC

21,886

社区成员

发帖
与我相关
我的任务
社区描述
从PHP安装配置,PHP入门,PHP基础到PHP应用
社区管理员
  • 基础编程社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧