0
点赞
收藏
分享

微信扫一扫

ik分词器支持标点符号,特殊字符分词(分词结果包含特殊字符)

茗越 2022-02-10 阅读 157

需要修改ik分词插件源码

github官网下载对应那本的ik源码包(徐泽自己需要的版本)

下载好后,解压,用idea打开编辑源码

在工具类(CharacterUtil.java)里,找到方法 identifyCharType,加入以下代码:

}else if (ub == Character.UnicodeBlock.GREEK // 希腊符号
				// 希腊扩展符号
				|| ub == Character.UnicodeBlock.GREEK_EXTENDED
				// 拉丁字符
				|| ub == Character.UnicodeBlock.BASIC_LATIN
				// 拉丁补充字符
				|| ub == Character.UnicodeBlock.LATIN_1_SUPPLEMENT
				// 拉丁扩展A字符
				|| ub == Character.UnicodeBlock.LATIN_EXTENDED_A
				// 拉丁扩展B字符
				|| ub == Character.UnicodeBlock.LATIN_EXTENDED_B) {
			return CHAR_CHINESE;
		}

 原理也很简单,就是把特殊符号当作中文处理。

不想改代码的,百度网盘自取!!!!!
链接:https://pan.baidu.com/s/1w4mAvbdcRvUrdgONTf_0CA 
提取码:0108

举报

相关推荐

0 条评论