Gse v0.10.0 发布了, Go 高性能分词

Go 语言高效分词, 支持英文、中文、日文等 词典用双数组trie(Double-Array Trie)实现, 分词器算法为基于词频的最短路径加动态规划。 支持普通和搜索引擎两种分词模式,支持用户词典、词性标注,可运行JSON RPC服务。 项目地址: https://github.com/go-ego/gse ```Go package main import ( "fmt" "github.com/go-ego/gse" ) func main() { var seg gse.Segmenter seg.LoadDict("zh,testdata/test_dict.txt,testdata/test_dict1.txt") text1 := []byte("你好世界, Hello world") segments := seg.Segment(text1) fmt.Println(gse.ToString(segments, false)) } ``` # Danube River ### Add - [NEW] 增加加载词典错误行检测 - [NEW] 增加不同语言词典缩写 - [NEW] 增加模式分词方法 - [NEW] 增加自定义字典和示例 - [NEW] 更多测试 - [NEW] 更新测试工具 ### Update - [NEW] 更新 tool 和 benchmark 代码 - [NEW] 更新 cedar 代码 - [NEW] 简化代码 name - [NEW] 更新 README.md - [NEW] 细分代码方法 - [NEW] 更新版本并使用 dep 管理包 - [NEW] 优化字典加载 - [NEW] 更新 log print 和文件名 ### Fix - [FIX] Format some code and fix godoc
已邀请:

虽然

赞同来自: veni

看了一下, 修复了很多 BUG, 引入了错误行字典检测、字典缩写等新功能

皇虫 - PHP后端与web前端程序员

mark,赞!我的开源项目BookStack(https://github.com/TruthHun/BookStack )好像使用的是https://github.com/huichen/sego ,不知道两个开源项目有啥区别。既然支持自定义字典,我到时换`gse`试下

veni - 90后野生全站工程师

加载字典更简单, 多语言支持, 字典错误行检测, 字典缩写, 修复 BUG 等等

要回复问题请先登录注册