Chonky:一个完全基于神经网络的文本分块工具
Chonky:一个完全基于神经网络的文本分块工具。它能将文本智能分割成有意义的语义块,帮助你更高效地处理和理解长文本。
亮点:
使用Transformer模型,精准分块;支持RAG系统,拓展应用范围;一行代码即可完成安装,简单易用。
参考文献:[1] https://github.com/mirth/chonky[2] https://huggingface.co/mirth/chonky_distilbert_base_uncased_1
关注公众号:拾黑(shiheibook)了解更多
[广告]赞助链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

随时掌握互联网精彩
赞助链接
排名
热点
搜索指数
- 1 人不负青山 青山定不负人 7904582
- 2 20名台湾要犯照片曝光 公安悬赏通缉 7808913
- 3 热销的“踩屎感”鞋正在毁掉你的脚 7711918
- 4 前四月民营经济总体发展稳中向好 7617041
- 5 高考前紫色内裤送考旗袍爆单 7521121
- 6 医生:三亚女游客并非被蛇咬伤致死 7428456
- 7 考生究竟在信张雪峰什么 7327758
- 8 妈妈为高考儿子种出紫红色向日葵 7237055
- 9 周星驰《女足》片场照曝光 疲态尽显 7138217
- 10 全力维护高考安全公平考试环境 7041086