Chonky:一个完全基于神经网络的文本分块工具
Chonky:一个完全基于神经网络的文本分块工具。它能将文本智能分割成有意义的语义块,帮助你更高效地处理和理解长文本。
亮点:
使用Transformer模型,精准分块;支持RAG系统,拓展应用范围;一行代码即可完成安装,简单易用。
参考文献:[1] https://github.com/mirth/chonky[2] https://huggingface.co/mirth/chonky_distilbert_base_uncased_1
关注公众号:拾黑(shiheibook)了解更多
[广告]赞助链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

随时掌握互联网精彩
赞助链接
排名
热点
搜索指数
- 1 习近平的青春观 7904579
- 2 微信重大更新!聊天记录终于有救了 7809146
- 3 15位数的电话号码即将启用 7713695
- 4 7月7日起这场主题展览开幕 必看! 7617355
- 5 女子熟睡被男友持刀架在脖子上 7521952
- 6 俄海军副司令阵亡 驻地内可能有间谍 7423692
- 7 曝国民女演员爆火内幕 7330748
- 8 商务部:美已取消一系列对华限制措施 7232475
- 9 一只烤鸭只卖25元 店家仍挣钱 7142079
- 10 观众“烦”了的其实不是雷佳音 7046745