09
2025
04
14:24:50

打造本地化RAG知识库


打造本地化RAG知识库,还需要安装其他的组件,按照RAG的原理和机制,还需要在本地部署一个嵌入模型,可以选择bge-m3或者nomic-embed-text。

1.下载嵌入模型

回到PowerShell,执行命令

ollama pull nomic-embded-text

或者

ollama pull bge-m3

然后等待安装完成。

 2.dify关联嵌入模型

选择dify的“设置”

 选择“模型供应商”

添加模型

模型名称:bge-m3:latest

url:http://host.docker.internal:11434

 点击“保存”。

 在“系统模型设置”中的嵌入模型选择bge-m3:latest。注意:如果没有显示下拉则刷新流量器在来一次就显示了。

3.打造本地知识库

在dify中点击“知识库”。

3.1 创建知识库

 选择本地文件

 选择“下一步”。

 默认设置即可,选择“保存并处理”。

 3.2 使用知识库

回到应用,选择“上下文”的“添加”

 选择知识库,并点击“添加”。

 测试:

 




推荐本站淘宝优惠价购买喜欢的宝贝:

image.png

本文链接:https://hqyman.cn/post/10239.html 非本站原创文章欢迎转载,原创文章需保留本站地址!

分享到:
打赏





休息一下~~


« 上一篇 下一篇 »

发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

请先 登录 再评论,若不是会员请先 注册

您的IP地址是: