打造本地化RAG知识库,还需要安装其他的组件,按照RAG的原理和机制,还需要在本地部署一个嵌入模型,可以选择bge-m3或者nomic-embed-text。
1.下载嵌入模型
回到PowerShell,执行命令
ollama pull nomic-embded-text
或者
ollama pull bge-m3
然后等待安装完成。
2.dify关联嵌入模型
选择dify的“设置”
选择“模型供应商”
添加模型
模型名称:bge-m3:latest
url:http://host.docker.internal:11434
点击“保存”。
在“系统模型设置”中的嵌入模型选择bge-m3:latest。注意:如果没有显示下拉则刷新流量器在来一次就显示了。
3.打造本地知识库
在dify中点击“知识库”。
3.1 创建知识库
选择本地文件
选择“下一步”。
默认设置即可,选择“保存并处理”。
3.2 使用知识库
回到应用,选择“上下文”的“添加”
选择知识库,并点击“添加”。
测试:
推荐本站淘宝优惠价购买喜欢的宝贝:
本文链接:https://hqyman.cn/post/10239.html 非本站原创文章欢迎转载,原创文章需保留本站地址!
休息一下~~