置顶 技术文章
为公司省钱往往省不到自己身上
hqy 发表于2023-03-24 浏览6005 评论1

编程&AI
【AI大模型】本地部署Ollama+翻译服务
hqy 发表于2025-02-15 浏览166 评论0
【AI大模型】本地部署Ollama+翻译服务还在因为Google翻译经常死机而感到烦恼吗,还在因为一些软件大段文字翻译拉垮而感到烦躁吗,还在因为一些ai翻译服务付费而感到无力吗!非常浮夸的开头hhh这些天的deepseek杀疯了,到处都是关于deepseek的新闻。deepseek全网参与度如此之高,有一个很大的原因就是他开源了从1.5B-671B的各种大小的量化蒸馏模型,掀起了一阵本地部署大模型的浪潮。(谁不想要一个自己的贾维斯呢~)(虽然现在本地模型离贾维斯还挺远的)这篇文章就是记录一下我的

编程&AI
【AI大模型】Open-WebUI本地大模型+联网搜索部署
hqy 发表于2025-02-15 浏览346 评论0
【AI大模型】Open-WebUI本地大模型+联网搜索部署上篇记录的是ollama本地部署大模型实现翻译的简易版攻略,用的ollama的后台,然后加上自己攒出来的ui界面实现。上篇链接如下https://hqyman.cn/post/9066.html这篇记录一下一个非常强大的开源工具Open-webui的部署,通过这个开源软件实现和本地大模型的对话,进一步的还会提到如何设置本地知识库,以及如何设置联网搜索功能。Open-webui简介Open-WebUI是一个可扩展、功能丰富且用户友好