25
2025
03
告别复杂配置!轻松使用VLLM部署大模型
目录环境准备配置步骤一、配置 GPU 云服务器二、安装 conda三、显卡驱动安装四、vllm 安装五、大模型下载与运行客户端调用测试环境准备1. anaconda2. python 环境3. VLLM(注:只可运行在Linux系统中)4. 云服务器或本地物理服务器;(本文以云服务器部署为例)配置步骤一、配置 GPU 云服务器1.购买云服务器 GPU 计算型根据实际需要选择等待实例初始化2.在本地电脑使用 ssh 连接服务器这里我使用私钥进行连接二、安装
作者:hqy | 分类:编程&AI | 浏览:20 | 评论:0
25
2025
03
用大模型下载了全部肯尼迪解密档案,附所有PDF打包下载
提到「脑洞大开」,大家首先会想到什么?没错,就是那个坐着敞篷车被开脑洞的美国总统,肯尼迪。川普在竞选的时候,就说过如果当选,就会公开肯尼迪被刺杀的档案。至于为啥要公开肯尼迪被刺杀的档案,咱也不敢妄下结论,下面是DeepSeek分析的原因:不过川普果然没有食言,就在3.18,川普公布了2000+份肯尼迪解密档案。好家伙,先不说能不能看懂,这要手动下载,那得把鼠标点冒烟吧。。。为了解决这个问题,我用Coze+DeepSeek自动获取了所有的档案链接,并一键下载。下面来介绍一下操作过程。同时我也将下载
作者:hqy | 分类:编程&AI | 浏览:21 | 评论:0
25
2025
03
用 DeepSeek 狂赚 3.3 亿!这款神器可以做到
“00 后用 DeepSeek 直播 1 天卖出 3.3 亿” 的消息刷爆了微博热搜,第一批用 DeepSeek 的人已经赚到第一桶金。今天必须跟大家分享一个我在 GitHub 上发现极具变现潜力的 AI 开源工具,它不需要复杂的提示词技巧,只需简单几步,就能批量生成优质短视频。放在以前,想要快速批量生产优质内容吸引流量,往往需要花费大量时间,如撰写剧本、寻找配图、制作配音、添加字幕等等,一系列工作不仅耗时,还对技术有一定要求。这个 AI 工具就是:Story-Flicks,它巧妙地结合了大语言
作者:hqy | 分类:编程&AI | 浏览:22 | 评论:0
25
2025
03
听说你还在鼠标点点点?这款浏览器神器早就实现全自动化!
浏览器已经成为日常工作的主要工具,但经常需要重复相同的操作:定时查看特定网页、填写相似表单、提取网站数据……这些琐碎任务不仅消耗时间,还容易因疲劳而出错。虽然已经有不少自动化解决方案,但大多数要么价格不菲,要么需要掌握复杂的编程技能,让普通技术小白望而却步。近日,在 GitHub 上发现了 Automa 这款开源工具,它以可视化拖拽的方式彻底改变了浏览器自动化的体验。无需编写代码,只需简单连接功能模块,就能构建强大的自动化工作流,真正做到 "人人可用" 的
作者:hqy | 分类:编程&AI | 浏览:16 | 评论:0
25
2025
03
一分钟了解DeepSeek R1满血版的“小缺点” 在多模态方面存在“短板”,这个也跟DeepSeek的产品定位有关,用户需要通过DeepSeek+其他大模型实现ppt、绘图、视频生成等工作
随着DeepSeek R1满血版在各行业各细分场景下逐步落地,大家关注点也逐步从硬件选型、场景匹配转移到了性能调优和实操细节上了。DeepSeek R1满血版作为当红“明星”优势大家可能都比较清楚了,我们再回顾一下游戏科学冯骥的评价,到目前看绝对称得上是“国运级别的科技成果”。强大:DeepSeek的推理能力与国际顶尖模型如o1不相上下。便宜:其训练成本仅为550万美元(官方),远低于其他顶尖大模型。开源:DeepSeek是开源的,这在中国AI领域是破天荒的创举,对闭源模型形成了显著
作者:hqy | 分类:编程&AI | 浏览:20 | 评论:0
21
2025
03
open-webui知识库上传报错问题修改
遇到知识库上传文档失败,各种报错,然后网络搜索,好多解决方案都是收费的,也看不到也不知道行不行。最终找到2个靠谱的,试着修复了下,居然成功了。特此留档记录,防止忘记。1. 使用ollama下载向量化工具nomic-embed-textUbuntu环境下,命令行输入ollama pull nomic-embed-textopen-webui管理员面板,进入“设置”栏找到“模型”选项,并点击右上角的设置图标进行模型设置,把deepseek和刚下载的nomicembed-text排序在前,并
作者:hqy | 分类:编程&AI | 浏览:51 | 评论:0
21
2025
03
open-webui 知识库应用
open-webui 创建知识库后,想要引用知识库的内容,方法11、使用用#号,把知识库发送给deepseek。2、再次问答,deepseek会检索发送的内容,参与问题方法21、打开管理员面板设置栏,找到使用的“模型”选项,点击编辑2、找到知识库选项,选择需要deepseek使用的知识库,然后保存3、再次使用回话,不需要发送知识库文档,deepseek自动使用知识库的内容,参与问答。
作者:hqy | 分类:编程&AI | 浏览:38 | 评论:0
21
2025
03
Ollama离线安装的一种方法Ubuntu环境
前面我们已经本地部署了open webui,现在我们来安装ollama;安装的过程中发现一些问题。网上各种搜索最终解决了,现在把这个过程整理下。在线安装Ollama 官方网站提供了Linux 平台安装指南,打开终端,执行以下命令下载安装脚本:curl -fsSL https://ollama.com/ollama_install.sh | sh离线安装由于网络原因经常下载失败,通过在curl 命令中添加 -v 参数,我们发现 Ollama 安装过程中需要从 github下载数据:cur
作者:hqy | 分类:编程&AI | 浏览:72 | 评论:0
21
2025
03
Open-WebUI Ubuntu环境下的开发部署及自定义登录(下)
前一篇已经大致安装部署本地的open-webui的基础环境了,我们使用deepseek过程中,可能涉及到与已有系统的账号统一登录的情况。官方文档有一些关于如何对接的文档,稍显复杂,一时半会不太能掌握,自己就试着做一点简单的修改,实现一键登录需求。大致思如如下:A系统有test@email.com 的账号,在A系统页面增加一个按钮,自动登录到B系统;B(open-webui)系统,前端通过url传递参数,然后提交到B系统后端;B系统后端校验参数,识别到系统也存在test@email.com的账号,
作者:hqy | 分类:编程&AI | 浏览:34 | 评论:0
21
2025
03
Open-WebUI Ubuntu环境下的开发部署及自定义登录(上)
最近deepseek比较火热,大部分使用的是Ollama+Open-Webui的方式使用DeepSeek;在使用过程中,Open-Webui可能会有一些个性化修改的需求。自己成功部署了Open-WebUI,并进行了部分改动,特此记录下整个过程供大家参考前提条件在安装 Open-WebUI 之前,请确保您的系统满足以下要求:Python 3.11+Node.js 20.14+Git至少 4GB 内存足够的磁盘空间(推荐50GB 以上)开发环境部署本人使用ubuntu-18.04.6-live-se
作者:hqy | 分类:编程&AI | 浏览:46 | 评论:0
21
2025
03
如何本地部署SearxNG?
环境:SearxNGWSL2docker v 25问题描述:如何本地部署SearxNG?解决方案:SearxNG 是一个自由、开源的元搜索引擎,它聚合了多个搜索服务提供商的结果,以提供更全面和私密的搜索体验。SearxNG 的主要特点包括:
隐私保护:SearxNG 不会追踪用户或收集个人数据。
无偏见结果:通过从多个来源获取结果,避免了单一引擎可能存在的偏向性。
作者:hqy | 分类:编程&AI | 浏览:38 | 评论:0
21
2025
03
部署SearXNG并且把集成搜狗微信这件事
一、什么是SearXNGSearXNG 是一个免费的互联网元搜索引擎,它来自各种搜索服务和数据库的结果。用户既不被跟踪,也不会被分析。其中NG意味next generation,表示下一代,听说是项目组内部对SearX未来发展意见不合而产生的分支简单来说,SearXNG是一个同时集成了Google、Yahoo、Bilibili甚至Pivix等各式各样的搜索引擎的搜索引擎(哈哈),并且不会被收集用户数据,以达到阻止个性化推荐这样的服务。如果你是一个注重隐私保护的用户,用用searxng也
作者:hqy | 分类:编程&AI | 浏览:52 | 评论:0
21
2025
03
searxng Installation Script
https://docs.searxng.org/admin/installation-scripts.html Installation ScriptUpdate the OS first!To avoid unwanted side effects, update your OS before installing SearXNG.The following will install a setup as shown in the reference architecture. F
作者:hqy | 分类:编程&AI | 浏览:43 | 评论:0
21
2025
03
SearXNG maintenance
https://docs.searxng.org/admin/update-searxng.html How to updateHow to inspect & debugMigrate and stay tuned!remove obsolete servicesCheck after InstallationHow to updateHow to update depends on the Installation method. If you have used
作者:hqy | 分类:编程&AI | 浏览:35 | 评论:0
21
2025
03
[原创]openwebui解决searxng通过接口请求不成功问题
openwebui 对接 searxng 时 无法查询到联网信息,使用bing搜索,每次返回json是正常的神秘代码:http://172.30.254.200:8080/search?q=北京市天气&format=json&language=zh&time_range=&safesearch=0&language=zh&locale=zh-Hans-CN&autocomplete=&favicon_resolv
作者:hqy | 分类:编程&AI | 浏览:41 | 评论:0
21
2025
03
Open WebUI的SearXNG网络搜索配置【403报错解决方法】
1.拉取SearXNG镜像docker pull searxng/searxng2.在Docker Desktop的Images界面中启动searxng容器3.查看searxng是否部署成功在Docker Desktop的Containers界面中,查看searxgn暴露的端口。http://localhost:31292/4.修改settings.yml配置参数在Docker Desktop的Containers界面的Name列中,单击searxgn标题,进入searxgn容器界面。点击&nb
作者:hqy | 分类:编程&AI | 浏览:37 | 评论:0
21
2025
03
DeepSeek R1+Open WebUI +SearXNG 本地化部署与联网功能
http://172.30.254.200:8080/search?q=<query> GitHub - searxng/searxng-docker: The docker-compose files for setting up a SearXNG instance with docker.
作者:hqy | 分类:编程&AI | 浏览:37 | 评论:0
21
2025
03
open-webui使用searXNG插件连接自定义的联网搜索服务程序
项目背景因为国内无法访问内置的一些免费搜索插件,安装完searXNG本地服务端后根据教程中连接始终无法连接,docker方案国内也无法使用的情况下,本地使用python写一个Flask服务程序使用爬虫技术提供联网搜索数据。下面是实现代码 V1#!/usr/bin/python3
# _*_ coding: utf-8 _*_
#
# Copyright (C) 2025 - 2025 &nb
作者:hqy | 分类:编程&AI | 浏览:37 | 评论:0
21
2025
03
DeepSeek私有化部署
在腾讯云服务器上尝试部署DeepSeek蒸馏版,服务器配置8核32G内存,用Docker部署Ollama、Open-Webui、Searxng、AnythingLLM。这些都是什么东西呢?我一个个来解释下,首先在Ollama容器内部署蒸馏版deepseek-r1:1.5b,就是说deepseek是运行在ollama环境中,deepseek有两个版本r1和v3,分别代表深度思考模型和日常通用模型。而我们常用1.5b、7b分别代表15亿个参数和70亿个参数的模型,当然越大对服务器要求越高,能力越强。
作者:hqy | 分类:编程&AI | 浏览:41 | 评论:0
21
2025
03
DeepSeek联网搜索(OpenWebUI+SearXng本地搜索引擎联网搜索)
联网搜索配置戳我访问OpenWebUI文档一、SearXng本地搜索引擎(推荐,Docker本地部署搜索引擎)1、创建配置文件创建目录searxng/searxngmkdir -p /searxng/searxng
cd /searxng/searxng1)新建文件 settings.yml 文件。戳我访问默认的 settings.yml。根据你的需求主要改动如下:特别注意:必须修改 formats 字段,在 formats 字段下,一定要添加
作者:hqy | 分类:编程&AI | 浏览:41 | 评论:0