07
2025
04
Ollama:Ollama 引入JSON schema结构化输出功能
结构化输出一直是AI应用开发中一个很麻烦的问题,业内也有很多实践方法来解决问题,OpenAI在之前的更新中也专门针对这一问题进行优化。Ollama 近日就此问题推出重要更新(0.5.0+),引入与OpenAI一样的结构化输出(Structured Outputs)功能,让开发者能够通过 JSON schema 精确定义和约束模型输出格式。该功能已在 Ollama 的 Python 和 JavaScript 库中得到全面支持。1. 主要更新及支持实现本次更新的核心亮点包括:基于
作者:hqy | 分类:编程&AI | 浏览:73 | 评论:0
07
2025
04
史上最简单Conda+Ollama+Open-Webui安装方法!
史上最简单Conda+Ollama+Open-Webui安装方法一、安装Anaconda1、到Anaconda官网下载conda_24.10.1链接:https://repo.anaconda.com/archive/Anaconda3-2024.10-1-Windows-x86_64.exe2.双击安装包,开始安装选择All Users切记安装路径不要选C盘!!!3.配置系统变量二、测试conda1、按下win+r打开运行框,输入cmd,回车2、在命令提示符中输入conda3、自动显示:4、输
作者:hqy | 分类:编程&AI | 浏览:83 | 评论:0
07
2025
04
如何更新已安装的Open WebUI?
以下是更新已安装的Open WebUI的分步指南,根据不同的安装方式提供针对性方案:《对于一个新手来说,这个天大的难题,毕竟对于docker不是很熟悉,为此在所谓的技术博客找了一天,不是收费,就是讲不明白。在B站上没有人讲这个基础的东西,对于程序员来讲这个都是很小的事情。自然没人回去讲。今天我就把这个分享个大家,希望对小白同学有帮助。》一、Docker部署环境更新1. 数据备份(必须)# 备份配置文件docker cp openwebui:/app/config.yaml ./config_ba
作者:hqy | 分类:编程&AI | 浏览:73 | 评论:0
07
2025
04
【报错】Couldn‘t find ffmpeg or avconv - defaulting to ffmpeg, but may not work warn(“Couldn‘t find ff
这个警告是 pydub 库在尝试使用 FFmpeg 或 avconv 时发出的,它表明程序在查找 FFmpeg 或 avconv 时未找到这两个工具。因此,警告提示默认会使用 FFmpeg,但是可能会无法正常工作。为什么会有这个警告?pydub 需要依赖 FFmpeg 或 avconv 来进行音频文件格式转换、音频剪辑等操作。即使你在代码
作者:hqy | 分类:编程&AI | 浏览:75 | 评论:0
07
2025
04
【AI】【本地部署】OpenWebUI的升级并移植旧有用户信息
【背景】OpenWebUI的版本升级频率很高,并会修改旧版本的Bug,不过对于已经在使用的系统,升级后现有用户信息都会丢失,于是研究如何在升级后将现有的用户信息移植到升级后版本。【准备工作】OpenWebUI的升级步骤在Docker中有现有命令,但是对于直接在真机环境中安装的情况,基本也就是按照新安装的方法去做。先卸载Ollama,再下载最新Ollama后安装。python环境安装最新openwebui包,再用npm命令安装前端界面。这些步骤都可以参看我关于webui部署的文章。重点来看一下,安
作者:hqy | 分类:编程&AI | 浏览:72 | 评论:0
07
2025
04
pip安装报错:ERROR: Could not install packages due to an OSError: Missing dependencies for SOCKS support
Windows系统使用pip安装报错:ERROR: Could not install packages due to an OSError: Missing dependencies for SOCKS support问题现象 解决方式 关闭代理问题现象解决方式打开“网络和Internet设置”——“代理”,关闭代理。
作者:hqy | 分类:编程&AI | 浏览:67 | 评论:0
07
2025
04
open-webui 升级
open-webui 升级要升级 OpenWebui,你需要遵循一些基本的步骤来确保你的系统能够顺利升级到最新版本。OpenWebui 是一个开源项目,通常通过其官方仓库或通过包管理器(如pip、apt等)进行更新。下面是一些常见的升级方法:1. 通过pip更新如果你的OpenWebui是通过pip安装的,你可以使用以下命令来更新:pip install --upgrade openwebui2. 通过GitHub更新如果你直接从GitHub克隆了OpenWebui的代码,你应该更新到最新的版本
作者:hqy | 分类:编程&AI | 浏览:60 | 评论:0
07
2025
04
在linux服务器本地部署Deepseek及在mac远程web-ui访问的操作
文章介绍了在Linux服务器上部署和使用DeepSeek模型的步骤,包括安装Ollama、下载和运行模型,以及在Linux服务器上配置Ollama服务以实现远程访问,接着,文章介绍了在Mac上安装WebUI工具OpenWebUI,以便更方便地与远程Linux服务器上的DeepSeek模型进行交互1. 在Linux服务器上部署DeepSeek模型要在 Linux 上通过 Ollama 安装和使用模型,您可以按照以下步骤进行操作:步骤 1:安装 Ollama安装 Ollama:使用以下命令安装 Ol
作者:hqy | 分类:编程&AI | 浏览:169 | 评论:0
03
2025
04
易语言注册机全套教程(小白课程)
花高价买了给大家分享吧。 2021年的哦。新版的4.5G干货课程内容包含:【一】基本环境配置【二】安卓逆向MD5类加密实战【三】脱壳【四】静态分析【五】基本工具内容如图:
作者:hqy | 分类:编程&AI | 浏览:90 | 评论:0
03
2025
04
易语言零基础课全套教学(易语言零基础课程)
易语言零基础课全套教学(易语言零基础课程) 摘要:易语言是一门以中文作为程序代码编程语言。易语言早期版本的名字为E语言。其最早的版本的发布可追溯至2000年9月11日。创造易语言的初衷是进行用中文来编写程序的实践,方便国人以汉语的思维编写程序,并不用再去学西方思维。此版本课程内容是专门针对没有学过易语言编程的新手学员的,本版本教程是以零基础开始教学,详细通俗讲解主要讲解易语言编程基础各方面的基础知识点,可以让新手快速的掌握易语言编程。课程目录:(如图)
作者:hqy | 分类:编程&AI | 浏览:74 | 评论:0
03
2025
04
新C语言开发启示录(C++开发全解+PPT+课程+作业+笔记)
新C语言开发启示录课程,包含:C语言开发全解+PPT+课程+作业+笔记摘要:全新C语言开发精华启示录课程是关于C语言的一次新的阐释,适合正在寻求C语言开发入门和相关的技术工程师们学。本课程对C开发过程中的很多个细节都进行了细致的教学与讲解,除了视频课程的安排以外还有课程学的PPT、课程、作业、笔记,这样能够快速的在课程掌握课程中的教学内容,极大的提高学的效率,也能够最大程度的保留同学们的学兴趣,初期学的兴趣培养也是至关重要的。课程目录:1、C语言入门到精通第01课;目录中文件数:7个
作者:hqy | 分类:编程&AI | 浏览:80 | 评论:0
03
2025
04
全套C语言/C++/C#深入剖析教程
全套C语言深入剖析视频教程“你真的深入了解C语言吗?”,一年以前,唐老师伴随部分同学走过了深入学C语言的365个日夜,经典的《全套C语言深入剖析vip培训班》视频让众多同学真正的掌握了C语言的精髓。整套课程采用理论讲解,实例分析,手把手指导代码编写等多种方式,全方位地为你扫除学中的各个盲区!现在分享给大家免费学获取地址:
作者:hqy | 分类:编程&AI | 浏览:92 | 评论:0
02
2025
04
免费白嫖 Deepseek R1 满血版
DeepSeek满血版上线浙江大学推出“浙大先生”智能体平台,本地化部署DeepSeek V3/R1满血版大模型,基于CARSI资源共享向全国829所高校师生免费开放,覆盖教学、科研、生活全场景。平台依托“西湖之光”千亿级算力联盟,实现毫秒级响应,彻底解决传统AI工具卡顿问题,支持AI生图、视频生成、音乐创作及科研文献分析、作业自动批改(CCAD)、心理咨询(VODD)等20余项功能。通过零门槛接入与低代码开发环境,师生可快速创建智能体并接入教务、科研数据库,享受AI科学家、智能问答等高阶工具。
作者:hqy | 分类:编程&AI | 浏览:157 | 评论:0
01
2025
04
比 Ollama 更简单的方式部署 DeepSeek-R1 模型
本文使用 llama.cpp 本地部署 DeepSeek-R1 模型。llama.cpp 介绍使用纯 C/C++推理 Meta 的LLaMA模型(及其他模型)。主要目标llama.cpp是在各种硬件(本地和云端)上以最少的设置和最先进的性能实现 LLM 推理。纯 C/C++ 实现,无任何依赖项Apple 芯片是一流的——通过 ARM NEON、Accelerate 和 Metal 框架进行了优化AVX、AVX2、AVX512 和 AMX 支持 x86 架构1.5 位、2 位、3 位、4 位、5
作者:hqy | 分类:编程&AI | 浏览:150 | 评论:0
01
2025
04
私有化部署 DeepSeek-R1?看这篇文章就够了!
高性能应用服务(Hyper Application Inventor,HAI)是一款面向 AI 、科学计算的 GPU 应用服务产品,提供即插即用的澎湃算力与常见环境,助力中小企业及开发者快速部署 LLM。地址:腾讯云 HAI vs GPU 服务器大幅降低GPU云服务器使用门槛,多角度优化产品使用体验,开箱即用,如下图:选择基础环境“Ubuntu 20.04”镜像,环境配置:Ubuntu 20.04, Driver 525.105.17, Python 3.8, CUDA 12.0, cuDNN
作者:hqy | 分类:编程&AI | 浏览:117 | 评论:0
01
2025
04
使用 vLLM 生产环境部署 DeepSeek,算力减半、吞吐增十倍!
需求:之前使用 Ollama 部署过 deepseek-r1:32b 模型,非常方便快捷,适合个人快速部署使用。如果作为企业生产环境应该使用什么方式部署呢?一般都采用 vllm、sglang 进行部署,本文是用 vLLM 部署 DeepSeek-R1模型。Ollama 和 vLLM 对比区别如下:对比维度OllamavLLM核心定位轻量级本地化工具,适合个人开发者和小规模实验生产级推理框架,专注高并发、低延迟的企业级场景硬件要求支持 CPU 和 GPU,低显存占用(默认使用量化模型)必须依赖 N
作者:hqy | 分类:编程&AI | 浏览:186 | 评论:0
26
2025
03
【Mirror Networking】文档学习笔记
1. Mirorr 的分层结构2. 组件生命周期3. Tranport 支持提供的不同 Low Level TransportKCP: reliable UDPLiteNetLib: UDPUNET LLAPI: UDP。实测丢包率高Ignorance: ENET UDPLibuv: Node.js networking backendTelepathy: cross platform TCPSimple Websockets: WebsocketsFizzySteam: SteamNetwor
作者:hqy | 分类:编程&AI | 浏览:68 | 评论:0
25
2025
03
ubuntu搭建ollama大模型
一、环境要求:二、安装ollama:1.下载并执行安装脚本curl -fsSL https://ollama.com/install.sh | sh2.设置默认端口echo export OLLAMA_HOST="0.0.0.0:11434">>~/.bashrc3.设置模型默认下载地址echo export OLLAMA_MODELS=/root/ollama/models>>~/.bashrc4.查看设置情况cat ~/.bashrc5.激活配置s
作者:hqy | 分类:编程&AI | 浏览:81 | 评论:0
25
2025
03
ubuntu搭建ollama大模型
一、环境要求:二、安装ollama:1.下载并执行安装脚本curl -fsSL https://ollama.com/install.sh | sh2.设置默认端口echo export OLLAMA_HOST="0.0.0.0:11434">>~/.bashrc3.设置模型默认下载地址echo export OLLAMA_MODELS=/root/ollama/models>>~/.bashrc4.查看设置情况cat ~/.bashrc5.激活配置s
作者:hqy | 分类:编程&AI | 浏览:92 | 评论:0
25
2025
03
DeepSeek最简单搭建方法(win版本)
1.下载ollmaOllama 是一个开源的大型语言模型(LLM)本地化部署框架,旨在简化用户在本地运行和管理大模型的流程。https://ollama.com/download2.安装ollma这里安装就和普通软件安装一样,直接双击exe文件即可,安装完成以后打开命令提示符如下图说明安装成功。3.下载&运行模型这里有很多模型可选,不同的模型对配置的要求是不一样的,纯cpu或者只是体验功能可以选择1.5b,下图是DeepSeek模型的推荐配置。本次演示的服务器:CPU:I5 8400;内
作者:hqy | 分类:编程&AI | 浏览:68 | 评论:0