11
2025
02
ollama 跨设备访问,轻松搞定远程调用
ollama 跨设备访问,轻松搞定远程调用用 Ollama API 调用本地大模型,通过 localhost:11434 就能搞定。但是,想在其他电脑上用 IP 地址调用,可能会存在问题。网上搜了搜,要么是 Linux 环境下的设置,要么是调整 windows 环境变量。st, Windows 下也能这么操作。ollama -h 看下帮助,然后 ollama serve -h,看下帮助 window 下面可以设置 OLLAMA_HOST
作者:hqy | 分类:编程&AI | 浏览:155 | 评论:0
11
2025
02
nssm(Non-Sucking Service Manager)是一个用于在Windows系统上管理服务的工具。
nssm(Non-Sucking Service Manager)是一个用于在Windows系统上管理服务的工具。它允许你将.exe文件和.bat文件转换为Windows服务,并提供了一些功能来管理这些服务。下载和安装首先,你需要从nssm官方网站(https://nssm.cc/download)下载最新版本的nssm。解压缩下载的文件到一个方便访问的目录中,比如D:\nssm-2.24。使用nssm进入到和你电脑相对应的win32和win64的文件夹下在路径上输入cmd然后回车然后输入nss
作者:hqy | 分类:Windows&windows server | 浏览:132 | 评论:0
11
2025
02
Ollama Windows
Ollama Windows欢迎使用 Ollama for Windows。不再需要 WSL!Ollama 现在作为原生 Windows 应用程序运行,支持 NVIDIA 和 AMD Radeon GPU。 安装 Ollama for Windows 后,Ollama 将在后台运行, ollama 命令行工具将在 cmd、powershell 或你最喜欢的终端应用程序中可用。和往常一样,Ollama API 将在 http:/
作者:hqy | 分类:编程&AI | 浏览:127 | 评论:0
11
2025
02
如何投喂本地部署的 DeepSeek-R1
搭建个人 AI 知识库:利用 DeepSeek-R1 和 AnythingLLM 实现高效管理随着人工智能技术的飞速发展,越来越多的人开始探索如何利用 AI 工具提升工作效率和个人知识管理水平。在众多开源AI模型中,DeepSeek-R1 凭借其强大的本地部署能力和多功能性脱颖而出。结合 AnythingLLM 这一功能强大的文档处理工具,我们可以轻松搭建一个属于自己的个性化 AI 知识管理系统。一、什么是 DeepSeek-R1?DeepSeek-R1 是一款基于深度学习的开源 AI 模型,默
作者:hqy | 分类:编程&AI | 浏览:144 | 评论:0
11
2025
02
安装ollama并更改模型下载位置
下载ollamaollama官网:https://ollama.com/https://ollama.com/安装并验证下载完ollama.exe文件之后,点击安装,安装过程较为简单,按照提示完成即可。安装完成之后打开cmd,在终端cmd输入以下指令进行验证:ollama --version模型运行启动ollama:在cmd终端输入以下指令ollama serve查看模型列表:在cmd终端输入以下指令ollama list下载并运行本地大模型在cmd终端输入以下指令
作者:hqy | 分类:编程&AI | 浏览:161 | 评论:0
11
2025
02
JumpServer开源堡垒机安装配置
JumpServer开源堡垒机安装与配置2.1、下载2.2、安装2.3、其他一、简介二、下载与安装一、简介JumpServer 堡垒机帮助企业以更安全的方式管控和登录各种类型的资产。支持官网地址:https://www.jumpserver.org/index.htmlJumpServer 采用分层架构,分别是负载层、接入层、核心层、数据层、存储层。JumpServer 应用架构图如下:二、下载与安装2.1、下载访问官网地址下载资源:https://community.fit2cloud.com
作者:hqy | 分类:Jumpserver | 浏览:111 | 评论:0
10
2025
02
史诗级羊毛警报!腾讯云掏出671B核弹级模型白送:DeepSeek-V3/R1无限免费调用
史诗级羊毛警报!腾讯云掏出671B核弹级模型白送:DeepSeek-V3/R1无限免费调用 前言官方的 deepseek 到目前为止都不是很稳定,经常出现 "服务器繁忙,请稍后再试。" 的情况。但是 deepseek-r1 作为一个开源的模型,只要你有足够的算力,就能够自己搭建一个对话平台,无限制使用。经过我的测试,我使用的是 MacBook Pro M1 max 32G + Ollama 只能够刚刚好跑得动 deepseek-r1:32b 的模
作者:hqy | 分类:编程&AI | 浏览:122 | 评论:0
10
2025
02
请停止在本地PC笔记本上部署DeepSeek,没卵用!
请停止在本地PC笔记本上部署DeepSeek,没卵用!最近,在自媒体账号上和社群里频繁刷到一类帖子——“如何在本地笔记本上部署DeepSeek?”“RTX 3060跑DeepSeek模型实战教程!”……作为一个一直关注AI和相关工具的半瓶水码农,我必须泼一盆冷水:醒醒!普通PC笔记本部署DeepSeek,除了满足你的“技术虚荣心”,真的毫无意义!为什么?往下看!1. 你的笔记本,根本扛不住AI算力的压榨你以为部署大模型就像安装Office一样简单?天真了!以DeepSeek这类千亿参数级的模型为
作者:hqy | 分类:编程&AI | 浏览:128 | 评论:0
10
2025
02
windows远程桌面打开rdp显卡调用
前情提要服务器在公网环境,带宽只有30M。远程桌面多开图形业务调试,设置RDP服务端使用GPU。压缩传输带宽避免造成卡顿。如果是内网,也可以用,还可以提供一个注册表键值,修改后提高fps帧率(公网不推荐)配置要点【菜单键+R】打开运行,输入gpedit.msc回车即可打开本地组策略编辑器。以下配置均在组策略中修改,请定位到【计算机配置】->【管理模板】->【Windows组件】->【远程桌面服务】->【远程桌面会话主机】具体配置如下:1、【连接】中,把【选择RDP传输协议
作者:hqy | 分类:Windows&windows server | 浏览:182 | 评论:0
10
2025
02
直通RTX8000显卡,vnc连接双屏画面
软件:Esxi6.7u2QUADRO DESKTOP/QUADRO NOTEBOOK DRIVER RELEASE 452.57Windows 10 1803Passthrough 一个quadro卡 给vm使用在VMware esxi 平台或者citrix XEN 平台,是很多用户的应用场景,并且这也是官方支持的部署方式。VM 可以用这个卡进行图形渲染工作或者科学计算,但是很多客户会遇到以下问题。1. V
作者:hqy | 分类:虚拟化&超融合 | 浏览:130 | 评论:0
10
2025
02
TightVNC for Windows: Server Command-Line Options
TightVNC for Windows: Server Command-Line OptionsTightVNC Version 2.7 TightVNC服务器可以完全通过命令行配置、启动或停止。用户界面中的所有设置又可以通过下面列出的CLI选项进行修改。另外,命令行界面使的只共享或显示一个特定的窗口成为可能,而不是显示整个桌面。 如何通过命令行界面执行命令命令行选项被tvnserver.exe文件接受,这个文件的默认路径为"C:\Program Files\Ti
作者:hqy | 分类:技术文章 | 浏览:139 | 评论:0
09
2025
02
CUDA Unity Compute Shader Preface
开始一个新的学习计划,涵盖:主题学习内容CUDAProfessional CUDA C Programming/NVIDIA CUDA初级教程视频(周斌)C++C++Primer / The Cherno CPP(C++ Primer已经能提供足够充分的入门知识)Unity Compute ShaderUdemy Learn to Write Unity Compute ShadersLinear AlgebraMIT 18.06 Prof.Gilbert Strang Linear
作者:hqy | 分类:技术文章 | 浏览:144 | 评论:0
09
2025
02
cuda在windows10安装教程
CUDA安装教程,以Windows10系统为例:CUDA.exe安装查看电脑的支持的CUDA版本,按照如下教程:首先找到这个图标,也就是nvidia控制面板,然后打开:然后点击左下角系统信息再点击“组件”,查看NVCUDA64.DLL的CUDA支持版本,在这我们支持CUDA 11.2版本。再到官网下载CUDA对应的版本。官网链接如下https://developer.nvidia.com/cuda-toolkit-archive选择对应系统的版本,最后点击下载即可下载完成后在浏览器下载目录下存在
作者:hqy | 分类:技术文章 | 浏览:129 | 评论:0
09
2025
02
【CUDA】windows下的CUDA安装
一、前言windows10 下安装 CUDA ,首先需要下载两个包:CUDA toolkit(工具包)cuDNN注:cuDNN 是用于配置深度学习使用官方安装教程:CUDA安装教程cuDNN配置教程二、安装前的准备电脑环境检查打开英伟达显卡控制面板,找到“系统信息”查看具体支持的CUDA版本,如下图,我的驱动支持CUDA版本为12.0或者通过cmd,输入nvidia-smi也可以查看自己的驱动版本和支持的CUDA版本,如下图下载 CUDA toolkitCUDA toolkit下载地址,依据上边
作者:hqy | 分类:技术文章 | 浏览:180 | 评论:0
09
2025
02
Windows系统CUDA_nvprof/ncu/nsys性能分析学习笔记
一. nvcc1. 报错: nvcc fatal : Cannot find compiler 'cl.exe' in PATH因为没有识别到VS的路径导致报错,将C:\Program Files (x86)\Microsoft Visual Studio\2017\Professional\VC\Tools\MSVC\14.16.27023\bin\Hostx64\x64添加到高级系统设置---环境变量中,然后重启电脑即可。一定要重启。2. 管理员身份运行cmd&nb
作者:hqy | 分类:技术文章 | 浏览:140 | 评论:0
09
2025
02
【cuda】Visual Studio中进行CUDA程序的性能评估
在Visual Studio中使用Nsight进行CUDA应用程序的性能评估可以按照以下步骤进行:步骤 1: 准备工作确保已经安装了以下组件:最新版本的NVIDIA驱动。NVIDIA Nsight Visual Studio Edition(通常与CUDA Toolkit一起安装)。Microsoft Visual Studio。步骤 2: 打开项目打开Visual Studio。选择“文件”>“打开”>“项目/解决方案”,然后打开您的CUDA项目。步骤 3: 配置Nsight监视器
作者:hqy | 分类:技术文章 | 浏览:165 | 评论:0
09
2025
02
nvidia-smi命令详解
nvidia-smi(NVIDIA System Management Interface)是一种命令行实用程序,用于监控和管理 NVIDIA GPU(图形处理器)的状态和性能。它提供了一种简单而强大的方式来获取有关 GPU 的实时信息,并且可以用于诊断、优化和管理 GPU 资源。详细的信息可以去手册中查找:man nvidia-smi在大多数情况下,nvidia-smi 是与 NVIDIA GPU 驱动程序一起安装的,当安装 NVIDIA GPU 驱动程序时,nvidia-smi 工具通常会自
作者:hqy | 分类:技术文章 | 浏览:241 | 评论:0
09
2025
02
如何在Windows系统上检查和安装CUDA
如何在Windows系统上检查和安装CUDA前言CUDA(Compute Unified Device Architecture)是由NVIDIA推出的一种并行计算平台和编程模型,它利用GPU的强大计算能力来加速计算密集型任务。在本文中,我们将介绍如何在Windows系统上检查是否已安装CUDA,并提供安装CUDA的详细步骤。1. 检查是否已安装CUDA1.1 使用命令提示符检查CUDA首先,打开命令提示符。你可以按 Win + R 键,输入 cmd,然后按回车键。
作者:hqy | 分类:技术文章 | 浏览:169 | 评论:0
09
2025
02
win10下通过nvidia-smi查看GPU使用情况
1. 查看NVIDIA的GPU基本情况可以直接在任务管理器里看一下这个信息,我本机的GPU型号是:NVIDIA GeForce GTX 1650Cuda版本是cuda_11.0,可以在命令行输入:nvcc --version2. 查看使用情况参考:windows10下nvidia-smi查看GPU占用率网上大部分都说:nvidia-smi.exe这个软件的位置是在:C:\Program Files\NVIDIA Corporation\NVSMI但是真的不好意思,我这个最新版的cuda
作者:hqy | 分类:技术文章 | 浏览:190 | 评论:0
09
2025
02
windows系统使用nvidia-smi命令办法
参考:https://blog.csdn.net/Castlehe/article/details/114978005老版本的cuda,nvidia-sim.exe这个软件是位于:C:\Program Files\NVIDIA Corporation\NVSMI新版本的cuda(比如cuda11.0),nvidia-sim.exe这个软件是位于:C:\Windows\System32\DriverStore\FileRepository\nvdm*\nvidia-smi.exe 这里nvdm*表
作者:hqy | 分类:技术文章 | 浏览:181 | 评论:0