置顶 技术文章
为公司省钱往往省不到自己身上
hqy 发表于2023-03-24 浏览6000 评论1

编程&AI
Ubuntu系统下部署大语言模型:Ollama和OpenWebUI实现各大模型的人工智能自由
hqy 发表于2025-02-11 浏览154 评论0
在window下安装过 Ollama和OpenWebUI搭建本地的人工智能web项目(可以看我之前写的文章),无奈电脑硬件配置太低,用qwen32b就很卡,卡出PPT了,于是又找了一台机器安装linux系统,在linux系统下测试一下速度能否可以快一些。系统硬件介绍Ubuntu 22.04.4 LTSCPU: i5-10400F内存:32G硬盘: 512G SSD显卡: NVIDIA GeForce GTX 1060 6GB内网IP: 192.168.1.21下载 Ollama访问下载: htt

编程&AI
ollama+open-webui,本地部署自己的大模型
hqy 发表于2025-02-11 浏览257 评论0
ollama+open-webui,本地部署自己的大模型版权目录一、效果预览二、部署ollama1.ollama说明2.安装流程2.1 windows系统2.1.1下载安装包2.1.2验证安装结果2.1.3设置模型文件保存地址2.1.4拉取大模型镜像2.2linux系统2.2.1下载并安装ollama2.2.2设置环境变量2.2.3拉取模型文件三、部署open-webui1.open-webui介绍2.安装流程2.1windows2.1.1下载源码2.1.2用pycharm新建一个虚拟环境?编辑

技术文章
FileTypesMan – 管理系统文件关联
hqy 发表于2025-02-11 浏览139 评论0
对于下载了一个 Zip 压缩包之后,运行它,老是跳出确认运行的对话框非常烦恼吧?本来是可以在资源管理器,工具-文件夹选项,文件类型选项卡里面修改的。update:Crend King 留言关于安全的那个,可以用组策略禁掉:用户设置 -> 管理模板 -> Windows 组件 -> 附件管理器 -> 中安全级文件类型列表 -> 启用,列表填 .exe。如果想同时禁用 msi,就写 .exe;.msi有了 FileTypesMan,上面的问题迎刃而解。只需如下
编程&AI
ollama配置允许外网访问
hqy 发表于2025-02-11 浏览277 评论0
linux系统 ollama默认只能localhost访问 如果需要允许外网访问,需要修改环境变量 vi /etc/profile 在文件底部加入 export OLLAMA_HOST=0.0.0.0:11434 保存&nb

编程&AI
ollama搭建本地ai大模型并应用调用
hqy 发表于2025-02-11 浏览120 评论0
1、下载ollama1)https://ollama.com 进入网址,点击download下载2)下载后直接安装即可。2、启动配置模型默认是启动cmd窗口直接输入1 ollama run llama3启动llama3大模型 或者启动千问大模型1 ollama run qwen2启动输入你需要输入的问题即可 3、配置UI界面安装docker并部署web操作界面1 docker run&n
编程&AI
ollama 跨设备访问,轻松搞定远程调用
hqy 发表于2025-02-11 浏览169 评论0
ollama 跨设备访问,轻松搞定远程调用用 Ollama API 调用本地大模型,通过 localhost:11434 就能搞定。但是,想在其他电脑上用 IP 地址调用,可能会存在问题。网上搜了搜,要么是 Linux 环境下的设置,要么是调整 windows 环境变量。st, Windows 下也能这么操作。ollama -h 看下帮助,然后 ollama serve -h,看下帮助 window 下面可以设置 OLLAMA_HOST

Windows&windows server
nssm(Non-Sucking Service Manager)是一个用于在Windows系统上管理服务的工具。
hqy 发表于2025-02-11 浏览144 评论0
nssm(Non-Sucking Service Manager)是一个用于在Windows系统上管理服务的工具。它允许你将.exe文件和.bat文件转换为Windows服务,并提供了一些功能来管理这些服务。下载和安装首先,你需要从nssm官方网站(https://nssm.cc/download)下载最新版本的nssm。解压缩下载的文件到一个方便访问的目录中,比如D:\nssm-2.24。使用nssm进入到和你电脑相对应的win32和win64的文件夹下在路径上输入cmd然后回车然后输入nss
编程&AI
Ollama Windows
hqy 发表于2025-02-11 浏览138 评论0
Ollama Windows欢迎使用 Ollama for Windows。不再需要 WSL!Ollama 现在作为原生 Windows 应用程序运行,支持 NVIDIA 和 AMD Radeon GPU。 安装 Ollama for Windows 后,Ollama 将在后台运行, ollama 命令行工具将在 cmd、powershell 或你最喜欢的终端应用程序中可用。和往常一样,Ollama API 将在 http:/
编程&AI
如何投喂本地部署的 DeepSeek-R1
hqy 发表于2025-02-11 浏览150 评论0
搭建个人 AI 知识库:利用 DeepSeek-R1 和 AnythingLLM 实现高效管理随着人工智能技术的飞速发展,越来越多的人开始探索如何利用 AI 工具提升工作效率和个人知识管理水平。在众多开源AI模型中,DeepSeek-R1 凭借其强大的本地部署能力和多功能性脱颖而出。结合 AnythingLLM 这一功能强大的文档处理工具,我们可以轻松搭建一个属于自己的个性化 AI 知识管理系统。一、什么是 DeepSeek-R1?DeepSeek-R1 是一款基于深度学习的开源 AI 模型,默

编程&AI
安装ollama并更改模型下载位置
hqy 发表于2025-02-11 浏览311 评论0
下载ollamaollama官网:https://ollama.com/https://ollama.com/安装并验证下载完ollama.exe文件之后,点击安装,安装过程较为简单,按照提示完成即可。安装完成之后打开cmd,在终端cmd输入以下指令进行验证:ollama --version模型运行启动ollama:在cmd终端输入以下指令ollama serve查看模型列表:在cmd终端输入以下指令ollama list下载并运行本地大模型在cmd终端输入以下指令

Jumpserver
JumpServer开源堡垒机安装配置
hqy 发表于2025-02-11 浏览116 评论0
JumpServer开源堡垒机安装与配置2.1、下载2.2、安装2.3、其他一、简介二、下载与安装一、简介JumpServer 堡垒机帮助企业以更安全的方式管控和登录各种类型的资产。支持官网地址:https://www.jumpserver.org/index.htmlJumpServer 采用分层架构,分别是负载层、接入层、核心层、数据层、存储层。JumpServer 应用架构图如下:二、下载与安装2.1、下载访问官网地址下载资源:https://community.fit2cloud.com