HQY 一个和谐有爱的空间

一、环境要求：

二、安装ollama：

1.下载并执行安装脚本

curl -fsSL https://ollama.com/install.sh | sh

2.设置默认端口

echo export OLLAMA_HOST="0.0.0.0:11434">>~/.bashrc

3.设置模型默认下载地址

echo export OLLAMA_MODELS=/root/ollama/models>>~/.bashrc

4.查看设置情况

cat ~/.bashrc

5.激活配置

source ~/.bashrc

6.启动ollama 服务

ollama serve

7.拉ollama2:7b

ollama run llama2:7b

三、ubuntu安装ipanel

1.下载脚本并运行

curl -sSL https://resource.fit2cloud.com/1panel/package/quick_start.sh -o quick_start.sh && sudo bash quick_start.sh

2.安装成功后，可使用 1pctl 命令行工具来维护 1Panel

四、安装MaxKB

直接docker安装

dockerrun -d --name=maxkb -p 18088:8080 -v ~/.maxkb:/var/lib/postgresql/data1panel/maxkb

使用浏览器访问：http://192.168.0.11:18088/

查看ollama的输出日志：journalctl -u ollama.service -f

五、系统内安装qwen大模型7b

安装qwen大模型7b版本

sudo ollama run qwen:7b

六、配置容器部署

本机已安装ollama之后，无需再在1Panel的应用里安装ollama，只需要在maxKB的页面里配置应用即可

最后效果：

推荐本站淘宝优惠价购买喜欢的宝贝:

本文链接：https://hqyman.cn/post/9785.html 非本站原创文章欢迎转载，原创文章需保留本站地址！

打赏

微信支付宝扫一扫，打赏作者吧～

休息一下~~