HQY 一个和谐有爱的空间

概述

目前大模型爆火，蹭着这个热度，根据网上教程个人也部署一份个人知识库；整个应用包含大模型应用，WEB端应用；

其中大模型应用一般都是部署一个推理框架(如ollama)，WEB端应用开源的也比较多（如Langchain-chatchat，open-webui）;

本文记录open-webui的安装步骤，及运行脚本编写；（过程比较顺利，未出现失败情况）；

安装步骤

环境信息

Linux：Ubuntu 22.04.2 LTS

Python版本管理：anaconda3（https://www.anaconda.com/download）

1.python 环境安装

conda create -n open-webui python=3.12 (创建open-webui )

2.open-webui安装 （https://docs.openwebui.com/）

conda activate open-webui （切换到指定环境）

pip3 install open-webui -i https://pypi.tuna.tsinghua.edu.cn/simple/ （使用pip方式安装，国内使用清华源）

配置启动后台脚本

#!/bin/bash

## 切换环境

source activate open-webui

conda deactivate

conda activate open-webui

## python version check

py_version=`python -V`

echo "${py_version}"

## open-webui目录

OPENWEBUI_BASE=/data/open-webui

## 初始化open-webui环境，这里只调整了log等级和数据目录

export GLOBAL_LOG_LEVEL=DEBUG

export DATA_DIR=${OPENWEBUI_BASE}/data

## 后台启动 open webui，并指定端口

nohup open-webui serve --port 8008 > ${OPENWEBUI_BASE}/logs/start.log 2>&1 &

4.完成基本配置

首次登录会提示创建管理员账号，正常输入即可；

首次登录成功后耗时会比较高，这是由于open-webui默认访问了国外的一些网站导致超时，所以首次登录成功后需要调整下配置，路径：设置 -> 管理员设置 -> 外部链接

管理员设置

外部链接

如果需要开放API调用，则在先启用API密钥，路径为：设置 -> 管理员设置 -> 通用

API密钥

5.然后在用户管理栏里创建自己的密钥即可，路径为：设置 -> 账号

创建API密钥

5 关于知识库的设置

在使用知识库之前（而且无法连接外网），需要设置文档的语义向量模型，路径为：

设置 -> 管理员设置 -> 文档

选择对应的模型引擎，在模型那一栏输入对应的模型名词即可

语义向量模型

设置完成后就可以维护自己的知识库了（工作空间 -> 知识库）。

知识库

推荐本站淘宝优惠价购买喜欢的宝贝:

本文链接：https://hqyman.cn/post/9529.html 非本站原创文章欢迎转载，原创文章需保留本站地址！

休息一下~~