酥逗菌
酥逗菌
Published on 2025-02-04 / 5 Visits
2
0

部署DeepSeek-R1 API | 使用Open-WebUI

Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 AI 平台,旨在完全离线运行。本文基于运行在我的Linux\Arm64架构开发板上的1Panel部署。

1.配置Docker镜像

使用Github Action将国外的Docker镜像转存到阿里云私有仓库,供国内服务器使用,免费易用。

  1. 登录阿里云容器镜像服务https://cr.console.aliyun.com/

  2. 启用个人实例,创建一个命名空间(ALIYUN_NAME_SPACE)

  3. 访问凭证(记得设置固定密码!)–>获取环境变量:用户名(ALIYUN_REGISTRY_USER)、密码(ALIYUN_REGISTRY_PASSWORD)、仓库地址(ALIYUN_REGISTRY)屏幕截图 2025-02-04 210356.png

  4. Fork项目:tech-shrimp/docker_image_pusher

  5. 启动Action:进入您自己的项目,点击Action,启用Github Action功能

  6. 配置环境变量:进入Settings->Secret and variables->Actions->New Repository secret,将上一步的四个值

    ALIYUN_NAME_SPACE,ALIYUN_REGISTRY_USER,ALIYUN_REGISTRY_PASSWORD,ALIYUN_REGISTRY

    配置成环境变量

  7. 添加镜像:打开images.txt文件,添加你想要的镜像(如我所需要配置的为--platform=linux/arm64 dyrnq/open-webui:main)可以加tag,也可以不用(默认latest)

    可添加 --platform=xxxxx 的参数指定镜像架构

    可使用 k8s.gcr.io/kube-state-metrics/kube-state-metrics 格式指定私库

    可使用 #开头作为注释

  8. 使用镜像:文件提交后,自动进入Github Action构建。回到阿里云,镜像仓库,点击任意镜像,可查看镜像状态。(改成公开拉取镜像免登录)

  9. 定时执行:修改/.github/workflows/docker.yaml文件 添加 schedule即可定时执行(此处cron使用UTC时区)定时执行.png

2.拉取Open-WebUI镜像

我只使用 OpenAI API,SSH连接后使用以下命令:(将ghcr.io/open-webui/open-webui:main替换为你阿里云镜像仓库的地址)

docker run -d -p 3000:8080 -e OPENAI_API_KEY=your_secret_key -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

3.获取Deepseek-R1的API

1.Openrouter的免费API

https://openrouter.ai/

进入OpenRouter注册并登录,搜索“deepseek/deepseek-r1:free”,点击页面上的“API”,点击“Create API Key”以获取你的API Key。

屏幕截图 2025-02-04 212920.png

2.硅基流动的华为昇腾API

https://cloud.siliconflow.cn/i/nyp6T4PC

进入Siliconflow后注册账户(推荐使用我的邀请码:nyp6T4PC),点击“新建 API 密钥”以获取你的API Key。

4.配置Open-WebUI

注:在 Open WebUI 上创建的第一个帐户将获得管理员权限,控制用户管理和系统设置!

1.创建管理员账户

进入http://127.0.0.1:3000(127.0.0.1替换为你的服务器IP,端口若未更改默认为3000),输入用户名、邮箱、密码完成管理员账户的创建。

2.配置API Key

1.Openrouter API Key格式

URL:https://openrouter.ai/api/v1

API密钥:sk-xxx(替换为你自己的API Key)

2.SiliconFlow API Key格式

URL:https://api.siliconflow.cn/v1

API密钥:sk-xxx(替换为你自己的API Key)

3.其他配置

其他配置留给自己愉快探索吧!


Comment