73 lines
4.1 KiB
Markdown
73 lines
4.1 KiB
Markdown
# 本机算力服务台
|
||
|
||
前后端分离的 Python 服务管理面板。管理 API 和前端部署在被管理的 Linux 服务器上,API 使用当前 Linux 用户的 `systemd --user` 管理服务,不需要 SSH 或容器化模型。
|
||
|
||
## 功能
|
||
|
||
- 登记已有的 Conda 或 `.venv` Python 解释器、脚本、工作目录、启动参数和环境变量。
|
||
- 通过应用卡片启动、停止、重启服务,并读取状态、PID 和 journal 日志。
|
||
- 后端内置本机资源采集,监控 CPU、内存、磁盘、NVIDIA GPU、网络、温度与运行时间;不依赖 Nezha Agent 或远程监控 API。
|
||
- 每个应用有独立的 systemd user unit;面板 API 重启后,服务状态仍由 systemd 托管。
|
||
- 前端只发送结构化配置和固定操作;后端不接受任意 shell 命令。
|
||
|
||
## 目录
|
||
|
||
```text
|
||
backend/ FastAPI API、本机 systemd 管理和 SQLite 配置存储
|
||
frontend/ React + Vite 管理面板
|
||
```
|
||
|
||
## Linux 服务器部署
|
||
|
||
推荐使用交互式部署脚本。以将来运行服务的普通 Linux 账号,在项目目录执行:
|
||
|
||
```bash
|
||
bash deploy/install.sh
|
||
```
|
||
|
||
脚本会引导设置部署目录、访问端口和监听地址,创建 Python 虚拟环境、构建前端、生成管理密钥,并安装和启动 `systemd --user` 服务。默认监听 `0.0.0.0:8199`,用于可信内网访问;如需公网访问,请放在 HTTPS 反向代理后面并通过防火墙限制来源。面板和 API 同源提供,无需单独配置 Nginx 才能启动。
|
||
|
||
登记的应用服务与管理面板以同一个 Linux 账号运行。脚本会询问是否启用 linger,使面板在退出 SSH 后继续运行;也可以稍后手动执行 `sudo loginctl enable-linger "$USER"`。
|
||
|
||
```bash
|
||
systemctl --user status compute-service-manager
|
||
systemctl --user restart compute-service-manager
|
||
journalctl --user -u compute-service-manager -f
|
||
```
|
||
|
||
管理密钥保存在 `~/.config/compute-service-manager/manager.env`,权限为 `600`。首次打开面板后,在「设置」页填入部署时显示的密钥。服务进程读取该文件,前端构建产物由后端同源提供。
|
||
|
||
资源监控直接运行在本机后端:CPU、内存、磁盘和网络由 `psutil` 读取;NVIDIA GPU 指标在本机存在 `nvidia-smi` 时自动采集,其余 GPU 或不可用的传感器显示为空。指标字段参考 Nezha 的 [`Host` / `HostState`](https://github.com/nezhahq/nezha/blob/master/model/host.go) 语义,采集和展示均由本项目负责,无需部署 Nezha Agent 或配置 Nezha API。
|
||
|
||
如需手动配置 systemd、Nginx,可继续参考 `deploy/compute-service-manager.service.example` 和 `deploy/nginx.conf.example`。
|
||
|
||
前端构建和开发:
|
||
|
||
```bash
|
||
cd frontend
|
||
npm install
|
||
npm run dev
|
||
```
|
||
|
||
Vite 开发服务器默认将 `/api` 代理到 `127.0.0.1:8000`。Linux 部署脚本会先生成 `frontend/dist`,再由 FastAPI 后端同源托管静态页面与 API;源代码仍保持前后端分离。
|
||
|
||
## 添加服务示例
|
||
|
||
假设环境解释器是 `/opt/conda/envs/gemma/bin/python`,启动程序位于 `/dep/Bfmodeltest/gemma4_31b_deploy/serve.py`:
|
||
|
||
- Python 解释器:`/opt/conda/envs/gemma/bin/python`
|
||
- 启动脚本:`/dep/Bfmodeltest/gemma4_31b_deploy/serve.py`
|
||
- 工作目录:`/dep/Bfmodeltest/gemma4_31b_deploy`
|
||
- 参数 JSON:`["--port", "8000"]`
|
||
- 环境变量 JSON:`{"CUDA_VISIBLE_DEVICES": "0"}`
|
||
|
||
首次访问页面时,在侧边栏「设置」页填入 `PANEL_API_TOKEN`。应用登记后即可从卡片启停。
|
||
|
||
## 当前 MVP 边界
|
||
|
||
- 管理权限采用单个共享 API 密钥,持有密钥的人可以登记并以服务账号身份启动任意可访问的 Python 程序;适合信任使用者的内网试用,尚未实现用户账号、团队角色和操作审计。
|
||
- 服务以运行面板的 Linux 用户身份启动,不支持为不同应用选择不同 Linux 用户。
|
||
- 本机资源采集不可用时,资源监控显示为空。HTTP 健康探测和应用分组尚未实现。
|
||
- 环境变量会写入本机应用启动器和 SQLite 配置,文件权限限制为当前用户;环境文件也应限制为服务账号可读。
|
||
- `systemd --user` 需要登录会话管理器可用;服务器部署时应启用 linger 并设置运行时总线环境变量。
|