compute_os/README.md

73 lines
4.1 KiB
Markdown
Raw Permalink Blame History

This file contains ambiguous Unicode characters!

This file contains ambiguous Unicode characters that may be confused with others in your current locale. If your use case is intentional and legitimate, you can safely ignore this warning. Use the Escape button to highlight these characters.

# 本机算力服务台
前后端分离的 Python 服务管理面板。管理 API 和前端部署在被管理的 Linux 服务器上,API 使用当前 Linux 用户的 `systemd --user` 管理服务,不需要 SSH 或容器化模型。
## 功能
- 登记已有的 Conda 或 `.venv` Python 解释器、脚本、工作目录、启动参数和环境变量。
- 通过应用卡片启动、停止、重启服务,并读取状态、PID 和 journal 日志。
- 后端内置本机资源采集,监控 CPU、内存、磁盘、NVIDIA GPU、网络、温度与运行时间;不依赖 Nezha Agent 或远程监控 API。
- 每个应用有独立的 systemd user unit;面板 API 重启后,服务状态仍由 systemd 托管。
- 前端只发送结构化配置和固定操作;后端不接受任意 shell 命令。
## 目录
```text
backend/ FastAPI API、本机 systemd 管理和 SQLite 配置存储
frontend/ React + Vite 管理面板
```
## Linux 服务器部署
推荐使用交互式部署脚本。以将来运行服务的普通 Linux 账号,在项目目录执行:
```bash
bash deploy/install.sh
```
脚本会引导设置部署目录、访问端口和监听地址,创建 Python 虚拟环境、构建前端、生成管理密钥,并安装和启动 `systemd --user` 服务。默认监听 `0.0.0.0:8199`,用于可信内网访问;如需公网访问,请放在 HTTPS 反向代理后面并通过防火墙限制来源。面板和 API 同源提供,无需单独配置 Nginx 才能启动。
登记的应用服务与管理面板以同一个 Linux 账号运行。脚本会询问是否启用 linger,使面板在退出 SSH 后继续运行;也可以稍后手动执行 `sudo loginctl enable-linger "$USER"`。
```bash
systemctl --user status compute-service-manager
systemctl --user restart compute-service-manager
journalctl --user -u compute-service-manager -f
```
管理密钥保存在 `~/.config/compute-service-manager/manager.env`,权限为 `600`。首次打开面板后,在「设置」页填入部署时显示的密钥。服务进程读取该文件,前端构建产物由后端同源提供。
资源监控直接运行在本机后端:CPU、内存、磁盘和网络由 `psutil` 读取;NVIDIA GPU 指标在本机存在 `nvidia-smi` 时自动采集,其余 GPU 或不可用的传感器显示为空。指标字段参考 Nezha 的 [`Host` / `HostState`](https://github.com/nezhahq/nezha/blob/master/model/host.go) 语义,采集和展示均由本项目负责,无需部署 Nezha Agent 或配置 Nezha API。
如需手动配置 systemd、Nginx,可继续参考 `deploy/compute-service-manager.service.example` 和 `deploy/nginx.conf.example`。
前端构建和开发:
```bash
cd frontend
npm install
npm run dev
```
Vite 开发服务器默认将 `/api` 代理到 `127.0.0.1:8000`。Linux 部署脚本会先生成 `frontend/dist`,再由 FastAPI 后端同源托管静态页面与 API;源代码仍保持前后端分离。
## 添加服务示例
假设环境解释器是 `/opt/conda/envs/gemma/bin/python`,启动程序位于 `/dep/Bfmodeltest/gemma4_31b_deploy/serve.py`:
- Python 解释器:`/opt/conda/envs/gemma/bin/python`
- 启动脚本:`/dep/Bfmodeltest/gemma4_31b_deploy/serve.py`
- 工作目录:`/dep/Bfmodeltest/gemma4_31b_deploy`
- 参数 JSON:`["--port", "8000"]`
- 环境变量 JSON:`{"CUDA_VISIBLE_DEVICES": "0"}`
首次访问页面时,在侧边栏「设置」页填入 `PANEL_API_TOKEN`。应用登记后即可从卡片启停。
## 当前 MVP 边界
- 管理权限采用单个共享 API 密钥,持有密钥的人可以登记并以服务账号身份启动任意可访问的 Python 程序;适合信任使用者的内网试用,尚未实现用户账号、团队角色和操作审计。
- 服务以运行面板的 Linux 用户身份启动,不支持为不同应用选择不同 Linux 用户。
- 本机资源采集不可用时,资源监控显示为空。HTTP 健康探测和应用分组尚未实现。
- 环境变量会写入本机应用启动器和 SQLite 配置,文件权限限制为当前用户;环境文件也应限制为服务账号可读。
- `systemd --user` 需要登录会话管理器可用;服务器部署时应启用 linger 并设置运行时总线环境变量。