135 lines
5.6 KiB
Bash
135 lines
5.6 KiB
Bash
# Qwen3-ASR 环境变量覆盖示例
|
||
# 复制为 .env 后,只取消需要覆盖默认值的配置项注释。
|
||
# 普通 KEY=value 覆盖本地进程配置;Docker 专用项见末尾部署配置分组。
|
||
|
||
# -----------------------------------------------------------------------------
|
||
# 服务监听
|
||
# 本地直接运行时,HOST/PORT 控制 uvicorn;WORKERS 建议先保持 1。
|
||
# NGINX_PORT 只由 docker-compose.yml 用作宿主机映射端口。
|
||
# -----------------------------------------------------------------------------
|
||
# HOST=0.0.0.0
|
||
# PORT=8000
|
||
# WORKERS=1
|
||
# DEBUG=false
|
||
# NGINX_PORT=17003
|
||
|
||
# -----------------------------------------------------------------------------
|
||
# 运行后端与设备
|
||
# -----------------------------------------------------------------------------
|
||
# ACCELERATOR=auto
|
||
# DEVICE=auto
|
||
# ASR_VISIBLE_DEVICES=0
|
||
# ASR_DEPLOY_TOPOLOGY=isolated
|
||
|
||
# -----------------------------------------------------------------------------
|
||
# 模型选择与路径
|
||
# 留空 QWEN3_ASR_MODEL 时由程序自动选择;支持 0.6B 和 1.7B。
|
||
# 未设置路径项时使用 app/core/config.py 中的项目默认目录。
|
||
# -----------------------------------------------------------------------------
|
||
# QWEN3_ASR_MODEL=qwen3-asr-0.6b
|
||
# MODELS_DIR=/opt/dep/asr/models
|
||
# MODELSCOPE_CACHE=/opt/dep/asr
|
||
# MODELSCOPE_PATH=/opt/dep/asr/models
|
||
# TEMP_DIR=/opt/dep/asr/data/temp
|
||
# LOG_FILE=/opt/dep/asr/data/logs/qwen3-asr.log
|
||
# TASK_STATE_DIR=/opt/dep/asr/data/tasks
|
||
# TASK_RETENTION_HOURS=24
|
||
|
||
# -----------------------------------------------------------------------------
|
||
# GPU / vLLM 预算
|
||
# QWEN_GPU_MEMORY_UTILIZATION 未设置时由程序按模型和设备内存计算。
|
||
# 显存预算不足时,先核对 GPU 上其他进程;降低此值不能修复 CUDA context
|
||
# 创建阶段的驱动连续页分配失败。
|
||
# 启用 word timestamps 会按需额外加载 forced aligner。
|
||
# -----------------------------------------------------------------------------
|
||
# QWEN_GPU_MEMORY_UTILIZATION=0.10
|
||
# QWEN_FORCE_ALIGNER_GPU_MEMORY_UTILIZATION=0.15
|
||
# QWEN_VLLM_ENFORCE_EAGER=true
|
||
# ASR_BATCH_SIZE=4
|
||
# QWEN_VLLM_SHARED_CONCURRENCY=8
|
||
# vLLM 实时/离线解码微批处理:最多等待 10ms 收集请求,单批最多 8 个音频输入。
|
||
# QWEN_VLLM_DECODE_BATCH_WAIT_MS=10
|
||
# QWEN_VLLM_DECODE_MAX_BATCH_SIZE=8
|
||
# 实时 partial 仅重复解码最近 8 秒窗口;定稿仍使用整段音频。
|
||
# REALTIME_STREAM_WINDOW_SEC=8.0
|
||
# ASR_ENABLE_WORD_TIMESTAMPS=false
|
||
|
||
# -----------------------------------------------------------------------------
|
||
# vLLM EngineCore 进程模式
|
||
# 默认由 vLLM 使用独立子进程。设为 0 可让 EngineCore 在当前进程运行,
|
||
# 在 WORKERS=1 的受限主机上可减少独立 CUDA context;需要进程隔离时保持默认。
|
||
# -----------------------------------------------------------------------------
|
||
# VLLM_ENABLE_V1_MULTIPROCESSING=0
|
||
|
||
# -----------------------------------------------------------------------------
|
||
# 说话人库 / PostgreSQL
|
||
# -----------------------------------------------------------------------------
|
||
# SPEAKER_DB_ENABLED=true
|
||
# DB_HOST=127.0.0.1
|
||
# DB_PORT=5432
|
||
# DB_USER=postgres
|
||
# DB_PASSWORD=change_me
|
||
# DB_NAME=asr_db
|
||
# SV_MODEL=iic/speech_campplus_sv_zh-cn_16k-common
|
||
# SV_THRESHOLD=0.6
|
||
|
||
# -----------------------------------------------------------------------------
|
||
# 实时 / 推理调优(按需覆盖)
|
||
# -----------------------------------------------------------------------------
|
||
# REALTIME_STREAM_CHUNK_SEC=0.6
|
||
# REALTIME_STREAM_MAX_PENDING_CHUNKS=2
|
||
# REALTIME_MIN_PARTIAL_SEC=0.6
|
||
# REALTIME_PARTIAL_EMIT_INTERVAL_SEC=0.6
|
||
# REALTIME_PARTIAL_HOLDBACK_CHARS=0
|
||
# REALTIME_ENABLE_VAD=true
|
||
# FunASR WebSocket defaults: 60 ms VAD frames, 600 ms online decode cadence, four concurrent VAD calls.
|
||
# REALTIME_VAD_CHUNK_MS=60
|
||
# REALTIME_VAD_PRE_ROLL_MS=600
|
||
# REALTIME_VAD_CONCURRENCY=4
|
||
# MAX_SEGMENT_SEC=60
|
||
# QWEN_RUST_CPU_WORKERS=4
|
||
# QWEN_RUST_ASR_CONCURRENCY=0
|
||
# QWEN_RUST_ALIGN_CONCURRENCY=0
|
||
# ASR_ENABLE_NEARFIELD_FILTER=true
|
||
# ASR_NEARFIELD_RMS_THRESHOLD=0.01
|
||
|
||
# -----------------------------------------------------------------------------
|
||
# 日志与本地调试
|
||
# API_KEY 留空表示不启用鉴权。不要把真实密钥或数据库密码提交到仓库。
|
||
# -----------------------------------------------------------------------------
|
||
# API_KEY=your_api_key_here
|
||
# LOG_LEVEL=INFO
|
||
# true 跳过 FunASR 启动时的联网更新检查;false 时允许检查更新。
|
||
# FUNASR_DISABLE_UPDATE=true
|
||
# FUNASR_STARTUP_UI=auto
|
||
# QWENASR_LIBRARY_PATH=/absolute/path/to/libqwen_asr.so
|
||
|
||
# -----------------------------------------------------------------------------
|
||
# Docker / 特定加速卡部署
|
||
# 仅在相应部署方式下取消注释;路径需按目标主机调整。
|
||
# -----------------------------------------------------------------------------
|
||
# NGINX_PORT 是宿主机暴露的 Nginx 端口;ASR_IMAGE 用于离线包或自定义镜像。
|
||
# ASR_IMAGE=unis/qwen3-asr:gpu-latest
|
||
# 模型与业务数据的宿主机挂载目录。
|
||
# MODEL_STORAGE_DIR=/opt/dep/asr/models
|
||
# DATA_STORAGE_DIR=/opt/dep/asr/data
|
||
# Nginx 全局限流配置;BURST=0 表示按 RPS 自动处理。
|
||
# NGINX_RATE_LIMIT_RPS=0
|
||
# NGINX_RATE_LIMIT_BURST=0
|
||
# MetaX / MuXi 设备映射;按主机驱动安装位置调整。
|
||
# METAX_DRI_DEVICE=/dev/dri
|
||
# METAX_MXSMI_PATH=/opt/mxdriver/bin/mx-smi
|
||
# METAX_PRIVILEGED=false
|
||
# Iluvatar / 天数容器设备与主机目录映射。
|
||
# ILUVATAR_USR_SRC=/usr/src
|
||
# ILUVATAR_LIB_MODULES=/lib/modules
|
||
# ILUVATAR_DEV=/dev
|
||
# ILUVATAR_HOME=/home
|
||
# ILUVATAR_DATA=/data
|
||
# Moore Threads / 摩尔线程容器设备与主机目录映射。
|
||
# MTHREADS_DEV=/dev
|
||
# MTHREADS_USR_SRC=/usr/src
|
||
# MTHREADS_LIB_MODULES=/lib/modules
|
||
# MTHREADS_HOME=/home
|
||
# MTHREADS_DATA=/data
|