模型部署与 NPU 资源
部署实例总数3
运行就绪3
启动中0
已停止0
异常0
停止中0
未知0
其他状态0
全部部署实例 · 当前页面快照 · 各状态分别计数
独立 NPU 部署
每个文本模型独占一个 NPU,可在不同设备上同时运行。当前为单卡实例模式,单个模型跨卡并行尚未开放。
NPU 0 · 空闲NPU 1 · 空闲NPU 2 · 空闲NPU 3 · 空闲NPU 4 · 空闲NPU 5 · 空闲NPU 6 · 空闲NPU 7 · 空闲
兼容性预检与认证报告
存储路径与来源
/opt/ai_appliance-demo/shared/runtime/catalog/2 · local
CPU · FP32 · embedding
查看运行配置
{"certified": true, "image": "quay.io/ascend/vllm-ascend@sha256:27405f9787f5ff16d3f10cfa56b3a567828de43bb60aeb0f025f0640fb8fdc28", "device_ids": [0, 1, 2, 3, 4, 5, 6, 7]}模拟模型,无权重文件
demo-model-2
ready
设备 2 / 端口 18082
最近健康时间:未通过健康检查
兼容性预检与认证报告
存储路径与来源
/opt/ai_appliance-demo/shared/runtime/catalog/preset · local
FP16 512 token 上下文 单并发 可选择独立 NPU
查看运行配置
{"device_id": 0, "max_model_len": 512, "max_num_seqs": 1, "concurrency": 1, "image": "quay.io/ascend/vllm-ascend@sha256:27405f9787f5ff16d3f10cfa56b3a567828de43bb60aeb0f025f0640fb8fdc28", "status": "v0.1 开发环境已验证"}服务器已有权重;支持在已验证NPU上创建独立实例,每个实例单并发。
demo-model-0
ready
设备 0 / 端口 18080
最近健康时间:未通过健康检查
兼容性预检与认证报告
存储路径与来源
/opt/ai_appliance-demo/shared/runtime/catalog/1 · local
FP16 512 token 上下文 单并发 可选择独立 NPU
查看运行配置
{"certified": true, "image": "quay.io/ascend/vllm-ascend@sha256:27405f9787f5ff16d3f10cfa56b3a567828de43bb60aeb0f025f0640fb8fdc28", "device_ids": [0, 1, 2, 3, 4, 5, 6, 7]}模拟模型,无权重文件
demo-model-1
ready
设备 1 / 端口 18081
最近健康时间:未通过健康检查
部署操作任务
任务总数0
执行中0
成功0
失败0
排队中0
已暂停0
已取消0
其他状态0
全部启动、停止与重启任务;下表显示最近50项 · 各状态分别计数
| 任务 / 类型 | 实例 | 状态 | 结果 | 创建时间 UTC |
|---|---|---|---|---|
| 暂无部署操作任务 | ||||