Runtime

运行控制

按需启动模型,预热后会占用显存;停止后释放显存。

Gateway check Runtime check

GPU

Checking

--
显存--
温度--
GPU--

模型

启动、预热、停止

Ready
模型 容器 状态 Loaded 显存 操作