管理你的推理节点
查看运行状态,管理 Gateway 与本地 Worker。
密钥仅保存在当前页面内存,刷新后需重新输入。
运行概览
推理服务控制台
实时状态,来自 Gateway 当前运行实例。
正在连接…尚未更新 · 每 3 秒刷新
Gateway 状态—运行时长 —
在线 Worker—已注册的连接
可用模型—按模型名称去重
在途任务—含取消后等待终态的任务
Worker 节点
每节点最多执行 1 个任务模型列表
来自 Worker 注册信息,不代表本地模型已安装或推理健康。
| 模型名称 | 提供服务的 Worker | 在线副本 | 空闲副本 |
|---|
接口调用说明
由当前接口定义与 JSON Schema 生成。Gateway 保留额外模型参数,Worker 决定实际支持范围。
登录后加载接口说明。