推理性能DECODE
--tok/s
离线
--%MTP 命中
预填充 PREFILL-
填充大小 FILL SIZE-
填充进度 FILL PROG-
草稿 DRAFT-
KV / 上下文-
已解码 / 已处理-
任务-
性能趋势40 MIN HISTORY
解码 tok/s
预填充 tok/s
VRAM %
GPU · RX 7900 XTXROCM
--%- / - GB
--°C 结温
--W 功耗
--% 利用率
显存峰值-
设备 / 后端-
模型引擎STRATA 35B
-
引擎 ENGINE-
上下文 CTX-
MTP 草稿 DRAFTS-
专家驻留 SLOTS-
内存形态 HOST-
单元 UNIT-
系统SYSTEM
开机时长-
负载 1/5/15-
CPU 温度-
内存-
存储STORAGE
服务状态SERVICES
网关 · 网络GATEWAY / LAN
llama-gateway-
活跃后端-