LLM 速度测试台

大模型推理性能基准 · 预填充 / 首字 / 解码
空闲
首字延迟
ms
预填充速度
tok/s
解码速度
tok/s
上文 Tokens
tok
输出 Tokens
tok
总耗时
ms

📋 测试日志

🗂 测试历史

#时间名称提供商模型并发采样 首字 ms预填充 tok/s解码 tok/s状态操作