LLM 速度测试台

🔌 大模型接口配置

提供商类型

已保存配置

配置名称

📛

Base URL

🌐

API Key

模型名称

🤖

温度 Temperature 0.7

上下文长度（tokens，点击切换启停）

解码输出长度（max tokens）

每个长度采样次数

测试前预热空转不计速度，避免冷启动偏差

避免缓存随机前缀，测真实预填充

首字延迟

—

预填充速度

—

tok/s

解码速度

—

tok/s

上文 Tokens

—

tok

输出 Tokens

—

tok

总耗时

—

#	时间	提供商	模型	采样	首字 ms	预填充 tok/s	解码 tok/s	状态	操作