AI API 测试工具
测试 AI 大模型 API 与中转站的响应速度、并发、生成速度、请求成功率和缓存能力，兼容 Messages 与 Responses 协议的接口，免费使用。
常见问题
什么是 AI API 测试工具？
AI API 测试工具会向目标接口发起真实请求，检测首字延迟（TTFT）、生成速度、请求成功率、并发处理能力和缓存命中情况。它既可以测试模型厂商的官方 API，也可以测试兼容相应协议的中转站接口。
支持哪些大模型 API 和接口协议？
目前支持 Anthropic Messages API 和 OpenAI Responses API。工具不限制模型厂商，只要目标服务支持对应协议，就可以测试 Claude、GPT、DeepSeek、Qwen、GLM 等模型或模型别名。
可以测试大模型 API 中转站吗？
可以。填写中转站提供的完整接口地址、API Key 和模型名称，即可测试该线路的响应速度、请求成功率和缓存能力。检测结果只代表本次测试时使用的模型、线路、参数和网络环境，不代表该服务在所有时间和地区的表现。
Messages API 和 Responses API 有什么区别？
Messages API 使用 Anthropic Messages 协议，接口地址通常以 /v1/messages 结尾；Responses API 使用 OpenAI Responses 协议，接口地址通常以 /v1/responses 结尾。协议看服务商的接口格式，不看模型名字。非 Claude 模型也可能走 Messages，非 OpenAI 模型也可能走 Responses。
测试会消耗 API 额度或产生费用吗？
会。测速过程中会向目标接口发送真实请求，因此可能消耗 token、请求次数或账户余额。并发数、请求数、输出长度、缓存采样次数和长对话轮数越高，通常消耗越多。开始测试前应确认服务商的计费规则和账户余额。
测试需要多长时间？
检测时间取决于请求数量、并发数、缓存采样时间、长对话轮数以及目标接口本身的速度。响应较快的接口通常会更早完成；如果接口排队、限流、超时或频繁断开，检测时间会明显增加。
并发数和请求数分别是什么意思？
并发数表示同一时间最多有多少个请求正在进行；请求数表示本轮一共发送多少个请求。例如，并发数为 5、请求数为 10，性能测试会最多同时保持 5 个请求，某个请求结束后再补充下一个，直到完成全部 10 个请求。缓存采样和长对话按顺序发送，不使用同样的并发。
报告里的 TTFT、生成速度、缓存命中率是什么意思？
TTFT（Time To First Token）是从发出请求到收到第一个字的时间，越短说明响应越快。生成速度是首字之后每秒输出的 token 数。请求成功率是正常返回的比例。缓存命中率看同一段前缀会不会被复用。增量命中率看后加进去的对话有没有也进缓存，长对话费不费钱主要看这个。
有开源的命令行版本吗？
有。同一套测法的两个脚本在 MIT 协议下开源：https://github.com/Okkmass/api-bench 。这个页面在浏览器里跑同样的三步：首字压测、缓存持久性、长对话。密钥只发给你填写的接口。
这个工具收费吗？
不收取检测费用。未登录每天可检测 3 次，登录后每天可检测 30 次，次数只记在这台浏览器里。密钥只发给你填写的接口，不会发给维渡 AI，也不会被保存。测试本身会消耗目标接口的额度。