中转站不同分组有什么区别,应该怎样测试?
分组通常代表不同的路由、权限、计费或限额配置。名称相同并不说明来源相同,倍率更高也不直接说明质量更好;需要在相同条件下实际调用比较。
先确认分组改变了什么
把分组名称、允许调用的模型、协议、限额、倍率和测试时间记下来。部分站点用不同 Key 区分分组,另一些站点在控制台切换路由;具体含义以该站说明和实际配置为准。
明镜Test 的监测按 Key 对应分组发起请求。表里的倍率由提交者填写,平台没有核验供应商成本或最终账单。倍率不能单独用来比较每个成功任务的实际费用。
按同一套条件测试
- 在站点监测中填入同一 API 地址,为每个待测分组填写名称、该组 Key、协议与相同的模型 ID。
- 先手动检查一次。记录失败状态,核对 Key 权限、余额和模型在分组内的可用范围。
- 在有代表性的时段重复采样,比较相同模型的成功请求比例和完整响应耗时,并保留每次的样本数。
- 对函数调用、结构化输出等需求,再到对应协议检测页验证;基础监测成功不代表这些能力都可用。
怎样解读一个比较
同一请求的输出长度、服务器位置和上游负载都会影响耗时。比较前写清这些条件;需要测试长输出或并发时,再增加与业务相符的独立测试。明镜Test 当前轻量监测不提供并发容量评估。
同一模型,A 组 10 次请求成功 9 次,B 组 10 次成功 10 次。
这只说明本轮样本分别为 90% 与 100%;不能据此推算整月 SLA。
当前监测的边界
监测保留各目标最近 24 小时窗口内的有限样本,当前每目标最多展示 96 条。可用率按这些实际请求计算,不能等同于持续在线的时间占比。
定时任务依赖当前服务进程中的 Key,Key 不写盘。服务重启或停止任务后需要重新启用,历史记录仍可读取;页面显示的采样时间比“在线”标签更能说明数据新鲜度。