开发者工具1 条来源·发布于 1个月前

面向压测 LLM 应用基础设施开发者的模拟 LLM API 服务器

构建 LLM 驱动应用的团队需要对自己的网关、队列和流式路径做负载测试，但无法承受在供应商 API 上消耗真实 token 花费。他们最终只能手写模拟服务器。一个可无缝替换、兼容 API 的假 LLM 端点，支持可配置的流式、延迟、错误和速率限制，能让他们免费测试基础设施。

机会分 781 条来源

竞争核查

还空着

我们搜了

llm mock serveropenai api mockmock llm api

找到 · 143 个仓库 · 787784 个包

开源侧目前还没有明显竞争，赛道还空着。讨论热度很高。

开源侧少量尝试讨论热度很高

为什么值得看——三个可验证的信号，不是黑箱分数。