智能路由
即将推出
每个请求都会被路由到最匹配的模型。
内部路由模型会实时分析每个请求的复杂度,并将其分发至您授权模型池中最为匹配的模型。
将于7月底推出 ,限时免费。MixRoute 本身已于今日上线。
-
平均节省20-40%
基于超过 10,000 次实际测试数据,仪表盘会显示路由优化为您节省了多少费用。
-
由你来设定界限
它仅在您授权的模型池内进行调度,且不保留任何数据。
-
无需修改代码
替换为一个智能路由密钥;请求格式完全保持不变。