Auriko

Auriko 将 LLM 提供商视为交易场所并进行套利。由前量化交易员打造的 Auriko 成本套利引擎会根据每个用户的请求模式进行校准，并基于令牌价格、缓存行为、延迟、可靠性和请求质量选择优化的推理路径。Auriko 基准测试显示，与行业同行和直接提供商相比，平均成本降低 30%。查看源代码：https://www.auriko.ai/reports/llm-cost-arbitrage