ngrok AI Gateway

ngrok AI Gateway为每个模型提供一个托管网关：公共提供商、自定义端点以及您自己运行的模型。使用一个密钥和一个URL即可在OpenAI、Anthropic和自托管模型之间进行路由，并内置可观察性、访问控制和故障转移功能。您的私有模型通过ngrok的网络连接，因此它们可以与托管提供商并列而无需暴露在公共互联网上。