在优先将LLM请求路由至本地模型（Ollama、LM Studio、llamafile）后再回退至云API。在持久化仪表板中追踪令牌节省与成本节约。适用于以下情况：（1）用户要求优先使用本地模型执行任务；（2）用户希望降低云API成本或保持请求私密；（3）用户要求查看其令牌节省情况或LLM路由仪表板；（4）任何需要自动判断本地与云路由的请求。支持Ollama、LM Studio和llamafile作为本地模型提供商。

通过 LiteLLM 的统一 API 调用 100 多个 LLM 服务商。当您需要调用与主模型不同的模型时使用（例如在 Claude 上运行时使用 GPT-4 进行代码审查），比较多个模型的输出，为简单任务路由到更低成本的模型，或访问运行时原生不支持的模型。

通过Astrai路由所有LLM调用，实现40%以上的成本节约，并配备智能路由与隐私控制

使用LLM理事会经过同行评审的排名，将任何提示路由到表现最佳的大型语言模型