跳到正文
LangChain Blog·· 2 小时前

LangChain 推出 LangSmith LLM Gateway 公测版,为生产智能体提供运行时控制

LangSmith LLM Gateway: Runtime Controls for Agents

AI 导读

LangChain 宣布 LangSmith LLM Gateway 进入公测,在智能体与模型之间提供集中治理层,支持花费上限、限流、模型回退和敏感数据脱敏。花费上限可按组织、工作区、API key 和用户四级设置,超限时智能体收到 402 响应;回退规则可跨模型和主机统一执行。

来源:LangChain Blog · langchain.com