LangSmith推出工具网关:为Agent工具调用提供安全治理

发布时间 2026-11-19
来源 LangChain Blog
字数 3,153 字
查看原文 反馈

智能总结

LangSmith 在 Agent Platform 上推出 Tool Gateway 公测版,作为受管工具层,为每次 Agent 工具调用统一处理凭据、身份和访问权限,并与 LLM Gateway 共同提供治理与可见性。

Karthic Subramanian 2026年11月19日 阅读时长10分钟 返回博客创建 Agent创建 Agent分享

Agent 正在走出聊天窗口,承担更主动、更泛在的工作。它们不再等待提示,而是按计划运行或被事件触发,并在无人逐步检查的情况下处理更长的任务。这让它们更有用,但也意味着团队需要控制每个 Agent 可以调用哪些工具、以谁的身份行事,并记录它采取的每一个动作。

今天,我们在 LangSmith Agent Platform 上推出 LangSmith Tool Gateway(工具网关)公测版。Tool Gateway 是一个受管的工具层,为每一次 Agent 工具调用处理凭据、身份和访问权限,让治理 Agent 所采取的动作变得简单。Tool Gateway 让工程团队更容易、更快速地以受控方式授予 Agent 访问新工具的权限,而无需每次手动搭建认证。安全与合规团队可以使用 LangSmith 追踪和审计工具调用,作为 Agent 监控的一部分。

工具治理是 Agent 治理的核心

当 Agent 投入生产时,平台团队需要了解每个 Agent 做了什么、控制它可以使用的工具和模型,并制定限制支出和风险的使用策略。借助 LangSmith,开发者可以在单一平台上构建、运行和改进 Agent。

LLM Gateway 治理 Agent 发起的模型调用。通过它,你可以设置支出上限和模型回退、添加速率限制、脱敏个人数据和机密,并在 Agent 追踪中提供可见性,包含关于模型调用的丰富信息,如延迟、回退、失败、触发的护栏等。Tool Gateway 与 LLM Gateway 一同位于 LangSmith 中,为这一生命周期提供治理。

Tool Gateway 为 Agent 简化工具列表,实施使用策略,管理工具使用的身份,并且与 LLM Gateway 一样,在 Agent 追踪中通过关于工具调用的丰富信息(如服务器、用户、结果、延迟等)提供可见性。

Tool Gateway 与 LLM Gateway 共同为 Agent 的动作和支出提供全面的可见性与治理。

Agent 工具使用如何成为治理问题

生产环境中的 Agent 需要服务数百或数千名用户,每个用户都有自己的一套权限。这意味着要管理和刷新大量令牌,并为安全和审计要求仔细管理和记录访问权限。大规模管理身份和可见性比本地开发困难几个数量级。为每个 Agent 单独构建这套管道会拖慢产品交付,并向安全风险暴露更大、更多样的表面区域。

在生产环境中为 Agent 提供工具访问权限有三项要求:

  • 访问: 定义该 Agent 可以调用哪些工具,以及使用哪些凭据。
  • 控制: 设定每个用户可以用它做什么,并在必要时建立审查。
  • 可见性: 追踪正在调用哪些工具,并确认 Agent 使用了正确的凭据。

快速而粗糙的做法是为一个 Agent 硬编码这三项。工程师为每个提供商编写 OAuth 流程,将令牌存储在 Agent 旁边,并为每个新工具添加路由。当目标是在有限环境中快速构建时,这行得通。然而,随着使用量、工具数量和用户数量的增长,这种做法就会失效。

Agent 应如何使用工具?

让我们结合具体场景来看这个问题。我们合作的一家美国大型零售商正在为门店运营和库存管理构建 Agent。其中两个 Agent 很好地说明了这一挑战。

第一个是门店助手,负责回答店员的问题。它使用每位店员的个人凭证运行,可以访问库存系统、排班表和电子邮件。第二个是库存 Agent,每天凌晨 3 点运行以核对库存,使用它自己的服务凭证。

工程团队已经构建了 50 多个 MCP 服务器,总共暴露一千多个工具。然而,每个 Agent 只应使用其中一小部分经过批准的工具,并且每个 Agent 都应在特定上下文中调用正确的凭证。当团队把凭证硬编码进 Agent,或向 Agent 提供完整的工具服务器时,就没有确定性检查能阻止 Agent 使用错误的凭证,或使用工具服务器中未经批准的工具。而且,由于无法端到端地了解 Agent 如何使用工具,安全团队也无从审计或验证这一切。

Tool Gateway 为每次工具调用管理访问、身份与策略

Diagram of agents and clients calling LangSmith Tool Gateway, which identifies the caller, attaches a token, applies policy, and forwards and logs each call to your tools

Tool Gateway 是一个托管的工具层,允许调用方通过单一 URL 路由工具请求。对于每个调用方,Tool Gateway 会解析身份、管理访问权限,并记录工具调用轨迹。

下面来看看它在实践中是如何工作的。

访问(Access):定义 Agent 可以使用哪些工具,以及以谁的身份使用

Tool Gateway 是工具被发现和访问的唯一入口。新 Agent 可以更快地启动并运行,因为工具设置不需要为每个 Agent 重复配置,安全团队也能清楚了解每个 Agent 可以访问哪些资源。

工具只需注册一次

通过 URL 添加任意 MCP 服务器,为 Google、Salesforce 或 GitHub 等常用应用启用内置服务器。每个团队都能轻松找到现有工具,并确保遵循使用策略。

将每个 Agent 限定在它需要的范围内

工具包(tool kit)是一组经过筛选的工具,发布在单一 URL 上。用户可以根据需求构建工具包,并将其提供给整个工作区使用,或限定为个人使用。当 Agent 连接到特定工具包时,它只能看到该工具包中捆绑的工具。

通过搜索模式让大型工具包保持快速和准确

当 Agent 拥有数百或数千个工具时,一次性加载所有工具会增加延迟,也让选择正确的工具变得更加繁琐。使用搜索模式(search mode)时,Agent 会查询自己的工具包,只加载与当前任务相关的工具。

Tool Gateway 会为工具调用解析身份,让工程团队无需手动实现认证即可更快推进。对于通过网关的每一次工具调用,调用方都会映射到两种身份之一:

  • 以用户身份执行(Acting as the user) 会应用用户自己的凭证。身份提供方(Okta、Entra ID)负责识别用户,用户只需连接一次自己的账户。此后,Tool Gateway 会在每次调用时使用该用户的访问权限。如果用户尚未连接,调用会返回一个登录链接,等待用户完成认证后自动继续。这让工程师无需额外编写代码,就能以用户身份(on-behalf-of-user)添加工具使用能力。
  • 以 Agent 身份执行(Acting as the agent) 使用与 Agent 本身绑定的凭证,可以通过 LangSmith 中配置的 Agent 认证(agent auth),或通过配置文件(profile)来实现。配置文件使用共享凭证,由工作区管理员为 Agent 连接一次。工作区管理员可以设置带有共享凭证的配置文件,这些凭证可以复用于能够在后台自主运行的多个 Agent。

控制(Control):为工具使用和审批设置策略

管理员可以通过多种方式设置策略来控制工具使用:

  • 拒绝策略(Deny policies)会以不同的粒度阻止工具使用:可以针对特定用户、服务密钥,或两者的组合。拒绝策略也可以适用于所有人,并列出例外。管理员可以在组织或工作区级别设置这些策略。
  • 审批策略(Approval policies)要求用户在 MCP 客户端中确认敏感的工具调用,确认后才会执行。例如,在开放某个允许写入数据仓库的工具之前,管理员可以配置人工审批(human-in-the-loop)要求。这样每次 Agent 尝试写入数据仓库时,都会有人进行审查。

可见性:在智能体(Agent)追踪记录中监控工具调用

每一次工具调用都会在 LangSmith 中留下追踪记录,并附带该智能体会话的上下文信息,因此你可以监控工具调用的使用情况、应对相关的审计问题,而无需从多个平台收集追踪记录和日志。工具调用始终会出现在 LangSmith 的追踪记录中,而借助工具网关(Tool Gateway),我们还能获得更丰富的信息:使用的是谁的凭证、使用了哪台服务器、延迟情况以及调用结果。由此一来,调试速度更快,安全审查也有了清晰的记录可供依据。

正文超过 1 万字上限,本页为节选 · 查看原文