
Karthic Subramanian 2026年11月19日 阅读时长10分钟 返回博客创建 Agent创建 Agent分享
Agent 正在走出聊天窗口,承担更主动、更泛在的工作。它们不再等待提示,而是按计划运行或被事件触发,并在无人逐步检查的情况下处理更长的任务。这让它们更有用,但也意味着团队需要控制每个 Agent 可以调用哪些工具、以谁的身份行事,并记录它采取的每一个动作。
今天,我们在 LangSmith Agent Platform 上推出 LangSmith Tool Gateway(工具网关)公测版。Tool Gateway 是一个受管的工具层,为每一次 Agent 工具调用处理凭据、身份和访问权限,让治理 Agent 所采取的动作变得简单。Tool Gateway 让工程团队更容易、更快速地以受控方式授予 Agent 访问新工具的权限,而无需每次手动搭建认证。安全与合规团队可以使用 LangSmith 追踪和审计工具调用,作为 Agent 监控的一部分。
工具治理是 Agent 治理的核心
当 Agent 投入生产时,平台团队需要了解每个 Agent 做了什么、控制它可以使用的工具和模型,并制定限制支出和风险的使用策略。借助 LangSmith,开发者可以在单一平台上构建、运行和改进 Agent。
LLM Gateway 治理 Agent 发起的模型调用。通过它,你可以设置支出上限和模型回退、添加速率限制、脱敏个人数据和机密,并在 Agent 追踪中提供可见性,包含关于模型调用的丰富信息,如延迟、回退、失败、触发的护栏等。Tool Gateway 与 LLM Gateway 一同位于 LangSmith 中,为这一生命周期提供治理。
Tool Gateway 为 Agent 简化工具列表,实施使用策略,管理工具使用的身份,并且与 LLM Gateway 一样,在 Agent 追踪中通过关于工具调用的丰富信息(如服务器、用户、结果、延迟等)提供可见性。
Tool Gateway 与 LLM Gateway 共同为 Agent 的动作和支出提供全面的可见性与治理。
Agent 工具使用如何成为治理问题
生产环境中的 Agent 需要服务数百或数千名用户,每个用户都有自己的一套权限。这意味着要管理和刷新大量令牌,并为安全和审计要求仔细管理和记录访问权限。大规模管理身份和可见性比本地开发困难几个数量级。为每个 Agent 单独构建这套管道会拖慢产品交付,并向安全风险暴露更大、更多样的表面区域。
在生产环境中为 Agent 提供工具访问权限有三项要求:
- 访问: 定义该 Agent 可以调用哪些工具,以及使用哪些凭据。
- 控制: 设定每个用户可以用它做什么,并在必要时建立审查。
- 可见性: 追踪正在调用哪些工具,并确认 Agent 使用了正确的凭据。
快速而粗糙的做法是为一个 Agent 硬编码这三项。工程师为每个提供商编写 OAuth 流程,将令牌存储在 Agent 旁边,并为每个新工具添加路由。当目标是在有限环境中快速构建时,这行得通。然而,随着使用量、工具数量和用户数量的增长,这种做法就会失效。
Agent 应如何使用工具?
让我们结合具体场景来看这个问题。我们合作的一家美国大型零售商正在为门店运营和库存管理构建 Agent。其中两个 Agent 很好地说明了这一挑战。
第一个是门店助手,负责回答店员的问题。它使用每位店员的个人凭证运行,可以访问库存系统、排班表和电子邮件。第二个是库存 Agent,每天凌晨 3 点运行以核对库存,使用它自己的服务凭证。
工程团队已经构建了 50 多个 MCP 服务器,总共暴露一千多个工具。然而,每个 Agent 只应使用其中一小部分经过批准的工具,并且每个 Agent 都应在特定上下文中调用正确的凭证。当团队把凭证硬编码进 Agent,或向 Agent 提供完整的工具服务器时,就没有确定性检查能阻止 Agent 使用错误的凭证,或使用工具服务器中未经批准的工具。而且,由于无法端到端地了解 Agent 如何使用工具,安全团队也无从审计或验证这一切。
Tool Gateway 为每次工具调用管理访问、身份与策略

Tool Gateway 是一个托管的工具层,允许调用方通过单一 URL 路由工具请求。对于每个调用方,Tool Gateway 会解析身份、管理访问权限,并记录工具调用轨迹。
下面来看看它在实践中是如何工作的。
访问(Access):定义 Agent 可以使用哪些工具,以及以谁的身份使用
Tool Gateway 是工具被发现和访问的唯一入口。新 Agent 可以更快地启动并运行,因为工具设置不需要为每个 Agent 重复配置,安全团队也能清楚了解每个 Agent 可以访问哪些资源。
工具只需注册一次
通过 URL 添加任意 MCP 服务器,为 Google、Salesforce 或 GitHub 等常用应用启用内置服务器。每个团队都能轻松找到现有工具,并确保遵循使用策略。
将每个 Agent 限定在它需要的范围内
工具包(tool kit)是一组经过筛选的工具,发布在单一 URL 上。用户可以根据需求构建工具包,并将其提供给整个工作区使用,或限定为个人使用。当 Agent 连接到特定工具包时,它只能看到该工具包中捆绑的工具。
通过搜索模式让大型工具包保持快速和准确
当 Agent 拥有数百或数千个工具时,一次性加载所有工具会增加延迟,也让选择正确的工具变得更加繁琐。使用搜索模式(search mode)时,Agent 会查询自己的工具包,只加载与当前任务相关的工具。

Tool Gateway 会为工具调用解析身份,让工程团队无需手动实现认证即可更快推进。对于通过网关的每一次工具调用,调用方都会映射到两种身份之一:
- 以用户身份执行(Acting as the user) 会应用用户自己的凭证。身份提供方(Okta、Entra ID)负责识别用户,用户只需连接一次自己的账户。此后,Tool Gateway 会在每次调用时使用该用户的访问权限。如果用户尚未连接,调用会返回一个登录链接,等待用户完成认证后自动继续。这让工程师无需额外编写代码,就能以用户身份(on-behalf-of-user)添加工具使用能力。
- 以 Agent 身份执行(Acting as the agent) 使用与 Agent 本身绑定的凭证,可以通过 LangSmith 中配置的 Agent 认证(agent auth),或通过配置文件(profile)来实现。配置文件使用共享凭证,由工作区管理员为 Agent 连接一次。工作区管理员可以设置带有共享凭证的配置文件,这些凭证可以复用于能够在后台自主运行的多个 Agent。
控制(Control):为工具使用和审批设置策略
管理员可以通过多种方式设置策略来控制工具使用:
- 拒绝策略(Deny policies)会以不同的粒度阻止工具使用:可以针对特定用户、服务密钥,或两者的组合。拒绝策略也可以适用于所有人,并列出例外。管理员可以在组织或工作区级别设置这些策略。
- 审批策略(Approval policies)要求用户在 MCP 客户端中确认敏感的工具调用,确认后才会执行。例如,在开放某个允许写入数据仓库的工具之前,管理员可以配置人工审批(human-in-the-loop)要求。这样每次 Agent 尝试写入数据仓库时,都会有人进行审查。

可见性:在智能体(Agent)追踪记录中监控工具调用
每一次工具调用都会在 LangSmith 中留下追踪记录,并附带该智能体会话的上下文信息,因此你可以监控工具调用的使用情况、应对相关的审计问题,而无需从多个平台收集追踪记录和日志。工具调用始终会出现在 LangSmith 的追踪记录中,而借助工具网关(Tool Gateway),我们还能获得更丰富的信息:使用的是谁的凭证、使用了哪台服务器、延迟情况以及调用结果。由此一来,调试速度更快,安全审查也有了清晰的记录可供依据。