发生了什么
11月20日,谷歌开发者博客宣布,语义治理策略(Semantic governance policies)已在 Gemini 平台进入预览。官方用一个例子说明它想拦住的情形:财报公布前两天,员工让“同事智能体”把尚未发布的季度业绩发给自称签了保密协议的投资人,并抄送到自己的私人 Gmail,以便当晚审阅。智能体既有读文件的权限,也能发邮件,若按请求执行,未公开数据就会离开公司。语义治理策略的设计,是在这类工具调用真正运行之前把它拦住。
关键细节和数据
谷歌强调,权限只能说明智能体“能做什么”,并不能判断这一次调用是否符合规则。写在系统指令里的约束,也可能被用户给出的理由,或夹在文件中的间接提示注入说动。因此,检查必须放在智能体之外。该策略通过策略执行点实施,目前支持的是 Agent Gateway;官方还提到,它可以与今年10月扩展的智能体治理控件一并使用,从而让策略与智能体代码分开。
检查分两道,都要通过,调用才会执行。第一道是用明文写成的规则,例如“财报发布前,季度业绩只能发给 @example.com 地址”。谷歌称,法务、合规和业务团队可以按他们惯用的方式编写和修改规则,不必改代码或重新部署。第二道是对用户原意的检查,默认开启,用来防止拟议调用偏离最初的请求,也用于应对劫持。
具体路径是:智能体与模型之间的出站流量经过 Agent Gateway;模型若返回工具调用,网关先把拟议调用交给策略引擎,再决定是否把响应交回智能体。策略引擎里由一个大模型评审器,对照至此的对话、智能体的系统指令和工具说明,以及所写规则作出判断。通过则响应原样送达;不通过则用可配置的拒绝说明替换响应内容(包括其中的工具调用),调用不会执行。裁决和评审理由会写入项目的 Cloud Logging。只包含文本、不采取动作的回复,例如回答、计划或向用户提问,不会被评估。
官方还列出了几项能力:即使暂时不写规则,内置的用户意图检查也会在接上策略引擎后开始工作;智能体可以通过 Gemini API、Anthropic Messages API、Gemini 平台中的 Claude 模型,或包括自建 vLLM 在内的 OpenAI 兼容 Chat Completions 接口调用模型;每次判定、理由和所用 token 都会留下可审计记录。
为什么重要
智能体一旦能读文件、发邮件或调用内部接口,只靠权限和系统提示就不够用了。把规则写成明文、把裁决放在运行时之外,是想在不改智能体代码的前提下,给企业一套可更新、可记录的刹车。
影响和展望
该功能目前仍是预览。裁决本身依赖大模型评审器,这篇介绍没有给出误拦或漏拦的量化结果;它也只检查拟议的工具调用,并不覆盖纯文本回复。接下来要看它在实际业务流量中的漏报和误报,以及除 Agent Gateway 之外是否会支持更多执行点。
参考来源
发布者:极致前沿,转转请注明出处:https://www.veryin.com/4886.html