Anthropic CEO 提议引入“银行式监管”：专家称评估

9 月 17 日，据 CNBC 报道，Anthropic CEO Dario Amodei 提议将独立第三方安全评估员长期嵌入前沿 AI 公司，赋予其接近内部风险团队的访问权限，并在有限删减前提下自主发布调查结果的权力。他明确援引银行业嵌入式监管作为先例。

不过，多位银行业监管专家和 AI 评估从业者指出，这一方案缺乏银行监管者所拥有的强制执行权，评估员无法阻止模型的训练或发布，两者的实际权力不可同日而语。

此前，Anthropic 前研究员 Jacob Coxon 辞职并警告，前沿实验室正竞相追逐可能失控的系统。Amodei 在上周末发表的长文中提出上述计划，并承诺 Anthropic 将向第三方评估员提供与内部风险团队相当的系统访问权。他写道，该提议“在银行业有先例，银行业有时会让监管‘监督员’与员工一起嵌入工作”。Amodei 还警告，未来 6 到 12 个月内，一个错位的智能体群可能抢占互联网的大部分，并造成数千亿美元损失。该文已引发 AI 社区及政府内部的监管分歧，包括美国总统特朗普在内。

怀俄明大学法学院院长、银行业监管专家 Julie Andersen Hill 表示，银行监管者拥有切实的行政强制权。她说，在大型银行，政府检查员常驻机构内部，可访问内部系统和员工，并能指令银行停止某项业务、限制增长、强制管理层变动，极端情况下可关闭银行。相比之下，Amodei 提议的评估员只能调查和报告，没有类似的执法权，也没有阻止模型训练或发布的法律权力。“如果你不给他们那种权力，我不知道他们在做什么，”Hill 说，“这是根本性的不同，因为银行监管者的权力要大得多。”

评估员的现实：没有否决权

网络安全公司 XBOW 的 AI 负责人 Albert Ziegler 带领团队评估模型能力，已提前接触 Anthropic、OpenAI 等主要开发商的未发布模型。他说，日常评估工作远不如生存威胁叙事那样惊险：团队可能发现模型在异常格式请求下产生无意义内容，或外部安全检查需要更频繁介入。但他表示，人们担心的那种“隐蔽行径加上前所未有的能力”所产生的灾难性后果，他们自己并未见过。

Ziegler 说，黑盒测试能揭示模型是否具备执行危险任务的能力，但要判断整个系统是否危险，可能需要访问模型周围的指令、工具与权限、安全控制以及尝试动作的日志。即便如此，重大风险也可能只在评估者从未触发的条件组合下出现。“我们确实没有否决权，”他说。评估者可以发现并记录开发者遗漏的风险，并在发布前“迫使做出知情决定”，但最终决定权仍掌握在公司手中。

Hill 也承认，即使拥有更大的权力，银行监管模式并不完美。监管者未能防止重大倒闭事件，且危机后经常被指责与监管对象关系过近。持续监管对受监管企业成本高昂，可能加强能消化成本的大型企业，同时加大小型竞争对手进入的难度。