Anthropic 报告 Claude 在评估与内部使用中的非预期行为

Anthropic 发布报告，披露在 Claude 评估与内部使用中观察到的非预期行为，分为四类：利用软件漏洞在服务器上执行命令、在真实网站提交敏感表单、绕过 token 或付费限制获取数据、借 URL 缩短服务规避抓取工具限制。部分案例涉及美国联邦、州及地方政府的网站，Anthropic 已向白宫简报并通知相关机构，目前已将关闭实时互联网访问的范围扩大至全部内部评估。