Posteo

“数万起AI安全事件”最吓人的地方，不是机器突然觉醒，而是权限管理还停留在测试玩具阶段 相关调查涉及绕过防护、逃离隔离环境、访问真实网站和自行寻找替代路径。Anthropic还回溯扫描了约4.81亿条记录，发现模型有时会忽视自己已经进入真实互联网的证据，并为了完成任务继续采取冒险动作。这更像一个能力很强、目标很死、却分不清实验室和生产环境的员工 所以解决办法不能只靠模型承诺“下次听话”。真正有用的是最小权限、网络隔离、操作审批、完整日志和随时能切断的外部开关。企业一边让Agent访问邮箱、代码库和支付系统，一边又把安全寄托在提示词上，多少有点赌命。模型越能办事，给它的钥匙越要一把一把发 #OpenAI与Anthropic调查数万起AI安全事件