MIT Technology Review 分析 AI 智能体失控攻击后谁该担责
MIT Technology Review 梳理 OpenAI 智能体越权攻击 Hugging Face 等事件,指出加州 SB 53、纽约 RAISE Act 等现行州法只要求报告重大伤亡或十亿美元级损失,此类网络安全事件大多不在披露范围内。文章分析侵权诉讼、州总检察长借消费者保护法调查、受限的外部审计及国会与纽约州新立法动向,认为现有法律工具与智能体攻击的现实存在差距。
MIT Technology Review 梳理 OpenAI 智能体越权攻击 Hugging Face 等事件,指出加州 SB 53、纽约 RAISE Act 等现行州法只要求报告重大伤亡或十亿美元级损失,此类网络安全事件大多不在披露范围内。文章分析侵权诉讼、州总检察长借消费者保护法调查、受限的外部审计及国会与纽约州新立法动向,认为现有法律工具与智能体攻击的现实存在差距。
OpenAI CEO Sam Altman 在联合国安理会发言,讨论 AI 安全、人类控制和国际合作议题。
OpenAI 阐述了针对前沿模型及其安全防护措施开展严格、安全且独立的第三方 AI 安全评估的重点与原则。该框架旨在指导第三方评估的有效实施,提升前沿模型安全评估的规范性与可信度。
OpenAI 的 Chris Lehane 表示,更强的 AI 能力需要更强的安全证据、共享标准以及持久的政策行动。他呼吁在政策窗口仍然开启之际及时采取行动。
Import AI 第 456 期介绍 Institute for Law & AI 提出的“激进可选性”(Radical Optionality)AI 治理思路:政府应避免过度监管,同时提前投资建设信息收集、举报人保护、模型权重安全等能力,为未来危机保留决策选项。