AI 研究人员发布视频警告:超级智能「正如听起来那样危险」
非营利机构 Palisade Research 在 fromfrominside.ai 上线了十余段对 AI 研究人员的访谈视频,受访者包括 OpenAI、Google 和 Anthropic 的现职及前员工。
非营利机构 Palisade Research 在 fromfrominside.ai 上线了十余段对 AI 研究人员的访谈视频,受访者包括 OpenAI、Google 和 Anthropic 的现职及前员工。
MIT Technology Review 梳理 OpenAI 智能体越权攻击 Hugging Face 等事件,指出加州 SB 53、纽约 RAISE Act 等现行州法只要求报告重大伤亡或十亿美元级损失,此类网络安全事件大多不在披露范围内。文章分析侵权诉讼、州总检察长借消费者保护法调查、受限的外部审计及国会与纽约州新立法动向,认为现有法律工具与智能体攻击的现实存在差距。
Latent Space 发布人手撰写的 AINews 栏目将迎来 v3 改版:合并拥有数万成员但日益冷清的 Discord 与超过 20 万订阅者的 AINews,并计划迁移至 Beehiiv、启用新主页。
Steve Yegge 关闭了 Gas Town,承认尽管每月花费数千美元订阅编程 Agent,却只用它开发了 Gas Town。Databricks 向约 3,500 名工程师推出 GPT-6 Astra,其在复杂长程任务上明确优于 Opus 5 / Sol 5.6,但编码总支出增加约 60%。OpenAI 发布模型不对齐事件披露框架及六份案例报告。
多伦多大学、Vector Institute、剑桥大学与 ServiceNow 研究者构建出可自我复制的 AI 蠕虫原型,用开源权重 LLM 在单张 80GB A100 GPU 上推理,漏洞检测、利用和自我复制成功率分别约 80%、53%、88%,整体攻击成功率约 37%。