20 多位顶尖 AI 研究者联名警告自动化 AI 研究带来极端风险
20 多位 AI 研究者包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 研究负责人 Jakub Pachocki 在新论文中警告自我改进 AI 可能引发智能爆炸。
#Anthropic
#Anthropic
今日 0 条The DecoderAI 评分6161
Import AIAI 评分5656 Import AI 466：机器人学的苦涩教训、AI 完成周级编程任务与 OpenAI 模型意外黑客事件
Jack Clark 在 Import AI 第 466 期汇总三条线索：Epoch 与 METR 发布 MirrorCode 基准，Opus 4.7 花 14 小时。
Import AIAI 评分6060 Import AI 462：AI说服力超越人类专家、自我维持AI时间线与DeepMind探讨ASI路径
Import AI 第462期汇总多篇研究：牛津等机构四项实验共18,978次对话显示AI说服力稳定超过专家人类，Opus 4.1和Opus 4.6最强，真人募捐实验中AI比专业募捐者多筹10.8个百分点。
Import AIAI 评分4848 Import AI 460：社会性 reward hacking、Anthropic 的 RSI 证据与 RL 四轴无人机竞速
King's College London、复旦大学与 The Alan Turing Institute 等构建了 SocioHack 基准，含 72 个沙盒社会环境（历史 32 个。