20 多位顶尖 AI 研究者联名警告自动化 AI 研究带来极端风险
20 多位 AI 研究者包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 研究负责人 Jakub Pachocki 在新论文中警告自我改进 AI 可能引发智能爆炸。
20 多位 AI 研究者包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 研究负责人 Jakub Pachocki 在新论文中警告自我改进 AI 可能引发智能爆炸。
OpenAI 推出 MentalHealthBench,这是一个由专家参与构建的基准,用于评估 AI 在真实心理健康对话场景中回应的有用性与安全性。
OpenAI 经济研究发布新成果,展示劳动者如何超越传统职业角色使用 AI,以及哪些新活动正成为工作中的常态组成部分。研究关注 AI 在实际工作场景中的使用方式及其演变。
OpenAI 宣布分享一个针对 Navier–Stokes 千禧年大奖难题的 AI 生成解答,附带论文写作与 Lean 形式化证明。
推荐理由:官方同时给出论文与 Lean 形式化证明,读者可以借此了解 AI 在数学前沿问题上的实际产出形式。
Multiverse Computing 发布论文 Quantization-Aware Healing,提出 QAH 方法:直接从压缩前的原始模型蒸馏,修复经过结构压缩并量化到 MXFP4 的模型。
Jack Clark 在 Import AI 第 466 期汇总三条线索:Epoch 与 METR 发布 MirrorCode 基准,Opus 4.7 花 14 小时。
Import AI 第462期汇总多篇研究:牛津等机构四项实验共18,978次对话显示AI说服力稳定超过专家人类,Opus 4.1和Opus 4.6最强,真人募捐实验中AI比专业募捐者多筹10.8个百分点。
Google Research 与 Cornell 合作在 PNAS 发表论文,让 GPT-4o、Perplexity、Claude 3.5、Gemini Advanced Pro 1.5、NotebookLM 和自建 RAG 系统回答 67 个铜氧化物高温超导专家问题,由专家按 0 到 2 分多指标盲评。