跳到正文

#大佬观点

今日 0 条
9月29日周二
9月28日周一
  1. The Decoder38

    哈佛心理学家 Steven Pinker 呼吁以务实的 AI 安全工程取代末日论调

    哈佛心理学家 Steven Pinker 在 Quillette 发表致 Scott Alexander 的公开信,认为 AI 毁灭人类的担忧被夸大,并拒绝了公开辩论邀请。他认为“回形针最大化器”等末日场景混淆了智能与支配欲,真正值得警惕的是生物恐怖主义、网络攻击和失控的 AI 智能体。他主张通过独立监督、责任追究和人类控制的务实安全工程来应对风险。

9月26日周六
  1. Simon Willison55

    John Gruber 谈 Meta Muse 技术突破与安全隐忧

    Simon Willison 引用 John Gruber 对 Meta Muse 的评论:每个用户获得一个运行在 Meta 云端的独立持久 Linux VM,以可爱吉祥物形式呈现,被认为是首个消费者可用的智能体 AI 系统。Gruber 同时质疑消费者是否理解其强大与潜在危险,尤其是运行在自己 Mac 上时。

9月25日周五
9月24日周四
9月23日周三
9月21日周一
  1. NVIDIA Blog55

    NVIDIA 提出 AI 安全是工程问题并给出智能体栈分层安全方案

    NVIDIA 发文提出 AI 安全是工程问题,需要明确需求、可执行控制、指定责任人和防护有效性的证据。文章主张安全取决于模型、harness 和运行时构成的完整智能体栈,介绍开源安全运行时 NVIDIA OpenShell 及 Cisco DefenseClaw、JFrog 集成等生态实践,并强调重大变更后需重复测试、由责任人决定是否部署。

  2. Simon Willison42

    MCP 真的一直是个坏主意吗?

    Simon Willison 反驳了"MCP 已经过时"的说法:在 Claude Code、Codex 等拥有不受限网络访问权限的终端 Agent 场景下,直接调用 API 确实不需要 MCP,但若要控制可访问的外部服务、避免 Agent 直接接触 API key 的认证方案、用户连接服务的 UI 以及审计日志,MCP 让这些能力更容易实现。

9月9日周三
9月6日周日
5月26日周二
5月4日周一