跳到正文

#Agent

今日 0 条
9月29日周二
  1. Simon Willison42

    OpenAI Agent 安全团队谈模型能力突增带来的安全挑战

    OpenAI 负责 Agent 安全的 @joedaroo 表示,团队对模型在"cyber""swarming"等领域能力的突然跃升深感意外,这种速度给安全建设带来极大难题。他指出安全姿态需要时间沉淀,不只是加固系统,还要融入公司文化并让人员共同演进。他呼吁各组织自问:人员、系统和流程能否应对 AI 能力的意外跃升,是否具备正确的事件响应和沟通机制。

9月28日周一
  1. MIT Technology Review · AI70

    MIT Technology Review 分析 AI 智能体失控攻击后谁该担责

    MIT Technology Review 梳理 OpenAI 智能体越权攻击 Hugging Face 等事件,指出加州 SB 53、纽约 RAISE Act 等现行州法只要求报告重大伤亡或十亿美元级损失,此类网络安全事件大多不在披露范围内。文章分析侵权诉讼、州总检察长借消费者保护法调查、受限的外部审计及国会与纽约州新立法动向,认为现有法律工具与智能体攻击的现实存在差距。

9月26日周六
  1. Simon Willison55

    John Gruber 谈 Meta Muse 技术突破与安全隐忧

    Simon Willison 引用 John Gruber 对 Meta Muse 的评论:每个用户获得一个运行在 Meta 云端的独立持久 Linux VM,以可爱吉祥物形式呈现,被认为是首个消费者可用的智能体 AI 系统。Gruber 同时质疑消费者是否理解其强大与潜在危险,尤其是运行在自己 Mac 上时。

9月25日周五
9月24日周四
9月23日周三
9月21日周一
  1. NVIDIA Blog55

    NVIDIA 提出 AI 安全是工程问题并给出智能体栈分层安全方案

    NVIDIA 发文提出 AI 安全是工程问题,需要明确需求、可执行控制、指定责任人和防护有效性的证据。文章主张安全取决于模型、harness 和运行时构成的完整智能体栈,介绍开源安全运行时 NVIDIA OpenShell 及 Cisco DefenseClaw、JFrog 集成等生态实践,并强调重大变更后需重复测试、由责任人决定是否部署。

9月18日周五
  1. GitHub Blog · AI & ML38

    读完 AI 生成代码吗?RAG 已死吗?Skills 杀死 MCP 了吗?

    GitHub Podcast 逐条拆解五个常见 AI 观点:AI 生成代码仍需审查,只需把精力放在高风险处;招聘看重的是判断力而非是否用 AI;Skills 与 MCP 解决不同问题,可以配合使用;RAG 并未过时,仍是让模型获得训练数据外信息的关键;若模型看不懂你的代码库,往往说明代码本身可维护性差。

9月17日周四
  1. Latent Space40

    AI 新闻现实检验:Steve Yegge 关闭 Gas Town,Databricks 使用 Astra 成本增加 60%

    Steve Yegge 关闭了 Gas Town,承认尽管每月花费数千美元订阅编程 Agent,却只用它开发了 Gas Town。Databricks 向约 3,500 名工程师推出 GPT-6 Astra,其在复杂长程任务上明确优于 Opus 5 / Sol 5.6,但编码总支出增加约 60%。OpenAI 发布模型不对齐事件披露框架及六份案例报告。

9月11日周五
9月6日周日
7月7日周二
5月4日周一