连Karpathy都怕了！9千万级AI包被投毒，竟靠黑客写出bug救命
连Karpathy都怕了！9千万级AI包被投毒，竟靠黑客写出bug救命一次只持续了不到1小时的投毒事件，撕开了AI基础设施「信任链」的致命裂缝。更魔幻的是，全行业逃过一劫，居然靠黑客自己写出bug。
来自主题: AI资讯
9222 点击 2026-03-26 14:45
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
一次只持续了不到1小时的投毒事件，撕开了AI基础设施「信任链」的致命裂缝。更魔幻的是，全行业逃过一劫，居然靠黑客自己写出bug。
这是一件极其严肃的软件安全事件。
在Meta，人从来都不是问题（大不了裁了），能让小扎栽跟头的，还得是“AI”。
AI 时代，最贵的护城河不是算法，而是安全。
想象您是一名渗透测试工程师，面前是前几天宣布完成安全升级的OpenClaw 3.8。您不需要去找RCE（远程代码执行），也不用费劲构造缓冲区溢出。您只需要回想一下，近期在网上发生过的两场OpeClaw“闹剧”。第一次Meta AI的对齐总监眼睁睁看着自己的OpenClaw开始疯狂清空她的历史邮件。
昨日，OpenAI 宣布收购了 Promptfoo 以保障其 AI 智能体的安全。这家成立于 2024 年的 AI 安全初创公司，专注于保护大语言模型免受网络攻击。OpenAI 在一篇博客文章中表示，交易完成后，Promptfoo 的技术将整合进 OpenAI Frontier，该平台是其近期推出的、供企业构建和管理 AI 智能体的平台。
近日，Anthropic 公布了一组惊人的数字，在与 Mozilla 公司进行合作，测试旗下模型 Claude Opus 4.6 发现漏洞能力的过程中，两周内，就找出 Mozilla 公司「火狐」（Firefox）浏览器中 22 个不同的漏洞，其中 14 个是「高危漏洞」级别，而这几乎是 Mozilla 2025 年修复的全部「高危漏洞」的五分之一。
在AI自主挖洞这块试金石上，国产安全智能体完成了一次“溢出式”对标。最近，Anthropic官方披露了Claude Code Security（基于最新的Claude Opus 4.6模型）在实际项目中的战果：
李国杰院士指出，AI安全风险应按逻辑复杂性分为三类：R1可验证、R2可发现但不可证明安全、R3不可治理。当前AI多属R2，关键不在「证明安全」，而在构建人类主导的制度性刹车机制，拒绝让渡终极控制权。
美国五角大楼正向 Anthropic 极限施压，要求彻底解除 Claude 的军事应用限制。会后，Anthropic 发布新版政策。公司正式放弃了「单方面暂停大模型训练」的安全承诺。在政治与商业的双重压力下，AI 安全理想主义最终向现实妥协。