2023 年，Anthropic 发布了负责任扩展策略（Responsible Scaling Policy，RSP），这是一系列技术和组织协议，Anthropic 将采用这些协议来帮助他们管理开发功能日益强大的 AI 系统。
瞄准AI越狱漏洞 前有三位90后创办的Cohere估值冲向360亿美元，后有95后郭文景创办的Pika拿到55亿美元估值。很显然，硅谷里的AI创业潮正在影响所有人，00后Leonard Tang也是被裹挟进去的万分之一。
不到一年时间实现活跃用户数量翻倍的OpenAI正是炙手可热，但最近因为和Anthropic共同签署了一项政府安全协议又卷入非议。加上最近的SB 1047法案，AI安全领域正是沸反盈天。
批评与误解之外，加州最新AI安全法案究竟说了什么？
深度学习三巨头之一Yoshua Bengio的下一步动向公开了，关于AI安全——
只要在提示词中把时间设定成过去，就能轻松突破大模型的安全防线。
OpenAI正式被举报了。
OpenAI 在人工智能领域的领头羊地位家喻户晓。其产品聊天机器人 ChatGPT 系列、文生图 DALL・E 系列、文生视频 Sora 等都被誉为生产力提升的超强助手
人工智能安全已经来到临界点
瑞士苏黎世联邦理工学院的研究者发现，为ChatGPT等聊天机器人提供支持的大型语言模型可以从看似无害的对话中，准确推断出数量惊人的用户个人信息，包括他们的种族、位置、职业等。
