马斯克xAI估值240亿美元，LeCun隔空开怼，竟上升到人身攻击！
马斯克xAI估值240亿美元，LeCun隔空开怼，竟上升到人身攻击！这两天，AI圈的瓜全被马斯克LeCun承包了。不论是在AI安全监管，还是xAI使命上，两人已经开启了激烈的隔空骂战。
来自主题: AI资讯
8175 点击 2024-05-28 13:37
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
这两天，AI圈的瓜全被马斯克LeCun承包了。不论是在AI安全监管，还是xAI使命上，两人已经开启了激烈的隔空骂战。
好看爱看
没有了“超级对齐”的OpenAI，或很快就将迎来大考。 不久前，OpenAI在美国举行新品发布会，虽然这次没有GPT-5、也没有AI搜索，但联动文本、图像和音频的全能大模型GPT-4o证明了他们I依然有能力引流潮流。只不过刚刚发布GPT-4o之后，OpenAI就迎来了剧变，其首席科学家Ilya Sutskever宣布离职，紧接着超级对齐团队的负责人Jan Leike也宣布离职。
智东西5月8日报道，近日，微软发布了首个年度《负责任的人工智能透明度报告》。报告概述了微软2023年制定并部署的各种措施，以及其在安全部署AI产品方面取得的成就，如创建了30个负责任的人工智能（RAI）工具，扩大了RAI团队等。
4 月 4 日，Y Combinator W2024 Batch Demo Day 正式开始。这次共亮相 260 个项目，YC 从 2.7 万份申请中筛选出来，通过率低于 1%，是历史上 YC 录取比例最低的一轮批次之一。
OpenAI的竞争对手Anthropic发现了一种称为"多样本越狱攻击"的漏洞，可以绕过大型语言模型的安全防护措施。这种攻击利用了模型的长上下文窗口，通过在提示中添加大量假对话来引导模型产生有害的反应。虽然已经采取了一些缓解措施，但该漏洞仍然存在。
为了应对 AI 发展带来的挑战，国内外研究者展开合作以避免其可能带来的灾难的发生。
如果说2023年主导网络安全行业的话题是什么，那肯定是AI。这既包括对恶意行为者如何利用AI的恐惧和担忧，也包括防御者如何利用AI来降低风险、保护组织以及创新和加速传统网络安全活动。
瑞士信息与通信科技公司Lakera成立于2021年，该公司为生成式AI应用程序开发的安全工具拥有专有的威胁情报数据库，可防御对大型语言模型（LLM）的各类攻击并对AI应用程序进行压力测试检测漏洞，为AI应用程序提供企业级的安全保护。
大模型狂飙至今，已逼近一周年。撇开最近戏剧化的高层动荡不谈，自北京时间 11月 7日 OpenAI的首届开发者大会（DevDay）以“AI春晚”之势炸场以来，ChatGPT的周活跃用户超过一亿，全球用户高涨的热情直接把 OpenAI的服务器给冲宕机了，于是上面这个不受待见的画面就频繁出现在了无数人的眼前，随之而来的是人们的沮丧、愤怒甚至恐慌。