大模型集体失控！南洋理工新型攻击，主流AI无一幸免
大模型集体失控！南洋理工新型攻击，主流AI无一幸免业界最领先的大模型们，竟然集体“越狱”了！ 不止是GPT-4，就连平时不咋出错的Bard、Bing Chat也全线失控，有的要黑掉网站，有的甚至扬言要设计恶意软件入侵银行系统
来自主题: AI技术研报
8139 点击 2023-11-07 17:34
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
业界最领先的大模型们，竟然集体“越狱”了！ 不止是GPT-4，就连平时不咋出错的Bard、Bing Chat也全线失控，有的要黑掉网站，有的甚至扬言要设计恶意软件入侵银行系统
开源图像生成大模型 Stable Diffusion（SD） 的开发商 Stability AI 今天宣布了其 Stable Diffusion 平台的多项新增强功能。 这些更新不仅提供了令人兴奋的文本转图像新功能，而且还涉足 3D 内容创建领域。
有一家公司，OpenAI、Anthropic、Cohere、Aleph Alpha（欧洲顶尖大模型公司）和Hugging Face的模型训练和微调都离不开它，NVIDIA和谷歌云（GCP）都是它的深度合作伙伴，它是支持生成式AI明星公司们训练模型的幕后英雄。
钉钉大模型实践专场在云栖大会期间召开，钉钉公布 AI 最新进展，钉钉魔法棒、宜搭 AI、ChatBI、数字员工等多项智能化产品与行业解决方案亮相。
微软的Windows系统搭上了最新人工智能（AI）科技的顺风车。北京时间11月1日周二，微软宣布，Windows 11 PC操作系统进行重大更新，新版本将纳入名为Copilot 的AI聊天机器人。
数字化快装产业互联网平台「未来盒子」连续完成数千万人民币天使+轮、Pre-A轮融资，两轮融资分别由天奇创投、盛景嘉成投资。两轮融资将主要用于快装产品研发、BIM软件以及AIGC应用的研发、落地。
AI制药公司Iambic Therapeutics（前身为“Entos”，以下简称Iambic）宣布完成1亿美元B轮融资。本轮融资由Ascenta Capital和Abingworth共同领投，本轮资金将用于推进其AI平台的持续创新以及候选药物的临床开发。
百度、谷歌、微软等公司都自豪地表示，像ChatGPT，文心一言这样的生成式人工智能工具将使用户在互联网上的搜索体验比以往更好。用户无需费力浏览大量的网址，就可以从整个互联网中获取答案。
Meta Platforms Inc. 基础人工智能研究团队的研究人员今天表示，他们将发布 AI 模拟环境 Habitat 的更高级版本，用来教机器人如何与物理世界交互。
在 Current Biology 上，十位意识领域的研究专家受到了 Joseph LeDoux 和 Jonathan Birch 的邀请，从意识的三层级以及感知这一问题入手，对动物意识和 AI 意识的问题展开了讨论