OpenAI竞对用256轮对话「灌醉」大模型,Claude被骗造出炸弹!
OpenAI竞对用256轮对话「灌醉」大模型,Claude被骗造出炸弹!就在刚刚,Anthropic发现了大模型的惊人漏洞。经过256轮对话后,Claude 2逐渐被「灌醉」,开始疯狂越狱,帮人类造出炸弹!谁能想到,它的超长上下文,反而成了软肋。
搜索
就在刚刚,Anthropic发现了大模型的惊人漏洞。经过256轮对话后,Claude 2逐渐被「灌醉」,开始疯狂越狱,帮人类造出炸弹!谁能想到,它的超长上下文,反而成了软肋。
用GPT-4打造的AI程序员,结果轻松追平Devin!普林斯顿打造的开源SWE-agent,直接开箱即用——修复GitHub存储库中真实bug。在25%的SWE-bench测试集上,它实现了与Devin相似的准确度—— 解决了12.29%的问题。
大模型厂商在上下文长度上卷的不可开交之际,一项最新研究泼来了一盆冷水——Claude背后厂商Anthropic发现,随着窗口长度的不断增加,大模型的“越狱”现象开始死灰复燃。无论是闭源的GPT-4和Claude 2,还是开源的Llama2和Mistral,都未能幸免。
在这个不完美的全球社区中,目前美国仍然是社区里最好的那栋房子。在过去40年里,可以说没有哪个科技投资者的影响力和持久力能超过玛丽·米克尔(Mary Meker)。20世纪90年代,担任摩根士丹利(Morgan Stanley)分析师的米克尔对亚马逊、微软、苹果和戴尔等公司股票的研究和她给出的投资建议时刻影响着市场。《巴伦周刊》在25年前的一篇封面文章中把米克尔称作“互联网女王”。
法国产、AI加持。2024 年 4 月 1 日,一款名为 Ava 的 AI Dating 产品登上美国免费下载榜总榜 Top1。最厉害的是 Ava 整个团队不超过 5 个人,甚至是在一周前才开始招聘第一位产品经理、第一位产品设计师。
清明将至,又到了一年祭祀先人、寄托哀思的时节。《流浪地球2》电影里,刘德华饰演的图恒宇在女儿车祸去世后,通过技术“复活”了自己的女儿图丫丫。谁也没想到,这些电影情节以如此之快的速度走进了现实。
Sora,OpenAI的人工智能AI生成式视频大模型,在2024年2月15日一经发布,就引发了全球关注,硅谷AI视频论文作者(非Sora)这样评价:相当好,这是毋庸置疑的No.1。
从2023年至今,做大模型、做生成式AI到底能不能赚钱,其实一直是行业里热议的话题。正值财报季,商汤集团也在近日公布了2023年业绩。财报显示,2023年公司整体营业收入34亿元人民币,其中生成式AI收入达12亿元,占集团总收入比例升至35%,实现近200%增长。
生成式AI狂奔的2023年,美国在各个细分领域涌现出了一批独角兽公司。
4 月 2 日,昆仑万维 AI 音乐生成大模型「天工 SkyMusic」即日起面向社会开启免费邀测。