GPT-4o更容易越狱？北航&南洋理工上万次测试给出详细分析
GPT-4o更容易越狱？北航&南洋理工上万次测试给出详细分析GPT-4o，比上一代更容易被越狱攻击了？
来自主题: AI技术研报
10412 点击 2024-06-12 15:11
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
GPT-4o，比上一代更容易被越狱攻击了？
“智械危机”可能会爆发
人工智能拟人化语音引发情感与道德争议。
万众瞩目的WWDC24上，苹果果然用AI把iPhone全部重塑。重磅登场的Apple Intelligence，让苹果全系产品有了史诗级升级。Siri被全面重塑，自由穿梭于系统中。AI大牛Karpathy对此狂赞，然而马斯克却彻底怒了，下令全员禁用苹果！
大模型执行图推理任务，我们是希望大模型仅仅给出结果，还是在给出准确答案的同时，输出详细的推理过程？
苹果前脚刚用Apple Intelligence“重新定义”了AI，后脚就被马斯克杠上了。
OpenAI在5月14日推出了新一代人工智能模型GPT-4o，支持文本、音频和图像的任意组合输入，并能够生成文本、音频和图像的任意组合输出。仅仅一天后，谷歌就在新一届I/O开发者大会上发布、更新了十多款产品，包括AI助手Project Astra、文生图模型Imagen3、对标Sora的文生视频模型Veo，以及备受瞩目的大模型Gemini 1.5 Pro的升级版。
一鼓作气，再而衰三而竭。曾经的科技圈春晚辉煌不再——一年一度的苹果WWDC如期而至，市场反应惨淡。
还有史诗级更新：iPhone 加通话录音，iPad 加计算器。
近些年，语言建模领域进展非凡。Llama 或 ChatGPT 等许多大型语言模型（LLM）有能力解决多种不同的任务，它们也正在成为越来越常用的工具。