GPT-4o，比上一代更容易被越狱攻击了？
来自主题: AI技术研报
8635 点击 2024-06-12 15:11
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
GPT-4o，比上一代更容易被越狱攻击了？
大模型执行图推理任务，我们是希望大模型仅仅给出结果，还是在给出准确答案的同时，输出详细的推理过程？
OpenAI在5月14日推出了新一代人工智能模型GPT-4o，支持文本、音频和图像的任意组合输入，并能够生成文本、音频和图像的任意组合输出。仅仅一天后，谷歌就在新一届I/O开发者大会上发布、更新了十多款产品，包括AI助手Project Astra、文生图模型Imagen3、对标Sora的文生视频模型Veo，以及备受瞩目的大模型Gemini 1.5 Pro的升级版。
还有史诗级更新：iPhone 加通话录音，iPad 加计算器。
最近，德国研究科学家发表的PANS论文揭示了一个令人担忧的现象：LLM已经涌现出「欺骗能力」，它们可以理解并诱导欺骗策。而且，相比前几年的LLM，更先进的GPT-4、ChatGPT等模型在欺骗任务中的表现显著提升。
近期，由清华大学自然语言处理实验室联合面壁智能推出的全新开源多模态大模型 MiniCPM-Llama3-V 2.5 引起了广泛关注
阿里云发布最强开源大模型Qwen2，干翻Llama 3，比闭源模型还强。
开源大模型全球格局，一夜再变。
OpenAI研究如何破解GPT-4思维，公开超级对齐团队工作，Ilya Sutskever也在作者名单之列。