大模型隐蔽后门震惊马斯克：平时人畜无害，提到关键字瞬间“破防”
大模型隐蔽后门震惊马斯克：平时人畜无害，提到关键字瞬间“破防”“耍心机”不再是人类的专利，大模型也学会了！经过特殊训练，它们就可以做到平时深藏不露，遇到关键词就毫无征兆地变坏。
来自主题: AI资讯
9458 点击 2024-01-14 13:54
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
“耍心机”不再是人类的专利，大模型也学会了！经过特殊训练，它们就可以做到平时深藏不露，遇到关键词就毫无征兆地变坏。
近半年来，文生视频、图生视频类的工具层出不穷，让人眼花缭乱。但不少实际体验过的用户一定会感受到，脑中的想法转化为语言尚且不易，而人类的语言复杂而精妙，想要再找到准确的提示词，让AI正确理解我们的意图，继而转换为图片和视频，实在是太难了。
prompt——这是网易有道公布的2023年度词汇。过去一年，带火prompt一词的大模型，在各行各业掀起波澜。其中在教育领域，大模型的影响正在逐渐显现。
OpenAI最近官方放出了自己的提示工程指南，从大模型小白到开发者，都可以从中消化出不少营养。看看全世界最懂大模型的人，是怎么写提示词的。
不会，prompt engineering 仍然是一个基本技能。GPTs 就是一个简化版的 Agent，这段提示词就是你能用来控制这个 Agent 最重要指令。
近日，清华大学刘永进教授课题组提出了一种基于扩散模型的文生3D新方式。无论是不同视角间的一致性，还是与提示词的匹配度，都比此前大幅提升。
作为连接人类与大模型的桥梁，大模型对 「Prompt (提示词)」 究竟有多敏感？同样的prompt，可能写错个单词、写法不一样，都会出现不一样的结果。
12 月 15 号，OpenAI 在他们的文档里上线了 Prompt engineering，也就是提示词工程指南，至此，终于算是有了一个权威且有效的 Prompt 工程标准文档。
大模型的效果好不好，有时候对齐调优很关键。但近来很多研究开始探索无微调的方法，艾伦人工智能研究所和华盛顿大学的研究者用「免调优」对齐新方法超越了使用监督调优（SFT）和人类反馈强化学习（RLHF）的 LLM 性能。
微软最新研究再次证明了提示工程的威力——无需额外微调，无需专家策划，仅凭提示，GPT-4就能化身“专家”。