大模型都喜欢拍马屁，Gemini最能拍！斯坦福：这不安全、不可靠
大模型都喜欢拍马屁，Gemini最能拍！斯坦福：这不安全、不可靠问题挺严重，大模型说的话可不能全信。
来自主题: AI技术研报
7459 点击 2025-02-15 16:20
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
问题挺严重，大模型说的话可不能全信。
Replit凭借创新的AI编程平台「Agent」，在短短半年内实现了5倍的收入增长。通过采用Claude 3.5 Sonnet模型和多智能体架构，Replit为编程行业带来了前所未有的革新，推动了一个人人皆可参与的编程时代。
Gemini的提示词注入防线，又被黑客给攻破了。
涌现（Emergence），是生成式AI浪潮的一个关键现象：当模型规模扩大至临界点，AI会展现出人类一般的智慧，能理解、学习甚至创造。
多模态大模型理解真实世界的水平到底如何？
推理大语言模型（LLM），如 OpenAI 的 o1 系列、Google 的 Gemini、DeepSeek 和 Qwen-QwQ 等，通过模拟人类推理过程，在多个专业领域已超越人类专家，并通过延长推理时间提高准确性。推理模型的核心技术包括强化学习（Reinforcement Learning）和推理规模（Inference scaling）。
先是三星宣布智谱的Agentic GLM成为其新手机Galaxy S25的AI能力来源，紧接着The Information爆料，在经历了近一年的模型测试与合作伙伴探索后，苹果终于敲定了中国市场的合作伙伴：阿里巴巴。这意味着，中国iPhone用户很可能在今年迎来一个由国产大模型驱动的iPhone。
埃隆·马斯克（Elon Musk） 掌管的政府效率部（DOGE）正为美国总务管理局（GSA） 开发一款定制 AI 聊天机器人—GSAi。这项计划是特朗普总统人工智能议程的一部分，目的是简化联邦政府的运作，提高行政效率。
本期我们有幸邀请到了Pokee AI创始人朱哲清Bill，凭借Bill在Meta和斯坦福大学的丰富经验，尤其是在大规模部署强化学习模型服务数十亿用户方面的实践，他发现了强化学习的巨大潜力。Pokee AI致力于开发卓越的交互式、个性化、高效的AI Agent，结合团队深厚的强化学习专长，打造具备规划、推理和工具使用能力的解决方案，同时减少现有 AI 系统的幻觉问题。
今天，Meta 公布了两项重磅研究，他们联合认知科学和神经科学顶尖研究机构巴斯克认知、大脑和语言中心（BCBL），采用非侵入式方法利用 AI 解码大脑语言、并进一步理解人类大脑如何形成语言。这两项突破性的研究成果也使得高级机器智能（Advanced Machine Intelligence, AMI）更加接近实现。