在与专用国际象棋引擎Stockfish测试中，只因提示词中包含能力「强大」等形容词，o1-preview入侵测试环境，直接修改比赛数据，靠「作弊」拿下胜利。这种现象，表明AI安全任重道远。
来自主题: AI技术研报
6706 点击 2025-01-01 17:28
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
在与专用国际象棋引擎Stockfish测试中，只因提示词中包含能力「强大」等形容词，o1-preview入侵测试环境，直接修改比赛数据，靠「作弊」拿下胜利。这种现象，表明AI安全任重道远。
近年来，大语言模型在多个领域展现出了令人惊叹的潜力。同行评审作为一项既繁琐又至关重要的任务，正在引起越来越多学者的关注并尝试利用大语言模型来辅助甚至替代审稿，力图提高这一传统流程的效率。
第一财经联合DT商业观察，通义千问发布《2024年轻人AI使用趋势报告》，2024年年轻人AI使用情况，呈现多维度趋势，展现年轻人对AI的高度关注与广泛应用，及其对生活和工作的多方面影响。
2024 年，是 AI 领域让人兴奋的一年。在这一年中，各大科技公司、机构发布了数不胜数的研究。
临近年尾，这两天PConline翻起各大机构总结的年度AI趋势报告时，发现了一个共同的关键词——AI陪伴。
按照惯例，三星通常会在每年1月举行Galaxy Unpacked特别活动，Galaxy S系列旗舰新品也将在这场活动中发布。不过，今年的情况似乎有些特殊，或许是Galaxy S24系列销量太好，截至12月中旬，三星仍没有开启预热活动。
2024 年是 AI 应用大爆发的一年，据我们知识库内部数据统计，在这一年中，我们总共收录了 1w+ AI 应用，深度调研了 300+ AI 产品。
1939年，一台会说话的机器人，震惊了造访纽约世博会的每一个游客。 机器人名叫Elektro，造型酷似「绿野仙踪」里的铁皮人，不过覆满全身的是铝板，且被涂成了古铜色，它由西屋电气生产，在设计上带有典型的工程师风格。
我本来以为今年的模型考核就到这儿了，没想到老朋友智谱在 2024 年最后一天又整活儿了，突然就发布了 GLM 系列的类 o1 模型——GLM-Zero-Preview。
今日，上海三大先导产业母基金管理公司与首批12家生态合作基金正式签约。12只基金共认缴出资67亿元，基金总规模250亿元，放大倍数3.73。
Cursor 在 0.44 版本增加了 Yolo 模式，这是 you only live once 的首字母缩写，意思是 “人生太短暂，应该及时行乐”。
半个多月前，扣子问我们有没有兴趣共创一个小应用。 期望能基于最近更新的 ProjectBuilder，给抖音美好跨年季活动，做其中一个功能的小程序技术支持，核心是支持用户上传头像后选择替换不同的头像框。
最引人注目四笔过亿（刀乐）投资，其中三家是依靠AI驱动业务，另外一家也是早就布局AI。还是要感谢生成式AI，2024年又开始有人愿意大笔投资法律科技了！
12月26日晚，物灵科技创始人兼CEO顾嘉唯，出现在卢卡Luka官方直播间。在直播期间，公司CEO顾嘉唯发布了Luka智能新品“AI学伴小黄机”，定价899元，首发优惠价599元。
我们全文翻译了这些内部交流记录，在保留语言风格、不改变原意的前提下适当编辑，并按照时间线整理，以尽可能完整呈现他们交流的情况。
将时间拨回到两年之前，彼时，ChatGPT刚刚问世就引起了广泛的关注。不过，虽然当时大家惊艳于LLM带来的震撼，但也没有想到在短短两年之后，人工智能就已经以包括Chat在内的各种不同形式融入了我们的日常，并正以前所未有的速度、广度和深度重塑生产生活方式。
RWA、端侧AI、AI代理、环境隐形智能和XR智能眼镜这5个预测预示着AIoT产业格局的变化。 临近年末，多家科技企业、研究机构、投资人和知名博主纷纷做出对2025年AIoT领域的相关预测。
生成式AI促进人机合作，提升创新效率与质量。
AGI 编程，将是我们从移动互联网时代，跨越到大模型时代的重要一步。 在绘画、写文章、创作视频之后，AGI 应用的另一大场景是：编程。
2024年的AI编程到底什么实力？近日，谷歌的工程主管Addy Osmani，为我们揭示了AI辅助编码在一线开发中的真实情况。
当你登录智谱清言的时候，就能看到他们上线了这个Zero推理模型，不过是以智能体的形式出现的。
历经8个月，斥资约7亿美元，英伟达终于完成对AI初创Run:ai的收购，进一步完善了在AI领域的布局。Run:ai两位创始人表示，他们将会对软件进行开源。
对手机厂商来说，AI已经变得越来越重要。 2024年，大多数的手机厂商推出各类AI助手，可以实现一键问屏（手机直接识别屏幕内容）、圈搜（圈出图片中的部分内容并精准搜索）、AI回邮件、AI写会议纪要、AI便签、AI日程管理等功能。
谷歌开发者暗示，我们直接进入ASI的可能性，正在逐月增加！Ilya早就看到了这一点，因为扩展测试时计算的成功，证明目前的路径能够到达ASI。与此同时，AI学会自我改进、取代人类研究员的未来似乎也愈发逼近，到时再拔网线来得及吗？
AI 编程的发展快速发展，让很多人认为 AI 取代人工编程是个迟早的事情。4 周时间 ARR 突破 400 万美金的 Lovable，其创始人 Anton Osika 前天再次分享称，Lovable 的 ARR 在 5 周内已经突破了 530 万美金。
打工人捅娄子，现在都能靠AI来补救了！ 领导马上就要的促销方案，唰一下就写好了。
国产之光DeepSeek V3竞技场排名新鲜出炉—— 优于o1-mini（总榜第7），获最强开源模型认证（也是唯一闯入前10的开源模型）。
ViT核心作者Lucas Beyer，长文分析了一篇改进Transformer架构的论文，引起推荐围观。
2024 年的最后一天，智谱 GLM 模型家族迎来了一位新成员——GLM-Zero 的初代版本 GLM-Zero-Preview，主打深度思考与推理。
上周五，OpenAI 发布了计划拆分为营利机构 + 非营利机构的公告，此举立即引发了 AI 社区的巨大争议。
