用慢思考提升模型安全性，北交大、鹏城实验室提出系统2对齐
用慢思考提升模型安全性，北交大、鹏城实验室提出系统2对齐OpenAI 在 “双十二” 发布会的最后一天公开了 o 系列背后的对齐方法 - deliberative alignment，展示了通过系统 2 的慢思考能力提升模型安全性的可行性。
来自主题: AI技术研报
8900 点击 2025-01-24 14:45
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
OpenAI 在 “双十二” 发布会的最后一天公开了 o 系列背后的对齐方法 - deliberative alignment，展示了通过系统 2 的慢思考能力提升模型安全性的可行性。
未来，掌握持续提示工程技术的开发者，将主导下一代智能系统的进化方向。
由无问芯穹与上海交通大学联合研究团队提出的视频生成软硬一体加速器，首次实现通过差分近似和自适应数据流解决 VDiT 生成速度缓慢瓶颈，推理速度相比 A100 提升高达 16.44 倍。
动辄4600家参展商，2025的CES（国际消费类电子产品展览会）已全数AI。在此次会上，为人熟知的硬/软件产品悉数登场。其中，陪伴类、耳机和眼镜类产品同台竞技。在这个同台竞技的场景里，出现了一个始料未及的副作用：各家项目的信息不对称被拉齐了。这可能并不是一件好事：因为，一些本来看似在去年一整年想明白的事情，再次成为争论的话题。
从预定到交付，一款AI眼镜需要的时间可能比新能源汽车还要久。这种产品交付时间的反差性，来自AI眼镜赛道的新势力闪极。有网友戏谑称：“5月底预定的闪极拍拍镜还没发货，但是同期预定的小米汽车早就开上了，期待小米官方早日重启AI眼镜产品线，把中小厂的交付速度卷起来。”
时隔不到一个月，DeepSeek又一次震动全球AI圈。去年 12 月，DeepSeek推出的DeepSeek-V3在全球AI领域掀起了巨大的波澜，它以极低的训练成本，实现了与GPT-4o和Claude Sonnet 3.5等顶尖模型相媲美的性能，震惊了业界。
谁是Luca Rossi？他的官方职位是“联想集团执行副总裁兼智能设备业务集团（IDG）总裁”，换成直白一点的形容，Luca管理着联想旗下几乎所有消费级终端产品——包括PC、智能手机、平板电脑等等。
AI硬件能孕育出新的巨头吗2025年初，在AI大模型和AI应用热潮之后，消费级AI硬件也开始逐步受到市场和资本的关注，除了手机和PC外，AI也确实正在改变消费电子产品的外延和形态。截至目前，我们统计至少已有117家公司入局了AI硬件。这些硬件产品主要集中在眼镜、耳机、教育、陪伴、助理和健康六大领域，其中有超7成为中国公司，除中国之外，美、日、韩、印、以色列企业均有参与。
本文内容适合关注 AI 前沿的读者。回顾2024年 AI 编程领域技术和产品创新，同时总结企业提效在落地的真实效果和挑战，从落地实践和思考，观察行业趋势和分析解决方案。最后，展望2025年AI 编程下一代技术给大家的期待。
本文内容适合关注 AI 前沿的读者。回顾2024年 AI 编程领域技术和产品创新，同时总结企业编程提效在落地的真实效果和挑战，从落地实践和思考，观察行业趋势和分析解决方案。