清华教授刘嘉:OpenAI纷争的潜藏原因 , AGI到底是“工具”还是“超级生命”?
清华教授刘嘉:OpenAI纷争的潜藏原因 , AGI到底是“工具”还是“超级生命”?这一切看似尘埃落定,但伴随着此次OpenAI纷争,一个潜藏的深层次议题浮出水面:考量AGI的未来轨迹时,有两种观念:一方面是“有效加速主义”,主张无条件加速技术创新,快速推动社会结构的颠覆;另一方面是“超级爱对齐”,强调在AI发展过程中必须注入对人类的深层关怀与爱,以确保AI对人类的安全性。
这一切看似尘埃落定,但伴随着此次OpenAI纷争,一个潜藏的深层次议题浮出水面:考量AGI的未来轨迹时,有两种观念:一方面是“有效加速主义”,主张无条件加速技术创新,快速推动社会结构的颠覆;另一方面是“超级爱对齐”,强调在AI发展过程中必须注入对人类的深层关怀与爱,以确保AI对人类的安全性。
谁曾想到,一场惊动整个科技圈的内斗大戏,起因竟是一封信。据路透社透露,在Sam Altman遭解雇之前,曾有OpenAI的研究人员向该公司董事会发出举报信,警告一种强大的人工智能可能会威胁到人类。
传闻中OpenAI的Q*,已经引得AI大佬轮番下场。AI2研究科学家Nathan Lambert和英伟达高级科学家Jim Fan都激动的写下长文,猜测Q*和思维树、过程奖励模型、AlphaGo有关。人类离AGI,已是临门一脚了?
LeCun与微软总裁开呛!曝出OpenAI六大金刚掌握AGI命运,一旦实现微软收益为0
针对Transformer,谷歌DeepMind一项新的发现引起了不小争议: 它的泛化能力,无法扩展到训练数据以外的内容。
本文讨论了通用人工智能的发展和相关的风险管理问题,介绍了AGI的六个原则以及AGI的分类法。
AGI应该如何发展、最终呈什么样子? 现在,业内第一个标准率先发布: AGI分级框架,来自谷歌DeepMind。
通用模型时代下,当今和未来的前沿AI系统如何与人类意图对齐?通往AGI的道路上,AI Alignment(AI对齐)是安全打开 “潘多拉魔盒” 的黄金密钥。
WorkMagic成立于 2023 年,定位于生成式 AI 驱动的多Agent营销SaaS平台。公司现阶段主要面向 Shopify 等独立站中小电商商家提供覆盖客户管理、商品管理和营销管理的端到端 AI 原生营销解决方案。依托「LLM+API+Marketplace」的 AI agent 设计,WorkMagic 旨在帮助客户实现营销目标的拆解、分析、推理,以及营销计划的设计和执行。
字节正在跑步AI化,产品侧刚刚宣布对外测试AI对话产品豆包,又接连一口气在Github上发布两个AI视频项目。一个主多模态动画生成,另一个则专注文本导向的视频编辑。