Ilya Sutskever精选论文:柏拉图表征假说
Ilya Sutskever精选论文:柏拉图表征假说AI科学家用深度学习探索现实本质,追求全局最优解。
AI科学家用深度学习探索现实本质,追求全局最优解。
大语言模型可谓是迄今为止对人类行为最大的建模,如何借助大语言模型工具,让科技发展更好地应用到真实人类社会中去?从哈佛物理系到大语言模型结合社会学和经济学的研究,朱科航的思考路径,聚焦在对人类行为的深度学习和理解。在开始今天阅读之前,大家不妨先猜一猜,大语言模型之前人类应用最广的 TOP2 机器学习是什么?Enjoy
在人工智能科学的先锋领域,尤其是深度学习与决策智能的探索中,文青松博士凭借其在学术研究与实际应用方面的卓越贡献,已然成为业界领军人物。
Ilya前脚刚离职,OpenAI超级对齐团队负责人Jan Leike,紧接着也官宣了。
今天,OpenAI 联合创始人、首席科学家 Ilya Sutskever 发推宣告离职。
随着深度学习大语言模型的越来越火爆,大语言模型越做越大,使得其推理成本也水涨船高。模型量化,成为一个热门的研究课题。
当地时间5月7日,ICLR 2024颁发了自大会举办以来的首个「时间检验奖」!
在机器学习社区中,ICLR (国际学习表征会议)是较为「年轻」的学术会议,它由深度学习巨头、图灵奖获得者 Yoshua Bengio 和 Yann LeCun 在 2013 年牵头举办。但 ICLR 很快就获得了研究者的广泛认可,并且在 AI 圈拥有了深度学习会议「无冕之王」的称号。
由深度学习巨头、图灵奖获得者 Yoshua Bengio 和 Yann LeCun 在 2013 年牵头举办的 ICLR 会议,在走过第一个十年后,终于迎来了首届时间检验奖。
20 世纪 90 年代,长短时记忆(LSTM)方法引入了恒定误差选择轮盘和门控的核心思想。三十多年来,LSTM 经受住了时间的考验,并为众多深度学习的成功案例做出了贡献。然而,以可并行自注意力为核心 Transformer 横空出世之后,LSTM 自身所存在的局限性使其风光不再。