革命新架构掀翻Transformer！无限上下文处理，2万亿token碾压Llama 2
革命新架构掀翻Transformer！无限上下文处理，2万亿token碾压Llama 2继Mamba之后，又一敢于挑战Transformer的架构诞生了！
来自主题: AI技术研报
4132 点击 2024-04-17 19:23
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
继Mamba之后，又一敢于挑战Transformer的架构诞生了！
Transformer 的重要性无需多言，目前也有很多研究团队致力于改进这种变革性技术，其中一个重要的改进方向是提升 Transformer 的效率，比如让其具备自适应计算能力，从而可以节省下不必要的计算。
「尽管我在顶级 ML 会议上发表了多篇一作论文，为开源项目做出了贡献，也在业界产生了影响，但我仍在为进入博士课程而苦苦挣扎。我被顶尖大学拒之门外，感到迷茫和疲惫。」
史上最全的「数学人工智能资源」清单出炉了。 陶哲轩，信奉AI将在2026年成为人类数学家的重要合著者，一早便转发了这份清单。
AI for Math 领域，如果你一直找不到合适的资源，这份清单或许会有帮助
以神经网络为基础的深度学习技术已经在诸多应用领域取得了有效成果
在实践中，人类预测的准确性依赖于「群体智慧」（wisdom of the crowd）效应，即通过聚集一群个体预测者，对未来事件的预测准确率会显著提高
laude 3 具有非常大的内存（ 200k 上下文窗口）和很强的调用准确性，它的上下文能力也因此成为最受欢迎、应用最广的技能。我们介绍过如何利用这种能力，没时间收听播客也能获取核心内容。今天，我们再介绍一个新技能，帮助技术小白快速 get 最新、最前沿的科技成果
困扰全世界几个世纪的「臭名昭著」谜题——费马大定理，或将被AI攻克？一位英国数学家宣布，即将启动用Lean重现费马大定理证明过程的项目，将100页证明变成代码。从此，世界顶尖数学难题的证明将成为「众包」项目，你我都可以进去添几笔。
毫无疑问，数学家的工作方式，正在被AI颠覆！陶哲轩转发的这期美国数学学会通报，大咖云集，星光璀璨。针对AI改变数学的议题，他们中有降临派，也有怀疑论者。而陶哲轩也直接高呼：这个领域太快了，现在我没发表的论文已经不够看了！