搜索
语言建模领域的最新进展在于在极大规模的网络文本语料库上预训练高参数化的神经网络。在实践中，使用这样的模型进行训练和推断可能会成本高昂，这促使人们使用较小的替代模型。然而，已经观察到较小的模型可能会出现饱和现象，表现为在训练的某个高级阶段性能下降并趋于稳定。
当前最火的大模型，竟然三分之二都存在过拟合问题？
AI又把「魔爪」伸向了一波打工人，而且这次还是一波高级打工人。
答案揭晓了！ 「神秘gpt2-chatbot不是GPT-4.5」。
人工智能的发展为医疗行业带来前所未有的机遇与变革，但由于高度依赖面对面的程序诊断和物理治疗，骨科其实一直被外界视为较难数字化的专病领域之一。在大众重视程度有限的情况下，想要让大规模人群享受到骨科数字化产品的便利就更是难上加难。
人工智能在战争中的应用引起了人们的关注，致命自主武器系统的出现将改变战争的性质，国际社会正在探讨如何管控AI武器的发展。
在陶哲轩的启发下，越来越多的数学家开始尝试利用人工智能进行数学探索。这次，他们瞄准的目标是世界十大最顶尖数学难题之一的费马大定理。
2024 年 4 月 20 日，即 Meta 开源 Llama 3 的隔天，初创公司 Groq 宣布其 LPU 推理引擎已部署 Llama 3 的 8B 和 70B 版本，每秒可输出token输提升至800。
微软与 OpenAI 之间的关系紧密而复杂。在 OpenAI CEO Sam Altman 陷入辞退的风波时，微软 CEO 纳德拉曾多次力挺他，并向他抛出橄榄枝。当这场 OpenAI「宫斗」过去后，纳德拉也表示，无论 Altman 身在何处，仍然会支持他。
自2021年诞生，CLIP已在计算机视觉识别系统和生成模型上得到了广泛的应用和巨大的成功。我们相信CLIP的创新和成功来自其高质量数据（WIT400M），而非模型或者损失函数本身。虽然3年来CLIP有大量的后续研究，但并未有研究通过对CLIP进行严格的消融实验来了解数据、模型和训练的关系。