对话田渊栋：Scaling law代表一个非常悲观的未来
对话田渊栋：Scaling law代表一个非常悲观的未来Scaling law发展到最后，可能每个人都站在一个数据孤岛上。
来自主题: AI资讯
8535 点击 2024-06-03 17:23
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
Scaling law发展到最后，可能每个人都站在一个数据孤岛上。
首个“脑PU”来了！由“16核”类人脑器官（human brain organoids）组成。
在脑机接口领域取得突破性进展的公司不止Neuralink一家。Precision Neuroscience发布公告称，他们采用与Neuralink不同的技术路径，在人脑上成功放置了4096个电极，打破了去年2048个电极的最高纪录。
深度学习领域知名研究者、Lightning AI 的首席人工智能教育者 Sebastian Raschka 对 AI 大模型有着深刻的洞察，也会经常把一些观察的结果写成博客。在一篇 5 月中发布的博客中，他盘点分析了 4 月份发布的四个主要新模型：Mixtral、Meta AI 的 Llama 3、微软的 Phi-3 和苹果的 OpenELM。
AlphaFold3的横空出世再次震撼了整个学术界，然而谷歌DeepMind的「不开源」引起学界不满，AlphaFold服务器遭到黑客攻击，开源项目也开始发力。
刚刚，苹果和OpenAI曝出价值数十亿美元的合作，这也让微软CEO纳德拉直接急眼了！根据内部消息，纳德拉已经紧急约谈了Altman，对新合作可能对微软业务产生的影响表示了担忧。好在，据悉苹果AI Siri跳票至2025年，纳德拉可以暂时先别急。
开放但禁止商用用途。
猫头鹰的大脑约有11.5亿个神经元、1280亿个突触。 全部塞进一个微波炉大小的机箱——就成了世界上最大的神经拟态系统，英特尔Hala Point。
开源代码大模型的王座，再次易主！ 来自素有“欧洲OpenAI”之称的Mistral，用22B参数量表现超越了70B的Code Llama。
本文探讨了大模型未来三年的发展趋势，从AI在2B和2C领域的应用到Real Economic Impact的影响，再到工业领域和能源需求等方面进行了深入分析。