ChatGPT 人工智能 GPT4 伦理 生成式 医疗 监管 安全 机器学习 深度学习 神经网络 计算机视觉 强化学习 模型 算法 应用 开发 研究 工具 平台 框架 数据集 训练 部署 安全 合规 培训 投资 LLM,llm AI,ai,Ai 大模型 大语言模型 制图 生图 绘图 文生图 文生视频 生成式AI AGI 世界模型 sora chatGPT,chatgpt,ChatGpt claude openai Llama deepseek midjourney 红熊猫模型 Red panda,panda Stable Diffusion,StableDiffusion,stable DALL- E 3 DALL E DALL Flux,flux 扩散模型 混元大模型 文心一言 通义千问 可灵 Pika PixelDance 豆包 月之暗面 零一万物 阶跃星辰 搜索增强 MiniMax Talkie Agent prompt fastai LangChain TTS 微调 提示词 知识库 智能体
# 热门搜索 #
搜索
Andrej Karpathy预言AI马太效应:差异只会越来越显著
2125点击    2024-10-22 16:54

人类奔跑着进入AI时代,但不是所有人都能跑得一样快。


在2022年的时候,大神Andrej Karpathy就做过一次预言:


“随着时间演化,符合高斯分布(正态分布)的人类特征(human condition),它们的方差会逐渐扩大。”



评论区网友问,最后会走向什么结果?Karpathy只给出了一个非常深奥的回答:“everything,then nothing。”



不过,当时Karpathy并没有就此做出解释,导致其他网友只能“阿巴阿巴”:





现在,Karpathy终于想起了这个预言,并且做出了解释:


根据经验观察,随着人类社会演化与科技进步,很多人类特征的差异性会逐渐扩大。




根据Karpathy的设想,未来社会很有可能出现极端分化的人:


  • 城市超级发达,村落超级落后;


  • 有人选择“机械飞升”超越人类,有人选择回归原始人生活;


  • 喜欢集中一点钻研到底的人越来越多;


  • 四海为家的驴友、闭门不出的宅人、反对一夫一妻制的“海王”、唯心主义的思想家、沉迷于虚拟的网虫,等等等等。


随着科技的发展,人类多样性会增长,越来越多人会选择不同的生活和工作方式。


人类奔跑着进入AI时代,但不是所有人都能跑得一样快。虽然每个人都以为自己找到了超级跑鞋,但是能不能跑的更快,要看能不能“驾驭”这双超级跑鞋。


随着大模型能力日益增强,尤其是它越来越具备自治性、自主性、智能性之后,可以越来越好地承担起本应该需要人类来完成的决策任务之后,我们需要思考一个严肃的问题,它还只是一个传统意义上的工具吗?


当大模型的自治性、智能性越来越强,人机边界就会越来越模糊,当开始越来越依赖ChatGPT,人类的判断力与决策力是否会逐渐退化呢?


今年谷歌紧急下掉的一个广告,就引起了众怒。



写作的本质是思考和表达,一个人的认知是在一次次表达中建立和培养的。如果养成路径被截断,思维退化就难以避免。这部分人不是驾驭跑鞋,而是被跑鞋驾驭。


ChatGPT最容易代替的人类技能是文案性、常规性、重复性的信息处理工作,比如论文润饰、代码编写、文案创作,这是大模型最擅长、最能胜任的。相比较而言,但凡需要严肃思考和身心协同的岗位,仍然还是人类的价值所在。


所以,这也是我理解Karpathy为何会认为“人类多样性会增长”的些许原因吧。AI的马太效应会将社会撕裂成两个截然不同的世界。


此外,Karpathy还提了一嘴,在某种意义上,全球化是一个创造性的破坏者,它摧毁了一些社会差异化的特征。比如现在全球可见的肯德基快餐店、大家都会说中文英文、出门旅游却感觉像在自己家一样、全球同质化,等等。



当然,我认为全球化还是有弊也有利的。毕竟,通过全球化,外来服饰、外来饮食能够进行“本土化改良”,这何尝又不是一种新的“差异化”呢?


不过,根据Karpathy曾经“everything,then nothing”的发言,难道说,他的意思是,未来有差异的人的比例越来越高,正态分布曲线逐渐趋平,也就没有“普遍”与“差异”一说了吗?


只要大家都非常有个性,就等于没有个性了!


开放式AI同样符合正态分布,发散比收敛更受欢迎


此外,AI的发展路线是否也与人类特征的发展相似呢?


OpenAI的Open-Endedness团队研究经理Kenneth Stanley,在2020年《The Importance of Open-Endedness in AI and Machine Learning》主题演讲中同样提到,开放式的AI输出随着时间演变,也会从正态分布逐渐发散,最极限时方差扩展到最大熵,变成均匀分布状。



也就是说,AI逐渐能够适用于不同的(极端)场景,可以生成个性化、创造性的输出。


这不正是我们当下AI发展的历史与趋势的写照吗!


另一边,在美国西雅图举办的联想Tech World科技展会上,英伟达CEO黄仁勋也分享了他对Agent和具身智能未来发展的展望。


未来将出现数百万甚至数十亿的“小黄仁勋”一样的AI智能体,最普遍的基本上是数字代理机器人。我们将拥有称之为代理的信息机器人,也有现实的物理机器人,这两种人工智能将会成为未来世界工业的基础。



我非常期待机器人的未来。它是否也会走上普通机器人——差异化机器人的道路,或者和平机器人——《终结者》机器人的道路呢?


文章来自于微信公众号“夕小瑶科技说”,作者“海野”


AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
智能体

【开源免费】AutoGPT是一个允许用户创建和运行智能体的(AI Agents)项目。用户创建的智能体能够自动执行各种任务,从而让AI有步骤的去解决实际问题。

项目地址:https://github.com/Significant-Gravitas/AutoGPT


【开源免费】MetaGPT是一个“软件开发公司”的智能体项目,只需要输入一句话的老板需求,MetaGPT即可输出用户故事 / 竞品分析 / 需求 / 数据结构 / APIs / 文件等软件开发的相关内容。MetaGPT内置了各种AI角色,包括产品经理 / 架构师 / 项目经理 / 工程师,MetaGPT提供了一个精心调配的软件公司研发全过程的SOP。

项目地址:https://github.com/geekan/MetaGPT/blob/main/docs/README_CN.md