AI浪潮已至，威胁更要警惕

2024年诺贝尔物理学奖的揭晓，将机器学习这一看似与物理学相距甚远的领域推到了聚光灯下，从1956年达特茅斯会议起，到近年ChatGPT横空出世，无论是前沿科研还是日常工作生活中，AI的运用都越来越广泛。对于AI未来前景的讨论，有人认为AI的发展会为技术的进步和生产力的提升添砖加瓦，也有人认为AI将会打碎打工人的饭碗，带来新的失业困境。

在此次颁奖中，诺贝尔物理学委员会主席在肯定机器学习的巨大贡献时提到：机器学习的快速发展也引发了人们对未来的担忧，人类有责任以安全且道德的方式使用这项新技术。技术的进步总是一体两面的，AI的运用除了促进生产外，对人类思维方式和社会结构可能产生的影响同样值得关注。

01 诺贝尔物理学奖花落机器学习，AI浪潮已至？

10月8日，瑞典皇家科学院宣布，将2024年诺贝尔物理学奖授予美国科学家约翰·霍普菲尔德和英国裔加拿大科学家杰弗里·欣顿，以表彰他们在使用人工神经网络的机器学习方面的基础性发现和发明。

诺贝尔物理学奖的评选委员会在颁奖词中指出，霍普菲尔德和欣顿的开创性工作在于，他们利用统计物理的基本概念设计了人工神经网络，构建了机器学习的基础。约翰·霍普菲尔德创建了一种联想记忆方法，可以存储和重构图像或其他类型的数据模式；杰弗里·欣顿发明了一种可以自动发现数据中属性的方法，可用于识别图片中的特定元素等任务。

消息出来后，在各种平台引起了热烈的讨论，毕竟机器学习与物理学看上去关系不大，并且颁奖词中也写得很明白，这是一种“方法”，与大家印象中的物理学奖侧重于“发现”或“理论”大相径庭。对于这些疑问，诺贝尔物理学委员会秘书乌尔夫·丹尼尔松当天在接受新华社记者采访时表示，物理学奖可以授予理论上、实验上或者观测上的发现，也可以授予发明，今年的获奖成果从某种意义上讲也是一种发明，一种可以多种方式应用的发明。

面对此次诺奖的结果，有学者戏称：诺贝尔物理学奖在和图灵奖抢饭碗。还有知乎网友抖机灵：毕竟Physics的结尾是cs，没毛病！

对于机器学习与物理学的意义，诺贝尔物理学委员会主席埃伦·穆恩斯在当天的新闻发布会上表示，两名获奖者利用统计物理的基本概念设计了人工神经网络，构建了机器学习的基础；相关技术已被用于推动多个领域的研究，包括粒子物理、材料科学和天体物理等，也已用于日常生活中的人脸识别和语言翻译等。她同时还提到，机器学习的快速发展也引发了人们对未来的担忧，人类有责任以安全且道德的方式使用这项新技术。

作为人工智能的重要组成部分，此次机器学习获得诺贝尔物理学奖，无疑是对AI技术发展的巨大肯定和鼓励。事实上，当前AI与物理学、生物学等前沿学科早已深度融合，作为一种通用工具，AI正打破学科界限，加速科学发展和拓展认知边界。例如，计算机学科中的统计方法和优化算法被广泛应用于生物信息学；而生物学中的进化理论也反过来启发了AI领域的神经进化算法。

学术讨论归学术讨论，相比AI技术在前沿科学所做的贡献，普通人更关心AI将如何从前沿科技飞入寻常百姓家。到底AI会成为自己的生产工具，还是会夺走自己的饭碗，谁也不敢断言。正如欣顿所说，相关技术将对社会产生巨大影响，但也必须警惕技术可能造成的威胁。

02 前沿科技高深莫测，用到实际千篇一律？

自ChatGPT横空出世以来，生成式人工智能成为了普通人日常接触最多的AI产品，不少人开始利用AI工具绘图、书写文案、写汇报材料等，试图将其驯化成有效的生产工具，为自己的工作降本增效。但从目前的反馈来看，AI生成的结果距离「可以直接拿来用」还有很远的距离，更多的是用在查阅信息、润色文稿等方面。

举例来说，如果想要利用AI写一段小红书文案，你会发现，AI理解的小红书文案基本上就是一段故作活泼且正能量的小学生作文中插入大量emoji，结尾再加上#关键词#，想要的“网感”就是加入大量流行语，冲浪时间久一点的网友都会感到尴尬，并且有意思的是，不同的AI工具生产的文案从语言风格到文章结构都几乎雷同。

就在刚刚过去的国庆假期中，不少人在尝试使用AI工具进行出游规划，只要向AI说明自己的要求就能生成一个还不错的旅游攻略，看上去很方便，但实际结果不尽如人意。笔者测试了利用AI制作旅游攻略，但在关键词“行程紧凑”和“行程舒适”明显不同的前提下，生成的行程规划并没有什么区别，仅仅是舒适的行程中增加了午餐环节，可能AI认为紧凑的行程不需要吃午餐，或者有午餐就代表着行程舒适？AI显然是读到了关键字，但是并没有像“人”一样理解关键字。

同一个AI工具生成的旅游规划雷同，而不同大厂推出的AI模型之间又缺乏联动，数据源基本上依赖于自己生态下或合作商的内容。例如，豆包生成的旅游攻略来源大多是抖音、头条等字节系平台，小红书的达芬奇生成的旅游攻略主要依靠小红书笔记，文心一言则主要参考知乎和第三方旅游网站。我们都知道，不同平台的用户习惯和内容风格偏好上存在巨大的差异，生成的旅游攻略也会具有一定的局限性。如果真的依赖这样的旅行攻略，很有可能出现A大厂的用户习惯用A模型，A模型的攻略推甲景点，B大厂的用户习惯用B模型，B模型的攻略推乙景点，线上信息茧房的影响甚至会延伸到现实生活中，即使行万里路，依然可能受限在认知的信息茧房中。

在如今的求职市场上，AI辅助面试也得到了广泛应用。一方面，求职者利用AI工具准备面试问题和答案，提高了效率，但是思路容易落入AI的窠臼，而不是贴合自己实际情况，展现个人独特的魅力。另一方面，企业用AI数字人对求职者进行面试筛选，节约人力物力，但面试问题千篇一律，缺乏个人特色，使得求职者为了“讨好”AI面试官而不得不小心翼翼地适应AI面试的风格。原本是为了提升面试效率，简化沟通流程，却成了求职者必做的新八股文。

当然，当前的AI工具的局限，在将来很有可能随着技术的进步而得到改善，但即使解决了「生成内容千篇一律」的问题，还有不少值得思考的隐忧：技术是否真的是中立的？AI获取的信息是否中？AI所生成的观点是代表技术的观点、数据来源的观点、还是使用者的观点？举个例子，假如AI生成的内容明显带有种族歧视、性别歧视等问题，我们应该如何评价这些内容？相比这些复杂的问题，「千篇一律」看起来虽然还呆板但是“不出错”。

03 比起AI可能带来的失业，更值得思考的是人性

一万年前，小麦还只是一种普通的植物，出于某些原因，人类开始大量种植小麦，小麦成为了主食，向人类提供稳定的热量来源，但种植和贮存小麦使人类不得不长期居住在水流和农田附近，变得“居有定所”，人类从采集时代进入农耕时代。

农耕时代的好处显而易见，稳定的食物供给和聚居地规模的壮大使得人类有闲暇和空间去发展更多的文字和语言，文明得以更快地发展。但缺点也是明显的：相比采集时代，农耕时代的食物来源变得单一，同时，田间的劳作并不适合人的肌肉骨骼结构，腰椎疾病等随之而来。更重要的是，资源（食物）的囤积使得阶级变得更加明显，少部分拥有权利的人得以付出更少的劳作和享受更优越的生活条件，而大部分普通人则需要付出比采集时代更多的劳作，采集时代的“闲云野鹤”生活一去不复返。

技术的进步，必然带来生活方式的变革，凡事皆有利有弊，生产力的进步带来的影响并不完全是正向的。前文中，我们提到目前AI技术的局限性，但技术总是会进步的，未来AI的发展方向不好预测，但毋庸置疑的是：AI在给人类带来便利的同时，也会对人的思维方式乃至社会结构产生影响。

《三体·黑暗森林》中，罗辑冬眠醒来后，人类已移居至地下城，科技取得了飞跃，四处布满了AI工具人和智能显示屏，生活极为便利。罗辑因为曾经身为面壁者而遭到三体组织的追杀，追杀者在地下城的系统中植入了一个专门针对罗辑的刺杀程序，好在同样冬眠醒来的前警官史强身手敏捷救了罗辑。出生在地下城时代的“年轻人们”无法理解“公元人”史强是如何发现问题的，史强则无法理解为什么这些年轻人会无比依赖于周围的网络而不是自己的思考和判断。

假如现在有一项冬眠技术可以使人冬眠几十上百年，也许在当代人冬眠醒来之后会像史强一样无法理解周围人在思维方式上的变化。技术的变化总是有迹可循的，只要使用合适的语言，唐朝人也可以理解牛顿定律和相对论，但对于思维方式的影响则更加润物细无声。

当我们讨论的热点集中在AI到底是打破打工人的饭碗还是助力打工人提升效率时，也许我们还需要谨慎看待AI的使用对人的思维方式乃至社会结构带来的影响。

上百年前，人们面对一个待解决的问题，可能会自己思考和实践，可能会询问经验更丰富的人，可能会查阅书籍；互联网时代，信息搜索变得简单快捷，足不出户就可以查阅大量资料；AI时代，甚至只需要把问题抛给AI即可，但我们如何确定AI给出的回答是正确的？就目前来看，验证正确性还是相对容易的事，还有其他途径去对AI生成的答案进行核验，但也许在将来，AI生成的数据源占比越来越多，加上人类对AI工具的依赖，对正确与否的核验会变得更加困难。站在巨人的肩膀上当然可以事半功倍，但首先得保证巨人的方向正确。

结 语

回顾历史，技术的每一次飞跃都伴随着社会结构的深刻变革。从农耕时代的定居生活到工业时代的机械化生产，再到如今AI技术的蓬勃发展，人类社会在不断前行中探索着新的生活方式和思维方式。正如人类驯化小麦的同时也被小麦驯化，AI技术的发展同样需要我们以更理性的态度去审视和应对，无论是对技术，还是对人性，都要保持清醒的认知。才不至于稀里糊涂地陷入未知的困境。

文章来源于“来咖智库”