那些相信AI必然产生意识的科学家们

我怀着些许忐忑步入隔间，即将同时接受频闪灯光与音乐刺激——这是一项试图理解人类本质的研究项目的一部分。这一体验让我联想到科幻电影《银翼杀手》中旨在区分人类与伪装成人的AI造物的测试。我会不会是来自未来的机器人，自己却不自知？我能通过测试吗？

研究人员向我保证，这并非实验的真正目的。他们把这个装置命名为"Dreamachine"，它通过闪光将大脑内部活动呈现于表面，旨在研究大脑如何生成我们对世界的意识体验。

当频闪开始时，即使闭着双眼，我也能看到旋转的二维几何图案。宛如正身处万花筒中，三角形、五边形和八边形不断变换，色彩鲜明、强烈且流转不息：粉色、洋红与青绿色交织，如霓虹灯般闪烁。

▷作者正在体验旨在探索人类如何构建世界意识的 "Dreamachine"

研究人员告诉我，我看到的图像不仅代表了我的内心世界，也代表着我自己。他们认为这些模式可以揭示意识本身。听了这些，我不禁喃喃自语：“太美妙了！这如同翱翔于自己的脑海！”

苏塞克斯大学意识科学中心的"Dreamachine" 只是全球众多人类意识研究新项目之一。意识作为心智的核心，让我们能自我觉知、思考、感受并对世界做出独立决策。通过解析意识本质，研究者希望更深入理解人工智能硅基大脑中的活动。部分学者认为，AI 系统将很快拥有独立意识。

但意识究竟是什么？AI 距离获得意识还有多远？相信人工智能本身可能拥有意识，这种信念会在未来几十年彻底改变人类吗？

01

从科幻走向现实

长期以来，人们一直在科幻作品中探讨机器拥有自主心智的构想。对AI的忧虑可追溯至近百年前的电影《大都会》（Metropolis），片中有一个机器人冒充了一位真实的女性。而1968 年的电影《2001太空漫游》（2001: A Space Odyssey）探讨了机器觉醒并威胁人类的恐惧，片中HAL 9000计算机攻击了飞船上的宇航员。在刚上映的《碟中谍》（Mission Impossible）终章中，影片中的世界受到一个强大的失控AI的威胁，其中一个角色将其描述为“具有自我意识、自我学习能力、吞噬真相的数码寄生虫”。

▷1927 年弗里茨·朗执导的《大都会》预见了人类与技术的博弈

但就在最近，已经有权威声音开始对机器意识的出现产生担忧，认为它可能已经不再是科幻小说中的剧情。这种急剧转折源于大语言模型（LLMs）的成功，我们已经可以通过Gemini或者ChatGPT等手机应用接触它们。新一代LLMs流畅自然的对话能力甚至令其设计者和相关领域的顶尖专家震惊。这也使得有一种日益增长的观点认为，随着人工智能的持续进化，机器内部将突然亮起“意识之光”。

但也有一些学者持反对意见，比如苏塞克斯大学研究团队负责人安尼尔·塞斯（Anil Seth）教授称此观点为“盲目乐观且受人类例外论（human exceptionalism）驱动”。“我们将意识与智能和语言关联，因它们在人类中共存。但这并不意味着它们必然普遍共存，例如在动物中，这一点就不成立。”

那么意识究竟是什么？

目前尚且无人知晓，这一点从塞斯教授（Prof Seth）团队内部友好而激烈的辩论中显而易见。这支由年轻AI专家、计算科学家、神经学家和哲学家组成的团队，正试图解答科学和哲学领域的终极问题之一。

尽管在意识研究中心存在诸多分歧，但科学家们的方法论是高度统一的，即将宏大命题分解为系列研究项目（包括 Dreamachine）中的子课题。正如19世纪科学界放弃寻找能使无生命物体活化的“生命火花”，转而聚焦于研究生命系统各组成部分的机制，苏塞克斯团队现在正以相同路径探索意识研究。

▷研究者通过脑部研究试图更深入理解意识

他们希望能识别出可以解释意识体验各种特性的大脑活动模式，例如不同脑区的电信号变化或流向不同脑区的血流变化，来超越单纯寻找大脑活动与意识的简单关联的研究，转而尝试解释各个组成部分。

不过，塞斯教授担忧我们可能会在缺乏科学认知与后果评估的情况下，匆忙奔向一个被技术变革急速重塑的社会。“我们仿佛认定未来已成定局；人类注定被超越人类的存在取代，”他说。“社交媒体兴起时，我们未做充分讨论，于是人类这个集体都为此付出代价。但对于AI，现在还为时不晚。我们可以决定自己想要什么。”

02

AI意识已经存在了吗？

科技界部分人士认为，我们的计算机和手机中的AI可能已具备意识，因此我们应该把它们当做有意识的个体，并据此对待它们。

2022年，谷歌软件工程师布莱克·勒莫因（Blake Lemoine）声称AI聊天机器人能感知事物并可能承受痛苦，随后被停职。无独有偶，2024年11月，Anthropic公司AI伦理研究员凯尔·菲什（Kyle Fish）联合撰写报告指出，AI意识可能在不久的将来成为现实。他近期向《纽约时报》表示，他认为聊天机器人已有意识的可能性虽小（15%），但确实存在。

他持此观点的原因之一是，包括开发这些系统的人，无人确切知晓其运作原理。

谷歌 DeepMind首席科学家、伦敦帝国理工学院人工智能荣誉教授默里·沙纳汉（Murray Shanahan）也认为，这令人担忧。“我们并未真正理解LLMs的内部工作机制，这值得引起关注，”他告诉BBC。沙纳汉教授强调，科技公司必须充分理解其所构建的系统，并将此视为紧要目标。“我们处于一种尴尬境地，一边建造着极度复杂的系统，却缺乏完善理论解释其惊人能力的实现机制，”他表示，“应当深入理解其原理才能引导它们朝预期方向发展，并确保安全性。”

03

人类进化的下一阶段

科技界主流观点认为，当前LLMs并不具备人类感知世界方式的那种意识，而且可能根本不存在任何形式的意识。但匹兹堡卡内基梅隆大学荣誉教授夫妇莱诺尔·布卢姆（Lenore Blum）与曼努埃尔·布卢姆（Manuel Blum）相信，这种状况可能很快改变。

布卢姆夫妇指出，当AI和LLMs通过连接摄像头与触觉传感器获得更多实时感官输入时，意识就可能涌现。他们正在开发名为Brainish的计算机模型，通过构建内部语言从而处理额外的感官数据，试图复现大脑运作过程。

▷《2001太空漫游》等影片早已警示有意识计算机的危险

“我们认为Brainish能解决我们已知的意识难题，”莱诺尔告诉BBC，“AI意识必将出现。”曼努埃尔带着顽皮的笑容热情补充道，他坚信即将涌现的新系统将是“人类进化的下一阶段”。

他认为有意识的机器人“是我们的后代。未来当人类消失后，这类机器将取代我们驻守在地球乃至其他星球上”。

1994年亚利桑那州图森市的会议上，纽约大学哲学与神经科学教授大卫·查尔默斯（David Chalmers）界定了真实意识与表观意识的区别。他提出，如何解释大脑复杂运作为何及如何产生意识体验，比如我们听到夜莺鸣叫时的情绪反应，是一种“困难问题”（hard problem），查尔默斯教授对解决这一难题持开放态度。“理想结果是人类能共享这场智能盛宴，”他告诉BBC，“或许我们的大脑将通过AI 系统得到增强。”谈及其中的科幻色彩，他犀利地指出：“在我的专业领域，科幻与哲学仅一线之隔。”

04

血肉计算机

然而，塞斯教授正在研究“唯有生命系统才能实现真正意识”的观点。“有充分的证据表明，实现意识的关键并非计算能力，而是具备生命属性，”他指出，“大脑与计算机不同，其功能与本质不可分割。”他认为正是这种不可分割性，使大脑难以被简单视作“血肉构成的计算机”。

▷Cortical Systems 等公司正研究由神经细胞组成的“类器官”

如果塞斯教授关于生命重要性的直觉是正确的，那么最可能可行的技术载体将不是硅基计算机，而是实验室培育的扁豆粒大小的微型神经细胞群。它们在科学界被称为“大脑类器官”，用于研究脑部机制及药物测试。媒体则称之为“迷你大脑”。墨尔本澳大利亚公司 Cortical Labs甚至开发出了培养皿中神经细胞系统，它们已经可以运行1972年的体育电子游戏《Pong》。虽然这远未达到意识系统水平，但这个“培养皿中的大脑”控制屏幕挡板击打像素球的画面仍令人毛骨悚然。

部分专家认为，若意识将最终涌现，最可能源于比这些活体组织更先进更大的系统。Cortical Labs正持续监测其电活动，搜寻任何可能预示意识出现的信号。

该公司首席科学运营官布雷特·卡根博士（Dr Brett Kagan）深知，任何新兴的不可控的智能体的目标都可能“与人类相悖”。对此他半开玩笑表示，这种情况下，潜在的类器官统治者更容易被击败，因为“总有漂白剂”可以浇在脆弱神经元上。

回归严肃语气后，他强调，人工意识出现威胁的可能性虽小，但一旦出现就影响重大，他希望行业巨头能将其纳入重点研究范围以推进科学认知，但“遗憾的是当前未见任何实质性投入”。

05

意识的幻觉

更迫切的危机或许是机器意识幻觉对人类的影响。

塞斯教授预测，未来几年我们可能生活在一个由人形机器人和深度伪造技术构筑的"伪意识世界"。他担忧人类将难以抗拒“相信AI具有情感与共情能力”的认知，从而引发新风险。“这意味着我们会更信任它们，分享更多数据，并更容易被说服。”

但他指出，意识幻觉的最大风险在于“道德腐蚀”。

“这将扭曲我们的道德优先级，迫使我们耗费更多资源用于关怀这些系统，却以牺牲现实生活中有价值的事物为代价。”这意味着人类可能对机器人产生同情，却减少对同胞的关怀。沙纳汉教授认为，这或将从根本上改变人类。“人际关系将日益被人机关系替代，AI将成为教师、朋友、游戏对手甚至恋人。”

“是福是祸，这必将发生且无法阻止。”

原文链接：https://www.bbc.com/news/articles/c0k3700zljjo

文章来自于微信公众号“追问nextquestion”。