ChatGPT 人工智能 GPT4 伦理 生成式 医疗 监管 安全 机器学习 深度学习 神经网络 计算机视觉 强化学习 模型 算法 应用 开发 研究 工具 平台 框架 数据集 训练 部署 安全 合规 培训 投资 LLM,llm AI,ai,Ai 大模型 大语言模型 制图 生图 绘图 文生图 文生视频 生成式AI AGI 世界模型 sora chatGPT,chatgpt,ChatGpt claude openai Llama deepseek midjourney 红熊猫模型 Red panda,panda Stable Diffusion,StableDiffusion,stable DALL- E 3 DALL E DALL Flux,flux 扩散模型 混元大模型 文心一言 通义千问 可灵 Pika PixelDance 豆包 月之暗面 零一万物 阶跃星辰 搜索增强 MiniMax Talkie Agent prompt fastai LangChain TTS 微调 提示词 知识库 智能体
# 热门搜索 #
搜索
尤瓦尔·赫拉利对谈张静初:永不休眠的AI,正在制造慢不下来的人类
3578点击    2024-11-13 08:36

在完成“人类简史三部曲”之后,历史学家尤瓦尔·赫拉利教授沉淀6年时间,推出了他对人类未来命运的最新思考——《智人之上》。



在当下这个时代,几乎人人都在谈论AI,但不同于那些我们每天在社交网络上刷到的二手观点,赫拉利对于AI有着极为深入的洞悉,而这种穿透力来自于其历史学家的深厚学养,他说:


人工智能可能成为我们物种的救世主,也可能成为我们灭亡的设计者,这取决于我们如何选择将其融入我们存在的结构中。


《智人之上》是一本有着思想厚度的作品,要真正读懂其背后的价值,非尤瓦尔·赫拉利亲自出马不可。


近日,我国著名演员张静初在洛杉矶与赫拉利教授就《智人之上》进行了一次知识密度极高的对谈。


虽然人类掌握了越来越多的信息,却被仇恨、恐惧和贪婪,傲慢的情绪左右,做出了很多自我毁灭的事件。《智人之上》不仅有着宏大的历史观,更能在行动层面指导我们的日常生活。


在这场接近1个小时的对话中,张静初与赫拉利教授从《人类简史》破题,聊到了《智人之上》中对AI威胁的看法,尤为可贵的是,两位嘉宾对于我们今后的生活进行了实操性极强的展开。整场对话金句频出,阿信将其中的精华以文字形式整理发布。




1、为什么要写作《人类简史》?


张静初:


非常荣幸能和您进行关于新书《智人之上》的对谈。


我知道您最近辗转各地接受了很多采访,但今天我想更多地谈谈您的个人经历和观点——无论是书中还是书背后的,以便让读者们获得启发,可以用到生活中去,我觉得这点是很重要的。因为您就对我的人生选择产生了深远的影响。


和大多数读者一样,我接触到您的第一部作品是《人类简史》,这本书在世界范围内都很畅销,它不仅为人类历史提供了一个新的视角,也让像我这样的读者开始反思:作为地球上的主导物种,我们对这个星球做了什么。


对我来说最有冲击性的是,这本书指出了非常残酷的现实——智人并不是天生具有美德的生物,无论何时,我们所到之处面临的都是毁灭。


一个例子让我印象深刻,在智人到达澳大利亚大陆后不久,那里80%的大型动物就灭绝了,有一天晚上,我真的梦到了您在书中描述的场景,然后哭着醒过来。


就像我刚才提到的,您的书对我的生活选择产生了很大的影响,比如,吃什么,我成为了一个素食主义者;还有,如何与地球上的其他生物相处。


我确实认为这本书的力量来自一种深刻的同情心,我想知道您写《人类简史》背后的灵感和动机是什么?赫拉利:


我想大多数人想到历史,都会认为那是过去的事情,是一系列人名、国王和真正,是发生在几百年、几千年前的事,和我们的生活毫无关系。出于某种原因,我们被迫在学校或者其他地方背诵这些东西。


对我来说,历史不是对过去的研究,历史是对变化的研究,是研究遥远过去的事物是如何塑造当今世界的。所有生活在一千年前的人都死了,他们不在乎我们怎么说他们,怎么想他们,但他们做过的事仍然塑造着我们的生活。


我认为研究过去不是为了记住它,而是为了从中解放出来,让我们在现在的生活方式上有更多选择,就像我们得到了过去遗留下来的东西,但是我们可以选择从中保留什么、不保留什么。


就像你一辈子都在背上扛着一个,又大又重的袋子,然后找到一个孩子说,“好,现在由你来扛,但在那之前,我们先打开袋子,看看里面有什么”。


也许我们不需要一直背负袋子里所有的东西,想想你自己现在的生活,你所做、所想的几乎所有事情,都是由几百年甚至几千年前发生的事情所决定的。


从吃的东西开始。比如,如果你喜欢喝咖啡,你应该感谢埃塞俄比亚人,他们在几千年前就最先开始驯化咖啡了。如果你想给咖啡里加糖,你需要感谢新几内亚人,他们在6000多年前驯化了甘蔗。一直延伸到几千年来我们对男性和女性,以及家庭等等的观念。


数千年以来,世界上很多地方的人,都认为女性比男性低人一等,因此,女性不能上学,不能当教授,不能当政治家或法官,她们就应该待在家里带孩子。人们认为这就是自然,这就是现实。


如果你学了历史,你就会明白这不是自然,这是装在那个袋子里的东西。人们扛在背上,传给下一代,再传给下一代。而当你打开它往里看的时候就明白了,原来这一切这只是个故事,有人在2000年前发明了它。


而在上个世纪,我们摆脱了它,我们明白这不是真的。今天,在世界上大部分地区,女性都可以上学,上大学,成为教授,记者,政治家和法官。对我来说,这就是为什么我们需要学习历史,这样我们就不会成为过去的奴隶。


过去给了我们非常宝贵的东西,比如咖啡和糖,但它也给了我们一些不那么有价值的东西,比如这些关于男性和女性的奇怪想法,我们可以选择,什么该保留,什么该抛弃。


2、人类为何会失去对AI的控制?


张静初:


说得太好了!您在新书新书《智人之上》中也有很多类似的例子,读起来非常震撼,里面有一句话让我尤其感到很震惊,它说,“人类总是声称有些事情是计算机永远做不到的,比如写诗或下棋,但实际上它们都只花了几年的时间就做到了”。


您指出,实际上AI比原子弹更危险,因为原子弹自己不能决定何时何地爆炸,而AI却可以做出人类无法控制的决定。


我还读到一个例子,脸书算法在7年前缅甸对罗兴亚人的种族清洗中有不可推卸的责任,您能告诉我们这背后发生了什么吗?


赫拉利:


关于AI,每个人都应该知道的最重要的一点是:AI不同于历史上以前的每一项技术,AI不是一种工具,它是一个主体。


以前所有的技术,从石刀到原子弹,都是我们手中的工具,我们能够自主选择和决定如何使用它们。你可以用刀去杀人,也可以用来切晚餐的沙拉,同一把刀,也可以用于外科手术拯救病人。


现在的AI是历史上第一个可以自己做决定的技术,它们的自主决定可能会夺走我们的权力,我们可能会失去对它的控制,它可以奴役并甚至可能摧毁我们。


自主武器系统可以自己决定炸哪个城市,决定杀谁,这不是未来科幻小说里的场景,这是我们在未来10年或50年需要担心的场景,它就发生在我们身边。


比如你去银行贷款,AI可以决定是否给你贷款;你申请大学,AI可以决定你是否被录取。


已经有一些AI决策对世界产生巨大影响的例子,其中最重要的例子可能是社交媒体算法。社交媒体算法是一个非常原始的AI,但是它们仍然可以自己做决定。大概10年、20年前社交媒体开始兴起的时候,不管是脸书,油管还是抖音,它们为人类做了很多好事,但也带来了很多坏处。


问题在于,社交媒体公司给算法设定了一个目标,这个目标就是增加用户的参与度,他们想让更多的人在这个平台上花费越来越多的时间。为什么?因为这样他们赚的钱更多。如果你花更多的时间在脸书上,那么平台就可以让你看更多广告,他们就可以收集更多的数据然后卖给其他人或用户来生产新产品。


所以增加用户参与度的目标听起来像是一件好事,人们参与其中好像也没有什么不对,但是人类告诉算法“要让人们在平台上花更长的时间”,接下来,算法开始就如何提高用户参与度在数百万用户中做实验。它通过反复试验发现,抓住别人注意力最简单的方法就是按下仇恨按钮、恐惧按钮和贪婪按钮。


如果给人们看一些让他们非常生气的东西,他们就会一直看下去,然后告诉所有的朋友,这样用户参与度就会上升。即使不是真的,即使是假新闻,即使是阴谋论。就算很多好事都在发生,只有这一个小的、不好的事情,也要把注意力集中在这个不好的事情上,因为这样才会获得用户参与,这就是算法开始做的事情,在世界各地都有。


最可怕的一件事发生在缅甸,脸书的算法故意传播关于缅甸罗兴亚人的仇恨阴谋论。缅甸人不都是坏人,他们在脸书上发布了很多内容,有些人教烹饪课,有些人教生物课,有佛教僧侣在布道,教人慈悲为怀,有些人散布阴谋论,然后算法做了一个决定:宣传阴谋论而不是生物课。越来越多的人看到了这些由算法推荐的内容,并且变得非常恐惧、愤怒、仇恨,算法不是唯一的原因,但它确实在其中起了作用。


现在,没有人认为脸书上的用户是故意这么做的,没有人认为用户邪恶地想要造成这一切,人们根本不知道缅甸发生了什么,他们给了算法增加用户参与度的目标以及实现这个目标的算法,结果发现算法开始传播仇恨。


而且这还只是几年前很原始的AI,现在我们有了更强大的AI,虽然今天的AI看起来似乎也很原始,但在接下来的几年里,AI的发展速度会非常快。


如果把它想象成有机进化,比如动物的进化。我们今天看到的动物进化花了几十亿年的时间。一开始,只有像阿米巴虫这样的单细胞生物,恐龙、哺乳动物和人类的进化花了几十亿年的时间。今天的AI就像阿米巴虫一样,非常原始,但AI的进化速度非常快,要比生物快数百万倍,所以从阿米巴虫到恐龙再到霸王龙可能只需要20年的时间。


如果ChatGPT和所有今天的这些算法只是阿米巴虫,你觉得恐龙会长什么样?而且这一切可能在20年后发生。所以当它们开始为我们做决定时,人类社会和整个世界将会发生什么?


AI不一定是邪恶的,它们只是极其强大,我们无法控制它们会做出什么样的决定,它们会发明什么东西。


张静初:


所以这就是为什么我认为您的书中非常有价值的一点是提高了一种意识:尽管它们非常强大,但是起决定作用的还是人类,我们必须意识到我们的贪婪按钮。


就像您说的,虽然我们希望科技能更好地和人类的前额叶皮层联系起来,但实际上,那些商业企业对连接我们的边缘系统更感兴趣。


因为在过去的10年里,我也在互联网上遭受了很多诽谤,所以我知道这些不好的事情就算从来没有发生过,它依然可以像病毒一样传播开来,然后人们更愿意相信这些不好的事。


好的一面就像您说的,它确实有益处,但同时我也完全可以理解可怕的事情,比如传播危险信息的速度,比如虚假信息。


您的观点也强调了一种非常危险的可能性,就是AI将通过建立亲密关系来操纵人类,这是非常可怕的,因为我们都需要亲密关系。


赫拉利:


这是下一个阶段或下一个战线。之前是争夺注意力的战斗,好像到处都是内容,但人们的时间是有限的,所以有这样一种人们关注什么的注意力斗争。但接下来的战线将是亲密关系的争夺战。


《她》是我认为有史以来最好的科幻电影之一,因为它不是关于机器人跑来跑去射杀人的,它其实要深刻得多。因为AI正在发展和人类建立亲密关系的能力。


据我们所知,AI是没有任何自己的情感的,但它们正在学习如何解读人类的情感,因为它们非常擅长分析数据和识别模式,这就是我们识别情绪的方式。


最大的区别在于,一直以来人类都希望别人设身处地地理解我们。在我们的成长过程中,我们希望父母和老师能理解我们的感受,我们希望自己的丈夫、妻子能理解我们的感受。


AI没有自己的情感,它们从不生气,从不生病,也从不疲倦,它可以模拟感情,所以这是一段虚假的亲密关系。



3、AI究竟会给我们带来哪些危险?


张静初:


那么人类应该采取哪些方式来控制对AI的滥用,AI究竟会给我们带来哪些危险?


赫拉利:


危险有很多,其中一个容易理解的危险是它会被用于操控人类。


今天,算法已经在网上操纵我们了,主要是通过对某些内容进行优先排序。比如,有人发布了阴谋论,有人制作了一堂生物课,算法向我们展示了阴谋论,抓住了我们的注意力,以此操纵了我们。


下一个阶段是当你上网时,你和一个你以为是人类的对象建立了友谊。比如你在某个网站上认识了某个人,有很好的关系,他真的理解你,总是听你诉苦,所以你开始信任他,觉得自己交了一个好朋友,一个灵魂伴侣。但它不是人,是机器。


然后这个机器利用亲密的力量开始以一种非常微妙的方式操纵你,说服你购买某些产品,支持某些政治观点。


在过去,我们看到了那种争夺注意力的斗争,但亲密关系比注意力要强大得多,如果你想改变人们对政治或其他事情的看法,亲密关系就像超级武器。因为一个好朋友可以改变我们的观点,这是其他人无法做到的,所以这是一个危险。


更危险的是,人们一旦习惯了与机器人的这些关系后,与其他人形成关系就会变得更加困难。我们会变得更加孤独,更加依赖AI。


张静初:


这听起来真的很危险,因为您在《人类简史》中指出,人类走到今天这一步正是由于大规模的合作,所以这可能会让我们失去与他人合作的能力。


而在AI的背后,也许是人类在操纵它们。


赫拉利:


所以再一次提到这个问题,可能是一些人操纵了所有的这些AI,或者就像在缅甸事件中的脸书算法一样,背后没有人,只是AI在操纵我们,这并不是不可避免的。


关于技术我们必须记住的一点是,它不是决定论的,如果你可以以不同的方式使用它,我们仍然有能力塑造它,对AI进行监管。也许20年后就太晚了,因为到那时它们已经变得太强大了,但现在它们还在我们的掌控之中。


这就是为什么我们必须非常清楚潜在的危险,立刻做出正确的决定,关于如何发展这些AI和如何监管它们。例如,一个显而易见的规定是禁止AI冒充人类。


4、与AI共存,我们需要培养哪些技能?


张静初:


说的对,但现在我们真正需要面对的是,我们必须与AI共存。所以对现代人来说什么样的技能是重要的?我知道这是很难回答的问题。


赫拉利:


我想我要强调两项技能。


首先是灵活性,尤其是心理上的灵活性。今天世界的变化将比历史上任何时候都更剧烈,更迅速。所以没有人真正知道20年后的世界会是什么样子,就业市场会是什么样子,人们需要什么样的技能。


如果你专注于一个非常狭窄的范围,就像我说的,我会学习计算机编程,但也许20年后,AI编程比人类好得多,那学编程就变得没有必要。


所以最保险的赌注是,首先要有广泛的技能,不仅仅是智力技能,还有社交技能,还有运动技能,要有平衡的技能组合,要有灵活性,在你的一生中不断学习和改变。


纵观历史,预测未来从来都不是一件容易的事,也不可能做到。比如,如果你生活在1000年前的11世纪的中国,你不知道明年会发生什么,也许蛮族入侵,也许发生地震,各种各样的事情都可能发生,你无法预测。但是人们知道即使在50年后,基本的技能也会是一样的。不管是谁掌控政治体制,还是任何情况在持续,人们都需要懂得收粮食和烤馒头,懂得骑马和射箭,这就是父母教给孩子的东西。


今天没有人知道20年后我们还需要什么技能,所以最重要的是培养一个灵活多变的头脑,这会贯穿我们一生。这是一方面。


另一方面是,我们正日益被海量的信息淹没,我们需要有能力分辨可靠和不可靠的信息。


我们应该怎么做呢?我们需要信息节食。


信息曾经是稀缺的,所以人们会吸收所有可得的信息。也许在整个村子里只有一本书,所以人们只会读这本书,因为这是唯一的东西。现在,信息超级丰富,这就会有很多人为的垃圾信息,就像垃圾食品。


这些垃圾信息被人为地充斥着仇恨,贪婪和恐惧等等。我们需要信息节食。


要意识到,你放进大脑中的信息是需要特别注意的,信息是大脑的食物,也不要吃太多,不要以为信息越多越好。绝大多数信息都是垃圾,消化那些我们本不必消耗的信息需要时间。


今天太多的信息都是垃圾信息,当我们的大脑充满垃圾信息的时候,我们需要给思想排毒。所以,我们需要信息节食其中一个重要的部分是信息断食。




5、我们如何通过冥想或信息节食慢下来


张静初:


关于信息断食,我们每个人应该怎么做呢?


赫拉利:


不同的人有不同的方式。就我个人而言,我冥想,每天花2个小时冥想,每年我都会进行几周的长时间静修。


张静初:


是,我听说您很快就会有一个静修,对吧。


赫拉利:


12月开始,我会进行60天的冥想。


就信息节食而言,我不会摄入任何新的东西,没有电话,没有电脑,没有互联网,我也不阅读,我甚至不和别人说话,一切都很安静。所以整个过程就像60天的静修。


这有点极端,我不是一开始就是60天,我大约20年前从10天开始。这是一个审视自己内心深处的机会,让我们再一次处理存在于内心并控制我们的仇恨,贪婪和恐惧。


冥想的基本问题是:什么是真实的,什么是真实发生的。


我刚开始第一次练习冥想的时候,好像是24年前的事了,我去找了一位老师葛印卡。


他给的第一个练习就是把你的全部注意力集中在呼吸上,从鼻孔进出,不要做任何事情,不要试图控制它,不要试图让它变快或变慢,只是感觉它什么时候进来,什么时候出去。只是观察现实,现在真正发生的事情。


让我惊讶的是,我做不到。这听起来是最简单的事情,不需要做任何事情,甚至不需要控制呼吸,只需要感觉。我做不到,因为过了5到10秒,一些幻想,一些记忆,一些想法就会冒出来,把我的注意力转移开,我就会和现实失去联系。


如果我甚至不能观察呼吸进进出出这个简单的现实,我怎么能理解这个世界?我怎么能不被幻想,妄想和幻觉所绑架?不被头脑不断编造的故事所绑架?我们并没有真正地与现实接触,而是不断地被这些故事所俘获、劫持。


冥想是一种净化思绪并把思绪带回现实的练习,这是基本功,就像锻炼身体一样。比如你的身体生病了,或者虚弱了,你就开始锻炼身体。所以同样的,也有针对心灵的锻炼,那就是冥想。它能让心灵变得更强大,更专注,更健康,把我们内心所有的垃圾都清除掉。


冥想的技巧之一就是不再听脑子里的故事,试着从不同的角度看现实。非常重要的一点是沉默,智慧和真理往往隐藏在沉默的屏障之后,甚至隐藏在无聊的屏障之后,但是在冥想中最难的一件事就是处理无聊。


人们认为主要的困难是痛苦,就像你坐下来冥想一个半小时后,会感到很痛苦,而且无法处理这种痛苦,但人们很快就找到了处理它的方法,因为这能带来英雄般的感觉“我在处理痛苦,我可以克服痛苦,我英勇无畏”。当你坐着观察自己的呼吸,开始感到无聊的时候,你会觉得我是一个很忙的人,我有很多重要的事情要做,只观察呼吸是在浪费时间,太无聊了,太没用了,让人崩溃。


张静初:


我妈妈也冥想,很多时候的时候她坐着坐着会很焦虑,总觉得自己是不是在浪费时间。我问她,你都退休了,还有什么更重要的事情要做吗?她很困惑地说,“是呀,其实没有什么重要事情,我也不知道怎么会这样。”


赫拉利:


痛苦不会被忽略掉,但是无聊到底会发生什么呢?你开始有这种不舒服,不安的感觉,这比疼痛更有效地控制人。人们有时候会离开,辞职,分手,离婚,是因为无聊,而不是因为痛苦,他们不知道如何处理无聊,这真的有点让人难以忍受。


所以我不干,我停下来了。最重要的技能之一就是处理无聊,处理沉默,这也是现代社会最难的一件事。今天世界发展得如此之快,一切都是那么令人兴奋和激动,我们都兴奋过头了。


我们觉得一切都进展得太快了,我一刻也停不下来,我不能慢下来。但如果不慢下来,不知道如何在沉默中生活,在放松中生活,你只会把自己逼疯。


我要重申,电脑可以不停工作,但人类不能。它们是无机物,我们是有机生物,有机生物有自己的循环,无论白天还是黑夜,冬天还是夏天,活动时间还是休息时间。但我们需要睡觉。


现在,这个由非有机实体控制的世界通过这些算法和AI不断地向我们施压,要求我们做更多的事情,永不停息。如果你停下来,你的竞争对手依旧在你前面不会停下。动物必须睡觉,当你必须在某一点停下来的时候,你会感到内疚。


你可以看到世界各国的领导人也很焦虑,他们不知道如何慢下来。在这场AI革命中,AI行业中的每个人都像这样一边发展一边谈论。


我和这个领域的一些重要人物聊了聊,当你和大公司里这些管理和开发AI的人交谈时会发现,他们大多是好人,不是坏人,他们意识到了其中的危险,他们说我们其实很想慢下来,给人类时间去适应,去思考该怎么做。


但是我们害怕放慢竞争的速度,因为如果我的公司慢下来,其他公司不这样做,他们就会赢。如果我的国家慢下来,对方国家不这样做,他们就会赢,我必须跑得更快。


每个人都跑得越来越快,这已经让人们抓狂了,这让整个世界都抓狂了,人们就是不知道如何放慢脚步。


然后我们说,我们坐下来冥想吧,于是他们坐了10分钟,闭上眼睛,他们变得非常焦虑,就像自己什么都没做一样,觉得我的竞争对手一定正在做什么事,我必须站起来开始行动。



文章来源“36氪领读”