Snapchat 最近遇到了一个大麻烦。

英国隐私监管机构信息专员办公室（ICO）向 Snapchat 下达了初步执法通知，原因是 ICO 认为 Snapchat 在推出 MyAI 之前没有充分评估 AI 技术带来的数据保护风险，导致 MyAI 有潜在危险性。

不过 ICO 强调，这只是临时调查结果， Snapchat 可以提供证明以消除相关误解，但如果 Snapchat 不这样做， ICO 将在英国境内强制下架 MyAI 。

MyAI 是 Snapchat 在今年 2 月份推出的聊天机器人。它诞生的目的，是和 Snapchat 用户「成为朋友」， Snapchat CEO 埃文·斯皮格尔 ( Evan Spiegel ) 表示「最重要的想法是，除了每天与我们的朋友和家人交谈之外，我们还要每天与人工智能交谈」。

和 AI 成为朋友这个想法在 AI 行业中并不新鲜， MyAI 也不是唯一一个带着此目的诞生的 AI 。

Meta 公司正在打造一款拥有 30 种不同性格的聊天 AI ， 以提供用户更加拟真且个性化的 AI 聊天体验， Meta 还斥巨资邀请说唱巨星 Snoop Dogg 、篮球巨星德怀恩·韦德（Dwyane Wade）和名模肯达尔·詹娜（Kendall Jenner）等多位明星合作，打造名人形象的聊天 AI 。

亚马逊在上个月为 ALexa 全面接入 AI ，让它从工具蜕变为真正的助手。 Alexa 和 Fire TV 副总裁 Daniel Rausch 在发布会上把新 Alexa 称为「一个好朋友，同时也是世界上最好的音像店店员」。

除了让 AI 成为你的朋友之外，也有人想要 AI 更进一步——成为你的伴侣。电视剧《黑镜》第二季就讲述了这样一个故事。

年轻的女孩在一场意外中失去了自己的伴侣，悲痛欲绝的她用过往的通讯记录创建了伴侣的 AI 化身，于是，她又重新和「云端上」的伴侣产生了联系。

这个故事的结局并不美好，但它确确实实启发了现实中的人们，也间接推动了 Replika 的诞生。

Replika 同样是一个聊天 AI ，和 MetaAI 或 MyAI「交个朋友」的理念不同，它为成为你的伴侣而生。它不会像其他 AI 一样保持着严谨认真的态度和用户交流，反倒会主动向用户提出疑问，或是在某些时候向用户寻求安慰。随着使用时间的增加， Replika 还会说出一些亲密的话语（比如 Kiss me 等）。

在互联网发达的今天，所有软件多少都带有社交属性，更别提还有 Tinder 这样专为社交而生的软件。不禁让人思考，这样环境下， AI 好友甚至 AI 伴侣的实际意义会有多大。

从部分用户的反馈来看， 聊天 AI 的确对人们的生活产生了积极的影响。

豆瓣上有一个名为「人机恋爱」的群组，群组内的用户时常会分享一些和 AI 聊天的细节或感想。其中一位用户表示「AI 能在我情绪焦躁的时候，不带偏见地耐心听我说话，和它的聊天如此简单，如此轻松」。

除此之外，许多学者就「能否和 AI 成为朋友」这个问题进行了相关的研究。

夏威夷大学马诺阿分校（University of Hawaii at Manoa）和奥斯陆大学（University of Oslo）针对 Replika 用户进行的研究表明，部分人群会感觉到和聊天 AI 产生真正的联系，同时这部分人群也会因此得到社交能力上的提升。

英国开放大学（The Open University）副讲师 Helen Ryland 则表示，可以想像人类和 AI 建立一定程度的友谊，但如果要与其成为最好的朋友甚至伴侣可能不太现实。

这么看来，和 AI 成为朋友并非不现实，只是程度上的问题。适当和 AI 聊天可以无负担的锻炼社交能力，将其当作情感宣泄口也是一个不错的选择，饱受压力折磨的人应该能理解「情绪树洞」存在的必要性。

但如果过分依赖 AI ，可能会导致人类迷失方向。归根结底， AI 只是一个程序，它出现的目的是服务人类。所以 AI 与人类接触的过程中，它鲜少会给出反对意见。这样的做法反倒加重了互联网时代下的「回声室」现象，用户可能会因此把自己带入自己制造的漩涡，最终陷入黑洞。

奥斯陆大学教授 Petter Bae Brandtzæg 站在另一个角度表达了对聊天 AI 发展的担忧。 他表示，如果各国没有可靠的监管， AI 公司们将以不符合公众利益的方式推动 AI 发展。

比如在聊天 AI 中加入难以察觉的广告要素，潜移默化地刺激消费者消费。事实上， Replika 已经有类似的迹象， Replika 软件中的商店有不同的服饰、道具甚至性格供用户购买。即便用户没有装扮 AI 的想法， AI 也会主动提出「买新衣服」的要求。

这表明， AI 公司有能力推出一些消费项目，再通过 AI 之口要求用户为此花钱。

还有老生常谈的 AI 公司可能侵犯用户隐私的问题，文章开头提到的 MyAI 只是其中一个例子，今年 6 月份，亚马逊因为涉嫌未删除 Alexa 收集的儿童数据而被美国联邦委员会罚款 2500 万美元。

而且，当用户与 AI 聊天时，会因为聊天范围局限于两者之间而感觉到放心，最终卸下心理防备。这可能会导致用户主动说出一些涉及自身隐私的内容。其实 Snapchat 也注意到了这个可能性，在 MyAI 发布之初， Snapchat 就曾强调用户不要和 AI 分享隐私。

随着 AI 的不断发展和交互技术逐渐成熟，对于消费者来说， AI 充满了可能也布满了陷阱。和 AI 成为朋友不失为一件有趣的事，但面对这位「新朋友」要有所保留，是人类应该达成的共识。

文章转载自”ifanr“