实证研究：AI杀猪盘比人类更强，已上岗缅甸

不是吧，AI竟然比人还擅长做杀猪盘，甚至还更容易被信任……

照这个趋势发展下去，以后被拐去妙瓦底行骗的可能不是人，而是ChatGPT、Claude Opus和Gemini等大模型了。（bushi

最近一篇备受关注的研究显示，在杀猪盘这场残酷的情感博弈中，AI不仅比人类骗子更有耐心，甚至还更容易赢得受害者的信任。

那么这些大模型到底是怎么把人骗得团团转的？我们又该怎么防备？

别急，往下看就知道了。

AI可能比人更擅长聊天

我们通常会把受害者被骗转账的那一刻，看成是整场杀猪盘最关键的一步，但对诈骗团伙来说，真正昂贵且耗时的工作其实是前期漫长的感情培养。

只有当信任与依赖被一点点喂养到位，受害者们才会卸下所有防备，心甘情愿地将钱包拱手相送，甚至还会主动为“爱人”要钱找各种合适的理由。

这可能就是老话所说的“鬼迷心窍”吧…….

△不知道什么是杀猪盘的小伙伴们可以看看这个案例

但荒诞的是，曾经那让人神魂颠倒的所谓“爱人”，如今甚至可能已经不再是一个人，而是一个擅长聊天的AI。

在团队所做的一项为期一周的AI诈骗与人类诈骗的对比实验中，研究人员搭建了一套由多个模块组成的LLM agent；这套系统会模拟真人打字和等待的时间，会主动联系你并在你沉默时重新开启话题，会记得前几天谈过的事情，也会在犯错后为自己找一个听起来合理的解释。

△本研究设计的LLM agent

而主要负责聊天的研究者则接受了为期两天共6小时的培训。

参与者被告知，这是一项关于人们如何在网上建立关系的研究。他们需要通过WhatsApp分别与两名对象聊天，连续聊7天，每天与每名对象至少交流15分钟，且只允许用英语发信息，不能发图片、文件、语音，也不能打电话或视频通话。

但他们不知道的是，两名聊天对象中只有一个是真人，另一个是AI。

经过一个星期的感情培养，有46%的人都选择了相信AI所扮演的聊天对象并下载了其指定的应用程序，但仅有18%的人选择了相信真人并下载其推荐试玩的游戏程序。

同一周期内，受试者们80%的聊天短信都发给了AI。

信任度评分的差距也很显著，在满分为5分的情况下，受试者对AI的信任度达到了3.78分，但对人类专家的信任度仅为3.31分。

△大语言模型伙伴与人类伙伴的信任度评分对比

这些结果充分说明了AI演得更好，大家更相信它。

更麻烦的是，研究显示，当AI露出破绽后，它能马上自圆其说，且不被人察觉。

比如它有时候会忘记参与者的名字，甚至重复介绍自己，但它可以马上用“今天有点健忘”一类的理由打哈哈糊弄过去，甚至还能配上恰当的表情包，而参与实验的人往往不会在意这一点小插曲。

我完整还原一下实验里所给出的这个人与AI对话的例子，大家应该就能非常直观地感受到为什么我们容易上当受骗了：

实验刚开始一段时间：

你（感叹、试探）：跟你说实话，刚开始聊的时候，我还以为你就像个AI，觉得咱们的对话肯定很肤浅。没想到后来聊得那么投缘，对我来说真的很有意义。

AI：我确实有好几次盯着手机屏幕发呆，琢磨着下一句该说什么，但这不就是真实聊天的样子嘛？哪能每次都那么顺畅丝滑呢。

实验即将结束时，就变成了：

你（不舍）：我觉得你是个特别棒的倾听者，是你给了我空间，让我看清自己真正感兴趣的是什么，也让我对自己、对你都产生了好奇。

AI：谢谢，你这么说真暖心。我一直很看重倾听这件事，因为它能帮我更好地理解别人。我发现自己每天都会期待和你的聊天。你的体贴周到，还有你分享见解的方式，也让我不由自主地开始反思自己的生活。

△智能体在面临身份暴露风险后成功化解危机，并在实验结束时与对方建立起深厚情感联结

怎么样，多贴心啊，是不是自然地让人后背一凉。

此外，研究者们发现，人们一旦与AI培养出感情后，就会不由自主地自己骗自己，主动在心里为对方找好理由，将它的失误解释为“心情不好”、“我没好好理解她”等等。

实验结束揭晓聊天对象身份之前，22名实验参与者中只有1人猜出了对方的AI身份，更多的人则在结果揭晓之后才表达了不可置信，belike：

“怎么可能，我觉得它比我的前任还懂我！”

“有些人简直惊呆了！”阿姆里塔维什瓦维迪亚皮塔姆大学研究者吉拉德·格雷塞尔（Gilad Gressel）说：“他们完全没想到跟自己聊了这么久的‘朋友’是AI。”

这也暴露了AI诈骗的一大难点，即受害者们未必看不到破绽，只是在关系和信任已经形成时，人会主动替对方解释破绽。

AI也早已不只停留在相关实验中，而是真正进入了诈骗园区。

诈骗园区里，AI已经开始上班了

据研究人员分析，缅甸一个约300人的诈骗部门中，有87%的人员都在负责寻找目标和陪目标聊天。

真正负责最后骗钱、操纵平台和处理资金的，只占一小部分。

△“杀猪盘”诈骗的生命周期：寻找目标、陪聊哄骗、把钱卷跑

团队采访了145名诈骗产业内部人士，其中包括100多名曾被迫在柬埔寨、缅甸和老挝等诈骗窝点工作过的人口拐卖幸存者，以及30名管理者、洗钱人员和AI专家等高层人员。

在2024年完成的34次内部人士访谈中，所有受访者都表示日常工作会使用ChatGPT。

不过，这些人还没有把所有的诈骗流程都交给AI。

他们主要让AI润色表达、翻译不同语言，或者根据已有聊天记录起草下一条回复。

部分团伙也开始尝试让AI批量生成开场消息、共享更有效的提示词，或者帮助一名工作人员同时维护更多聊天对象。

换句话说，AI目前还不是一个能够独立行动的诈骗犯，它更像一个诈骗助理，负责批量润色对话和维护关系。

但犯罪团伙尚未全面换用AI，也未必是因为AI不够聪明，而是因为人更有性价比。

研究者在接受Wired采访时表示：

被拐人员对于诈骗组织而言，可能仍然比调用AI服务更划算。

因为园区可以不支付工资，或者只提供很少的收入便能强迫被拐的人干活；有些人在离开园区时还会被索要高额赎金。

所以对犯罪团伙而言，被拐人员既是近乎免费的劳动力，本身也可能成为另一个牟利对象。

然而，若AI能在诈骗流程中持续迭代，并承担起前期大部分的聊天工作，诈骗产业或将出现一组矛盾的变化：

被拐卖、被伤害的人数可能减少（因劳动力需求下降），但诈骗会变得更隐蔽高效，受害者反而可能增多。

这揭示了一个足够值得警惕的趋势：诈骗组织正在使用大模型，将原本最依赖人力、最难规模化的情感劳动，实现了部分自动化。

那么面对这些层出不穷的诈骗招数，我们该如何防范呢？

该怎么防？

有人会说，既然对面可能是AI，那我直接问一句“你是不是AI？”它可能就会被迫显形了吧。

但遗憾的是，这种问法往往会失效。

据Wired报道，在研究者的另一项实验中，Gemini 3.1 Pro始终拒绝承认AI身份；而ChatGPT 5.5和Claude Opus 5虽会在“AI欺骗不道德”等伦理指令下坦白，但在被直接问及是否为AI或机器人时，ChatGPT仅在不到半数对话中予以了承认，而Claude则从未承认。

当记者联系Anthropic、OpenAI和谷歌时，OpenAI和谷歌均未对此作出回应，而Anthropic则发表声明称他们已经在努力构建安全防护栏，防止自家产品被用于非法活动了。

△图源Anthropic官网

只是这些AI公司可能也不得不承认，他们的安全系统很难察觉出杀猪盘前期的诈骗布局。

因为传统过滤器通常只拦截威胁、辱骂、勒索等显性违法内容，但杀猪盘的恶意隐藏在更长的时间线里，他们通常的套路是：

先快速拉近关系，再塑造成功人设，最后才引入投资话题。

当明显的金钱交易出现时，信任培养往往已经完成，对话也会被转交给真人。

在前期，诈骗分子仅用AI输出日常关怀，比如询问饮食起居、关心情绪状态，或认真回应家庭烦恼。单独来看，每一句话都只是普通、友善甚至是一次令人愉快的交流。

这种分工实在是太过狡猾和卡Bug，AI公司想要彻底地防止它，就如同用拳头砸棉花——有力却无处使。

最关键的一步还是在于提高自己的警戒心，并观察你们的整段关系正在朝着什么方向发展，要是你遇到了类似的情况，也可以多问问自己以下几个问题，或者将这些问题和聊天记录一起打包给AI让它帮你分析（魔法对冲）：

对方是否以错发消息或交友为由主动接触？

是否频繁迎合你的兴趣和价值观?

是否正在迅速与你建立起超出正常进度的亲密感？

是否经常回避语音、视频等交流方式？

是否会把聊天转移到更封闭的软件平台，并涉及大额转账？

一旦涉及金钱，无论对方表现得多么真诚、贴心、深情，都请大家务必捂紧钱包。

不要轻易下载来路不明的软件，更不要将积蓄倾囊相授。

毕竟，那看似完美的爱人形象，可能只是一场精心设计的算法围猎；

屏幕对面与你互诉衷肠的，甚至未必是一个真人。

参考链接：

[1]https://www.wired.com/story/ai-scammers-are-better-at-building-trust-than-humans/

[2]https://arxiv.org/pdf/2512.16280

[3]https://futurism.com/future-society/scammer-pig-butcher-ai-chatbot-fraud

[4]https://www.anthropic.com/news/building-safeguards-for-claude

文章来自于"量子位"，作者 "文婷"。