最怕流氓会武术，律师团队引导AI产生“幻觉”恶意发动400余起诉讼

在AI来了之后，其实对各行各业的挑战都非常大，因为很多情况都是第一次出现，之前并没有案例可以参考。例如我这两天看到我的律师同学转发了一条新闻，是关于一群懂技术的律师利用AI的漏洞来牟利，非常有代表性，我给大家简单聊一下。

这是一篇发表在《人民法院报》10月11日头版的新闻。讲得是上海青浦区法院对400多件商标侵权案件进行追查，然后发现了这是一个律师团队利用AI幻觉来进行恶意取证，从而发起诉讼。

案件始末

这个案件的承办法官在接受采访的时候，说最开始他以为这只是一件非常普通的商标侵权案件，但是真正深入了解的话，发现了很多蹊跷的地方。

因为新闻里没有说具体的企业名字，我来用大家耳熟能详的品牌案例举例子，我们假设一家企业叫张师傅，另一家企业叫张帅傅。从我设定的名字就可以看出，张师傅肯定是一家正牌企业，而张帅傅就会山寨一些。

但是有一天，就有律师去法院提起诉讼，说是商标侵权。按照我们正常人的理解，这种肯定是张师傅的律师去发起的诉讼。可惜，现实情况，原告是张帅傅。控诉的原因是如果有网友在搜索引擎里搜索“张帅傅”的话，默认出来的第一个链接是张师傅的官网。

所以原告律师，也就是张帅傅的律师，控告张师傅团队购买了搜索引擎竞价排名的广告功能，并且有意选用与张帅傅相近的搜索词进行网络推广，侵害了自己的商标权利，因此发起诉讼，要求被告张师傅公司赔偿经济损失和合理开支。

各位同学，看到这里你是不是觉得晕？觉得自己的三观被颠覆了？基本上就相当于一个叫阿迪屌丝的品牌去法院告阿迪达斯蹭自己的知名度。

法官也很纳闷，因为以前只听说过低知名度的蹭高知名度的品牌，没有想到今天调转过来了。所以法院就向搜索引擎公司发去了协助调查函，结果发现张师傅团队并没有购买任何推广词。法官准备找原因时，原告提出了撤诉。

背后原因

不过，没想到没到两个月，又发生了一起类似的商标侵权案，原告还是之前那个张帅傅的律师团队，但是被告换成了另外一个知名品牌，假如我们叫李师傅。案情几乎一模一样，也是告李师傅在搜索引擎上做恶意竞价排名，并且从证据显示，确实网友搜索“张帅傅”的话，就会去到李师傅的官网。

这两起案件确实也太不尊重我们法官的智商了。经过搜索引擎公司的查证，发现原告团队用同一IP进行了多次且连续的非正常搜索，触发了搜索引擎的故障。然后这个原告律师团队又撤诉了。

不过法官梳理情况后，发现这个律师团队在全国各个法院发起了400多起类似的商标诉讼案。我看了下采访技术专家的解读，发现这确实是一帮非常懂AI又很懂法律的人干的。

我简单介绍下这个背后的技术逻辑，因为这400个案件都发生在搜索引擎引入大模型技术，用AI进行搜索结果的优化时期。例如他们用多个电脑或者手机，在短时间高频率的搜索一个关键词，比如就搜索“张帅傅”这个词。如果排名第一的，就是他们的网站，那么谁也不去点击。这时搜索引擎背后的AI肯定会反思自己是不是给的结果不够准确。然后会不停的优化一下结果，只要是其他网站出现在第一位，他们就会点击，并且把证据保存下来。但对于AI来说，它会觉得这次自己的结果是最好的，因为真的有人点击了第一个链接。

说白了，这就是一个人肉污染AI训练数据的案子，但是如果不加制止的话，其实不管是被告的企业还是搜索引擎公司，都会带来无尽的麻烦。要是法官对这里面的一些蛛丝马迹没有深挖，真要是让在各地的400多个案件都立案的话，那带来的公共资源的耗费将是非常大的。更可怕的是，这会引起一大波效仿者，和更加防不胜防的场景。

恶劣后果

按照本文这个法律团队的办法，那么对大部分AI助手都可以使用这种无耻的办法引导。举个例子，假如我问AI，我们公司的创始人叫什么名字，AI说叫罗振宇，我说不对，他真名叫罗胖。我说一次没什么影响，如果我在一天之内让所有同事都这么教育AI一遍，AI肯定会更新自己的知识库。

然后我截屏，就可以说这个AI公司侵犯我们公司创始人的名誉权，嘲笑他“胖”。那我可能就要求这个公司赔偿我们五万块钱，看起来五万块钱并不多，但是如果把主流AI公司或者助手都试一遍，那金额也非常可观了。

之所以给大家聊这个案件，就是因为现在是AI的野蛮成长期，在这个过程中会发生很多边界模糊的事情，咱们多听两个这种事情，平时也能多长个心眼了。到最后我还是不得不感叹，在AI时代，除了理解AI之外，有自己的一技之长非常重要，放在今天的案例里，这个律师团队如果把自己的聪明才智放在正确的地方，也能做出挺多好东西。我把这条新闻的链接放在文稿最后和原文链接里了，如果你对这件事情感兴趣，可以看一下原始报道。

法院，帮大模型反诈：

https://mp.weixin.qq.com/s?__biz=MzA3MjEwNzYzOQ==&mid=2650778482&idx=1&sn=e0ff1ce461674cf27323d711bc92be11&scene=21#wechat_redirect

文章来自微信公众号 “ 快刀青衣 ”，作者 快刀青衣