时间倒回前几年，如果小雷和小伙伴们聊聊AI，你们可能觉得我在天方夜谭？

彼时AI留给人们的印象，还停留在科幻电影的智能机器人、智能生活助手等等。真要说起来，离我们最近的应该就是手机里头，那个脑袋不太聪明的语音助手。

语音助手句句有回应，但是回得对不对就是另一回事了，你说对吧，Siri？

但放到现在可就不一样，这几年AI发展有多快大伙看在眼里，AI元年早就来喽。在图片、视频、音频以及文字等领域，AI已经玩出了花，甚至可以说是「颠覆」。

就拿应用最广泛的图片AI来说，其实在我们平时的生活里，现在已经随处可见了。户外的广告牌、电梯里的海报、商场里的促销图……大伙琢磨下是不是这么回事？

不仅如此，很多APP还加入图片AI方面的功能，然而随之而来的却是争议的声音。

苹果和谷歌先后下架相关APP，国内手机厂商也禁止操作，这到底是怎么回事儿？

01 苹果谷歌下架脱衣AI APP

目前AI在图片上的应用，大概有这几类：AI生图、扩图、消除以及修复画质等。

这些都是很正常的内容，但有些别有用心的人，却以此开发出了一些恶意APP。 

就在上周五，外媒404 Media报道：苹果和谷歌分别在应用商店下架多款自称能够实现「一键换衣」的APP。

「一键换衣」听起来很离谱，但其实这玩意可以看作是「一键换脸」的升级版。

早在2019年，就有程序员开发出一款名为「DeepNude」的「一键脱衣」APP。 

开发者声称，给DeepNude一张女性图片，它就能靠神经网络技术，脱掉人物衣服生成未穿衣服的图片。

好家伙，这个APP要是落到歪脑筋的人手里，那可不就是妥妥的不雅照生成器吗？

结局是为了防止DeepNude被滥用，最终开发者选择关闭DeepNude的网站和APP。

如果说DeepNude只是独立开发者的小打小闹，那如今在苹果和谷歌应用商店上架的「一键脱衣」APP，是怎么通过审核的呢？

据报道，这些APP很多都来自Meta平台的广告库，这些恶意APP的广告一般在Meta旗下的平台投放。

用户一点击广告就会跳转到苹果或谷歌的应用商店，也就是说，用户压根不用自己搜索「脱衣」等关键词就能找到类似APP。

而且这类AI APP通常被包装成其他AI生成类APP，开发者大概率就是通过这种方式，躲开苹果和谷歌应用商店的审查机制。

费了这么多功夫，APP开发者肯定不是用爱发电，而是通过「一键脱衣」功能赚取不义之财。

好在经过外媒报道后，苹果和谷歌也作出了实际行动，下架了多款「一键脱衣」APP。 

Meta平台也在积极收集恶意广告链接下架删除，还表示接下来将加大审查力度，针对违反规定的政策采取措施。

02 AI消除敏感图片被禁

除了上面这事儿，小雷发现国内手机厂商，也针对「AI消除」作出了一些限制。

我没记错的话，手机拥有「AI消除」这功能，应该是从去年开始才流行起来的。

AI消除能通过AI技术，较完美地去掉照片中多余的人和物，让照片看起来更简洁。

只是不知道哪个神人突发奇想，竟然把AI消除用在了消除女性照片胸部的位置。

咳咳，结果一些手机的AI消除功能，就把衣服给消除，甚至还把人体给补齐了。

AI本来是根据边缘背景进行计算，修补后的效果看着的确和谐，不能怪它不行。

还是那句话，有人不怀好意的话，这个功能确实能生成一些本不存在的不雅照。

这事当时挺多人关注，不过经过媒体报道后，主流品牌手机的AI消除都作出了限制。

现在对照片中的人体敏感部位使用AI消除，会出现「图片可能包含敏感信息，无法使用此功能」类似的提示。

如果涂抹的是其他地方，则AI消除可以正常使用，小伙伴们可以试试自己的手机，应该都有这种限制了。

03 AI图片是把双刃剑

苹果谷歌下架「一键脱衣」APP，手机厂商禁止AI消除敏感照片，AI图片已经发展到了这个程度。

其实从AI在图片上的实际应用来看，它更像一把双刃剑，在带来方便的同时也带来了一些麻烦。

AI图片的好处很多：在摄影行业，可以帮助摄影师后期美颜和降噪；在设计行业，可以让设计师少些繁琐的画图工作；而在自媒体行业，小雷发现已经有一些同行使用AI为文章配图，AI生成图既符合文章大意，又不会有侵权的风险。

AI图片的麻烦也不少：一键换脸、一键脱衣、一键无中生有增加人体细节……，AI在关于人的隐私安全方面，依然还有不少漏洞会被不法分子钻。

虽然每次曝出类似新闻的时候，相关企业或者平台都能及时行动，作出或下架或禁止的举措，但总是要等事情发生后再亡羊补牢，往往就容易出岔子。

AI图片应用之路才刚刚开始，小雷觉得前面这些案例，已经足够让AI开发者们得到警示喽。

在开发AI更多新功能时，AI开发者们应该提前考虑新功能落地后，可能会出现的负面操作和影响。

能在落地前解决自然最好，如果不能推迟落地或者采用更合理的方式实现原先方式80%的效果，也不是不行。

总之，小伙伴们还是要以合理眼光看待「AI图片」，小雷也相信AI未来的发展会越来越好。

本文来自微信公众号“雷科技”（ID:leitech），作者：雷科技