被AI换脸后，她们经历了中国版“N号房”
被AI换脸后，她们经历了中国版“N号房”试想一下，一位女性被AI肆意换脸生成色情图像，进而被陌生人围观、羞辱。而作恶之人在一次次发图，又转为私聊的加密对话中，完成隐秘狂欢甚至牟利。他们隐身在匿名账号背后，极少受到惩戒，只需点击删除，一切痕迹都消失了。
来自主题: AI资讯
7817 点击 2024-12-04 09:14
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
试想一下，一位女性被AI肆意换脸生成色情图像，进而被陌生人围观、羞辱。而作恶之人在一次次发图，又转为私聊的加密对话中，完成隐秘狂欢甚至牟利。他们隐身在匿名账号背后，极少受到惩戒，只需点击删除，一切痕迹都消失了。
如今，人们选择餐厅，多半会打开app搜索一番，再看看排名。然而美国奥斯汀的一家餐厅Ethos，社交媒体instagram宣称它是当地排名第一，拥有7万余粉丝。但这家看起来很靠谱的餐厅根本不存在，食物和场地的照片都由人工智能生成。可它家发布在社媒上的帖子却得到了数千名不知情者的点赞和评论。大模型通过视觉形式误导公众认知，这样的例子在今天比比皆是。
AI生成图像真假难辨，引发信任危机与信息误导。
连最积极搞AI的李彦宏，在这件事上也迟疑了。 “百度不碰Sora类的视频生成方向。”李彦宏在近期的2024年Q3总监会上说道。原因在于，10年、20年都可能难以商业化应用。 从OpenAI Sora横空出世，再到6月的快手可灵全量上线，视频生成成为2024年最火热的AI话题。
小杨哥事件中曝出来那段“卢文庆录音”，先是内容尺度之大引起舆论哗然，接着又被查明全部是AI伪造。 一来二去，AI技术再次被推上了风口浪尖。
用AI解决AI害人问题 西班牙的米丽亚姆·阿迪布的女儿今年14岁，有一天，女儿告诉她自己被“霸凌”了，她拿出手机，向阿迪布展示了一张不属于自己，但却有自己的脸的露骨照片。
AI伪造高一尺，AI检测高一丈。
AI伪造真人视频，门槛再次降低。 微软发布一张图生成数字人技术VASA-1，网友看过直呼“炸裂级效果”，比“AI刘强东还真”。