ChatGPT 人工智能 GPT4 伦理 生成式 医疗 监管 安全 机器学习 深度学习 神经网络 计算机视觉 强化学习 模型 算法 应用 开发 研究 工具 平台 框架 数据集 训练 部署 安全 合规 培训 投资 LLM,llm AI,ai,Ai 大模型 大语言模型 制图 生图 绘图 文生图 文生视频 生成式AI AGI 世界模型 sora chatGPT,chatgpt,ChatGpt claude openai Llama deepseek midjourney 红熊猫模型 Red panda,panda Stable Diffusion,StableDiffusion,stable DALL- E 3 DALL E DALL Flux,flux 扩散模型 混元大模型 文心一言 通义千问 可灵 Pika PixelDance 豆包 月之暗面 零一万物 阶跃星辰 搜索增强 MiniMax Talkie Agent prompt fastai LangChain TTS 微调 提示词 知识库 智能体
# 热门搜索 #
搜索
这种AI复活明星视频,就该被早点下架
3742点击    2024-03-20 11:13

AI是把双刃剑。


毫无疑问,「AI」已经成了今年科技和互联网行业的热门关键词。


小到AI聊天机器人大到AI大模型,AI的高速发展让人惊呆,并且还在大放光彩。


主流手机厂商纷纷在自家手机搭载AI大模型,AI也已经融入了我们的日常生活。


让AI生成文案图片,甚至消除照片路人、变脸拟声,现在都成了稀松平常的事~




都说科技是把双刃剑,其实AI也是这么回事,方便我们的同时也在制造不方便。


前几天,小雷和小伙伴们聊了聊,315晚会曝光的几个「AI换脸变声诈骗案」。


是的没错,如今的AI已经能制作在短时间内,欺骗普通人的AI换脸的视频片段。


然而这才没过多久,网上又双叒叕传来AI新消息,AI居然把已逝明星给复活了!


有人拍手叫好,也有人持反对意见,今天咱们就来瞅瞅,这件事的来龙去脉吧。


AI复活已逝明星引争议


也就最近的事儿,小雷在某些视频平台看到,有博主通过AI技术复活了去世明星。


这里的「复活」要打引号,其实是利用AI技术,让这些去世明星动起来+说上话。


听起来很玄乎吧?不过小伙伴要是还记得小雷之前文章的话,应该不会觉得陌生。


通常这种AI技术需要大量的人脸和声音数据学习,明星则是压根就不缺这些数据。


So,在经过一定的数据量的训练之后,个人博主完全也有能力生成这类复活视频。



比如嚯,近期就有博主制作了「AI李玟」的视频。


她在视频里的行为举止就像以前一样,她还表示:「希望你们都能活得很好」。



除了AI李玟,还有博主制作了AI高以翔、AI乔任梁等等明星。


讲真,要不是视频左边文字提示「视频和声音均由AI生成」,真的很难分辨出来。


不仅是国内明星,国外的诸如科比、迈克杰克逊等名人,也被AI「复活」了一波。


总的来说,这些博主大都是以已经去世的热门明星或名人为对象,进行AI生成的。


目前,「AI复活明星」这一操作,已经成了很多视频平台的网红级现象。



以前咱们经常在科幻片里看到这种情节,但真发生了大家的态度却并不统一了。


博主和支持者认为嗷,「复活明星」可以给其家属和粉丝,一些精神上的慰藉。



但是反对者却觉得,这些「复活」操作完全是一场蹭热度、恶意消费逝者的闹剧。


然而事情没有只停留在双方的意见不合,其实AI复活明星的背后还藏着不少猫腻。




背后灰色产业链大揭秘


「AI复活明星」只是AI复活的一个小分支,「AI复活亲人」才是这里头的重头戏。


小雷细扒了下,「AI复活明星」更多是起到引流的作用,靠的是已逝明星的热度。


毕竟发的是普通人的AI视频,普通人本来也没啥知名度,宣传效果肯定大打折扣。


那么问题来了,这些博主「AI复活明星引流」的目的是啥呢?答案自然是想赚钱。


喏,目前「AI复活逝者」这项骚操作,一共可以分为两个主要大类的赚钱方式。


一方面是通过教学和售卖AI相关技术工具,另一方面是可以代理接单服务客户。


第一个好理解,就是瞄准了部分人想赚快钱的心理,技术方直接卖技术和工具。


因为属于一锤子买卖,所以价格就会稍高一点了,一般都在几万元人民币不等。


技术方传授AI视频制作技术,学员学会后再给技术工具,这样学员就能接单了。



第二种学会技术的学员在线接单赚钱。


客户提供逝者的照片、音视频等资料给学员,再根据客户的需求制作AI复活视频。


一般这一类以团队和公司作为主体去接单,当然了,个人从事这方面的也有不少。


So,前者还催生出了「代理」服务,代理交钱作为下线,负责招揽生意供给上线。


也就是说,代理只需通过话术联系客户了解其需求,视频制作是由上线来完成的。



小雷了解了一下,目前AI复活亲人业务,已经能根据逝者素材自行选择呈现效果。

素材可以提供照片、视频以及声音(普通话/方言),可以呈现说话视频整体还原度从60%到90%,视频时长基本在1分钟内,价格从198元到598元不等。


甚至还可以语音/文字实时互动聊天、实时视频通话聊天,这两个项目目前还在规划中,价格也还没公布。


不过既然他们已经敢写出来了,现在AI发展速度又这么快,小雷估计兴许再过不久真的能上线。


So,这么一套捋下来,实际上「AI复活亲人」已经形成了一条比较成熟的产业链。



最后


可能有小伙伴会觉得这服务挺好,多少也能满足失去亲人的人们一些情绪和念想。


但是,小雷又要说但是了嚯。换个角度想想,这项技术是不是能克隆还活着的人?


如果有不法分子搞事,用AI把活人照片声音视频生成虚拟人,用于诈骗那就完了。


毕竟从已经生成的AI视频来看,这类视频的迷惑性极高,年轻人都很难分辨,更别说年纪大的中老年人了。


关于规范AI生成「真人」视频这一回事,小雷感觉平台方和有关部门可以再琢磨一下。


另外,AI生成已逝明星视频这操作,也面临着道德伦理方面的拷问。


目前嚯,基恩多用AI生成已逝明星的视频,都已经被博主主动或者平台方下架。


原因无它,利用逝者引流做生意的行为,不光网友忍不了忍,逝者家属更是气愤。


比如乔任梁父亲就希望视频尽快下架,而高以翔家人表示博主擅自盗用坚决抵制,请立即下架停止侵权。




AI作为一项新技术,本该从善良的角度出发,帮助人们解决学习生活工作中的难题。


诚然,有些家庭确实需要通过「AI复活亲人」来获得慰藉,但这绝对不是无良商家不尊重逝者的理由。


最后小雷要建议小伙伴们要擦亮眼睛,真人视频和语音已经不能轻信,最好把视频和电话时长再延长一点,守护好钱包才是王道。


本文来自微信公众号“小雷哔哔”(ID:xiaoleibbb),作者:Jonty


AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
AI换脸

【开源免费】Deep-Live-Cam是一个只需一张图片即可实现实时换脸和一键视频深度伪造的AI项目。

项目地址:https://github.com/hacksider/Deep-Live-Cam