AI“辣聊”翻车,谁在允许偶像被“分身擦边”?

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
AI“辣聊”翻车,谁在允许偶像被“分身擦边”?
7043点击    2025-06-16 10:04

AI“辣聊”翻车,谁在允许偶像被“分身擦边”?


谁来定义偶像的“亲密权”?


6月初,一款主打偶像AI聊天的应用Almigo掀起争议漩涡。


该应用由中型娱乐公司RBW与AI技术公司KLLEON联合推出,提供与旗下艺人包括Solar(MAMAMOO)、许龄智(KARA)、效定(OH MY GIRL)等在内的“AI分身”互动功能,却因被质疑存在疑似擦边功能,被全网声讨。


AI合成语音、复刻形象、拟人对话,本是看似顺理成章的技术拓展。而从“陪伴”到“擦边”,AI介入得有多深,才算越界?


AI分身辣聊风暴


据悉,在这款AI应用Almigo上,用户不仅可以文字聊天、听AI仿生语音回复,甚至还能开启仿真人脸的视频对话。


而最具争议的部分,落在了名为“Spicy”的付费功能上。该功能宣传中暗示,付费用户可以与AI偶像进行更私密、更亲昵的交流。


尽管内容以文字为主,但不少用户发现对话中频繁出现擦边暗示、挑逗用语,并通过“对我撒娇吧”、“你喜欢什么样的男生”这类回复设置,制造暧昧气氛。


而在平台未对用户身份、年龄做出明确限制的情况下,部分未成年偶像的AI形象也被纳入可互动角色之列,使得舆论质疑进一步升温。


与此同时,社交媒体上很快炸锅。


推特、Instiz等社交平台上涌现大量抗议声音:“AI物化女性”、“Deepfake犯罪”。不少海外粉丝也联合发起Tag“运动抵制Almigo”。事件发酵后,艺人Solar本人通过粉丝平台回应称“已向公司表达意见”,但表态克制,并未直接提及合成内容的授权过程。


最终,在上线不到48小时后,RBW宣布下架APP,并向公众致歉。KLLEON也发布声明称将“重构模型”、“暂停商业推广。”


面对争议,KLLEON代表在6月9日接受《韩民族日报》采访时表示:“Almigo从技术上并不可能进行与偶像的性暗示对话”,并强调平台已采取相关措施,以遵守AI伦理准则。他还补充称,项目自2023年初启动,已通过所属公司向艺人们“充分传达相关内容”,但“可能在沟通上产生了一些偏差”。


一场试图借AI变现的新尝试,在数天内以道歉、下架、口碑下滑收场。然而,其引发的讨论远未平息。


推手与共谋


这场AI应用的越界是如何发生的?


从表面看,这似乎只是AI公司过度逐利、娱乐公司监管不力。


但若回溯合作背景会发现,RBW与KLLEON并非简单的甲乙方关系,而更像一组利益一致、愿赌同输的AI投机联盟。


KLLEON是韩国近年来颇具代表性的AI内容创业公司之一,成立于2018年,核心产品包括AI视频转换平台KAMELO、AI人设生成工具Klone以及数字人实验性服务Killing。


该团队以KAIST和首尔大学的AI专家为主,曾获得韩国信息通信技术创新奖、入围CES创新奖单元,创始人姜重赫与黄素贤还双双入围2023年《福布斯》亚洲版(Forbes Asia)的“30 Under 30”榜单。

此前他们曾与CJ ENM、MBN电视台合作实验虚拟主持人等内容项目,积累一定技术口碑。


而RBW的介入,并不只是合作授权方那么简单。


据韩媒《Digital Daily》报道,RBW在2023年就已参与KLLEON的A轮融资,成为公司战略股东之一。根据商业登记信息,两家公司在日本市场的分公司地址也高度重合,有分析认为二者在海外市场开拓中可能存在资源整合、渠道共享等合作。


在AI成为韩娱新热词的当下,RBW显然希望借Almigo抢占一席之地。作为拥有MAMAMOO、Purple Kiss等艺人的中型娱乐公司,RBW在近年面对K-Pop高度竞争时显露出一定的增长瓶颈——新人女团Purple Kiss尚未走红,而MAMAMOO成员个体活动多、团体曝光少,粉丝增长趋缓,公司迫切希望寻找新的收入增长点。


同时,RBW作为KLLEON股东之一,本身就对AI技术商业化有利益诉求。推出合作产品既可以验证投资成果、分享收益,也有助于RBW对外树立科技先锋形象。在如今娱乐业与AIGC结合的趋势下,RBW希望走在前列,通过AI偶像互动开创行业新模式,抢占赛道高地。


相比耗费人力拍真人综艺、办巡演、开粉丝见面会,一个可复制、可全天候运营的“AI艺人”看起来更具ROI潜力,还能绑定会员制度带来持续收益。


归根结底,这是一种试图“低成本再造偶像生产力”的想象。


但问题在于,RBW高估了技术换情感的能力,也低估了粉丝对“拟人亲密关系”的边界执念。特别是在女偶像深陷过度物化争议已久的背景下,这种将AI作为“定制情欲陪聊”的操作,不仅踩到了粉丝心理底线,也引发公众对“女性AI商品化”的普遍警惕。


RBW的问题,并非出在对AI技术的想象力,而是缺乏想象力之外的判断力。这次冒进不仅没有带来预期收益,还导致市场信任度直线下降、粉丝群体流失与艺人受挫,可谓得不偿失。


有业界评论指出,RBW此举也暴露出中小型娱乐公司在品牌转型上的浮躁,一味追赶AI风口,却忽视了偶像关系的核心资产:粉丝对艺人的情感投射,以及公司对艺人品牌的长期培育。


短视逐利而损害这两类关系,则终将自食恶果。


谁来决定亲密的尺度?


AI偶像并不罕见。


早在2010年代中期,Hatsune Miku等虚拟偶像便已完成从“技术产物”到“文化角色”的跃迁;日本市场也早已培育出虚拟YouTuber、AI歌姬等成熟品类,粉丝乐于接受“TA们本就不真实”的前提,与其建立独特的投射关系。


这类虚拟形象并无现实对应人物,公司对其拥有完全的控制权和IP归属,公众的关注点主要集中在“技术实现”和“人设魅力”,而非伦理风险。



近年兴起的AI聊天平台,如Character.AI与Replika,则将AI拟人推向了“对话亲密关系”维度。


前者允许用户创建包括明星在内的各类角色AI,自娱自乐为主,系统会过滤露骨语句,强调这些AI“不是本人”;而后者则一度鼓励用户与AI伴侣发展恋爱甚至情色关系,最终因过界问题引发争议,在2023年被迫调整“成人模式”权限。



但无论是哪种模式,它们大多划清了底线,包括回避使用现实艺人真实姓名、脸部建模或声音采样;明确标注AI为虚拟形象,避免误导;以及控制内容尺度,杜绝情色诱导或擦边营销。


Almigo的争议,正是在于它同时违背了法律与伦理的两重准线——既动用现实偶像的图像与语音,又在内容上模糊互动界限,制造有意的暧昧空间。


在法律尚未完全明确“数字人格权”的当前阶段,一个至关重要的问题被摆上台面:公司是否有权以“授权”为名,让AI分身替艺人进入模糊的亲密关系场?哪怕合约上允许合成语音或形象生成,是否也应单独征得偶像本人对具体应用场景的知情同意?


不少行业观察者指出,这种合成互动如果涉及性暗示,其伦理风险几乎等同于未经授权的深度伪造内容。


此外,作为最常被AI拟像瞄准的群体,女性偶像的权利边界也因此再度受到挑战。即便Almigo中不存在直接裸露或猥亵对话,技术手段的开放性本身就为滥用埋下隐患——AI模型极易被二次“训练”说出低俗话术、生成性别暴力内容,成为对偶像的另一种深伪式伤害。


更重要的是,偶像本就是高度依赖公众情感想象的存在。一旦与AI形象之间产生混淆,她们所面对的不只是权责的模糊,更是人格边界和情感认知的持续侵蚀。


粉丝愿意为情感投资,但这份投资从不是对算法的投注。RBW这次的翻车,并非AI“不可用”,而是技术滥用。


技术可以突破场景,却不能突破体验的边界。AI确实为娱乐业带来了前所未有的想象空间——数字人能让偶像同时出现在千千万万粉丝面前,虚拟偶像可以24小时营业“永不塌房”,但偶像产业始终建立在真实连接之上,有着脆弱而珍贵的情感生态和伦理底线。


文章来自“虎嗅”,作者“文娱先声

关键词: AI , AI分身 , Almigo , 人工智能
AITNT-国内领先的一站式人工智能新闻资讯网站
AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
数字人

【开源免费】Fay开源数字人框架是一个AI数字人项目,该项目可以帮你实现“线上线下的数字人销售员”,

“一个人机交互的数字人助理”或者是一个一个可以自主决策、主动联系管理员的智能体数字人。

项目地址:https://github.com/xszyou/Fay

2
无人直播

【开源免费】VideoChat是一个开源数字人实时对话,该项目支持支持语音输入和实时对话,数字人形象可自定义等功能,首次对话延迟低至3s。

项目地址:https://github.com/Henry-23/VideoChat

在线体验:https://www.modelscope.cn/studios/AI-ModelScope/video_chat


【开源免费】Streamer-Sales 销冠是一个AI直播卖货大模型。该模型具备AI生成直播文案,生成数字人形象进行直播,并通过RAG技术对现有数据进行寻找后实时回答用户问题等AI直播卖货的所有功能。

项目地址:https://github.com/PeterH0323/Streamer-Sales