实时视频里参与剧情,Prelulu想做可以自由对话的互动故事

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
实时视频里参与剧情,Prelulu想做可以自由对话的互动故事
8018点击    2026-11-13 10:51

实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


走进虚拟故事世界。


看短剧经常能看到这种情节,主角明明看得出前面有圈套,照样一头扎进去。


有时候真恨不得隔着屏幕喊一句,别进去啊。


最近,腾讯混元的Hy-Nomas项目里就出现了一段互动短剧演示,观众能够跟里面的角色对话,说出来的内容可以带动后续故事变化。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


做这段演示的团队叫Prelulu。


这家公司其实已经做出了一款挺有意思的产品:用户能够挑选虚构人物,进入设定好的故事,并在对话进行到一半时拨通视频电话。


对方会以实时生成的面孔和声音回应,用户随时可以插话改变这段故事的走向。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


在首页,最先吸引注意力的是人物与故事设定。有人物身处危险的家族关系,有人生活在魔法与精灵构成的奇幻世界,还有偶像、狼人、吸血鬼等不同题材的人物。


这些虚构人物都有身份介绍、性格特点和一段已经写好的故事开头,它们有意选择容易让人代入的瞬间,开场就交代双方的处境。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


其中文字聊天只是Prelulu的一种入口。当一段情节需要听见人物的声音,用户可以在同一人物的页面发起语音通话;如果这个人物已经准备好视频形象,还能选择实时视频电话。


接通后,屏幕里出现对应的人物,嘴部动作、表情和声音会随着回复生成,并且通话过程中可以随时打断。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


用户也能决定要不要让对方看到自己,视频通话可以只显示虚构人物的面孔,自己的摄像头默认不会开启。


在支持摄像头共享的通话里,用户主动打开权限后,人物才可以针对镜头里的信息作出回应。


比如用户举起一件物品,请人物描述它,或者直接展示一张照片,让交谈围绕眼前的东西展开。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


Prelulu的实时视频通话还有一个细节,人物说话时,脸上的表情会跟着变化,嘴部动作也会与声音同步。


每个人物都有自己的声音设定,说话时还会根据交流内容表现出不同的情绪。


为了让故事能够延续,Prelulu还为聊天和通话设计了记忆机制,让对方在后续交流里有机会提起曾经出现的称呼、约定和关键细节。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


用户还可以通过Pinned Memory固定关键内容,供文字聊天与通话读取。


Prelulu还有保存重要片段的设计,用户可以留住某次交谈中有纪念意义的时刻。


除了体验现成的故事,Prelulu还支持用户创建自己的虚拟人物。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


进入创建页面后,用户可以自定义人物的名字、性格、背景故事、开场剧情和声音,也可以输入一段简单的描述,让AI辅助生成人物设定。


外观方面,Prelulu提供写实、日系动漫、韩系条漫、游戏CG等多种视觉风格,支持上传参考图片,方便用户调整人物形象。


创建完成后,用户可以直接与自己设计的人物进行文字或语音交流。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


Prelulu还支持为这些人物生成视频形象,准备完成后,就能通过实时视频通话与自己创造的虚拟人物面对面聊天,人物会根据对话作出回应。


另外,Prelulu也提供从Character.AI搬家的功能。


用户只需要粘贴Character.AI的人物链接,就能导入原有的头像和公开人物设定,并进一步生成声音和视频形象。


如果想连之前的聊天记录一起带走,也可以上传Character.AI导出的ZIP文件,不过这种导入方式目前只支持文字聊天。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


不过,Prelulu还想让这些人物拥有更丰富的生活环境。目前,用户主要通过对话参与剧情,视频通话呈现的是人物的实时反应。


接下来,团队希望让故事中的房间、街道等环境也能随着剧情发生变化,甚至让用户进入故事世界,与其中的人物自由互动。


这也是Prelulu背后的The Influence Company正在探索的方向。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


团队最早曾做过ScaryStories,尝试让用户介入带有恐怖气氛的互动故事。


恐怖题材适配这套交互逻辑。角色的提醒、房间里的怪事,加上观众现场做出的选择,都能往下带出新的剧情。


后来团队把精力放在打造有样貌、有声音,还能记住人的虚拟角色,Prelulu 就成了如今的产品。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


The Influence Company的技术基础来自一套自研的实时数字人模型。它负责在交谈过程中生成人物面孔、表情和嘴部动作,并结合语言与语音能力完成实时回应。


团队还把这套能力封装成 Realtime Avatar,对外给其他开发者开放接口与开发工具;Prelulu 面向普通用户,依托现成的角色与故事落地这项技术。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


而该公司的三位创始人也有些来头,其中联合创始人兼CEO佟旭鹏毕业于卡内基梅隆大学计算机学院。


早年曾在Uber和京东人工智能实验室研究机器学习,接触过智能客服、推荐与定价等应用。


后来创业做过自然语言数据分析产品String,让企业员工用日常语言向数据库提问。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


之后,他又创办了MUKU AI,围绕AI数字人制作营销视频,面向品牌和广告客户提供工具。


另外两位创始人负责另外两块工作。产品负责人Helen Xiong曾参与巨人网络Super Sus里的多智能体AI玩法,也有AI动画工具的产品经历。


技术负责人Ning Dong曾在Meta AI研究语音和翻译,参与过Seamless以及Llama 3相关研究。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


值得注意的是,不少团队也都在投入实时视频互动这条方向。


生数科技推出的Vidu S1就是一个例子。它允许用户上传一张人物、动漫形象甚至宠物图片,再配合声音设定创建可以实时交谈的数字形象。


用户说话时,模型会连续生成视频,还能按照语音要求改变人物的动作。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


Vidu S1强调的是持续生成画面的能力,后续的Vidu S2又增加了更复杂的动作控制,以及实时换装和调整背景的能力。


国内的造梦次元也已经用上这类技术。该产品最早以AI互动故事吸引用户,后来逐渐加入视频、漫画等创作形式,让创作者围绕自己喜欢的人物持续产出作品。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


它和Prelulu选择的体验很接近,侧重点却有区别。造梦次元已有围绕原创人物和作品展开的内容社区,还在尝试让虚拟人物面对直播间里的众多观众。


Prelulu目前更集中于用户和单个人物之间的持续交流,故事通常由双方的一次次对话接着推进。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


而实时视频生成还存在一道绕不开的难题。如果模型算出一秒画面要耗费数秒时间,用户就没法实现通话式的即时交互。


想要画面连贯播放,生成速度必须追上播放速度。想做到这一点,研发人员需要同时处理模型计算量、推理加速和大量用户一起接入时的资源调度。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


除了加速计算,还要保证人物在长时间通话后仍然保持稳定的面貌和动作。


这背后牵扯的就还有成本问题。一次实时视频电话发生时,模型需要持续接收用户的语音或文字,生成回答,再让人物的声音和嘴部动作对齐。


通话时间越长,需要维持的计算就越多。Prelulu目前的文字交流提供每日免费额度,语音和视频电话则需要消耗积分,视频使用的积分更多。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


单次通话最长30分钟,积分提前耗尽时通话也会结束,用户可以再次拨通同一个人物,通话记忆会保留部分先前的交流细节。


如果未来每次交谈都要连同整条街道一起实时生成,成本会进一步增加。


像这类互动娱乐产品,人物的交流体验也同样重要。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


即使视频画面足够逼真,如果人物的回答总是生硬、重复,或者无法理解用户前面聊过的事情,聊不了多久就容易失去兴趣。


尤其是带有连续剧情的故事,人物需要保持相对稳定的性格,记住双方的关系和经历,并根据交流内容作出合理回应。


这也意味着,Prelulu想让用户长期参与互动故事,除了实时视频生成能力,还需要让人物拥有足够自然的交流表现,以及能够持续发展的故事内容。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


当然,Prelulu正在探索的完整生成式互动世界,距离现有的视频通话产品还有明显的开发工作。


如果以后视频人物能够离开通话画面,在故事里的空间自由行动,用户又能随时接话,互动短剧的体验会更接近一场正在发生的故事。


或许过段时间再看短剧,观众隔着屏幕喊出的那句别进去,真的会有人听见。


文章来自于“虾蛄AI”,作者“虾蛄内容部”。

AI转型,免费服务,就找AITNT
AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
AI代理

【开源免费】Browser-use 是一个用户AI代理直接可以控制浏览器的工具。它能够让AI 自动执行浏览器中的各种任务,如比较价格、添加购物车、回复各种社交媒体等。

项目地址:https://github.com/browser-use/browser-use


2
AI漫画

【开源免费】ai-comic-factory是一个利用AI生成漫画的创作工具。该项目通过大语言模型和扩散模型的组合使用,可以让没有任何绘画基础的用户完成属于自己的漫画创作。

项目地址:https://github.com/jbilcke-hf/ai-comic-factory?tab=readme-ov-file

在线使用:https://aicomicfactory.app/

3
数字人

【开源免费】Fay开源数字人框架是一个AI数字人项目,该项目可以帮你实现“线上线下的数字人销售员”,

“一个人机交互的数字人助理”或者是一个一个可以自主决策、主动联系管理员的智能体数字人。

项目地址:https://github.com/xszyou/Fay

4
智能体

【开源免费】AutoGPT是一个允许用户创建和运行智能体的(AI Agents)项目。用户创建的智能体能够自动执行各种任务,从而让AI有步骤的去解决实际问题。

项目地址:https://github.com/Significant-Gravitas/AutoGPT


【开源免费】MetaGPT是一个“软件开发公司”的智能体项目,只需要输入一句话的老板需求,MetaGPT即可输出用户故事 / 竞品分析 / 需求 / 数据结构 / APIs / 文件等软件开发的相关内容。MetaGPT内置了各种AI角色,包括产品经理 / 架构师 / 项目经理 / 工程师,MetaGPT提供了一个精心调配的软件公司研发全过程的SOP。

项目地址:https://github.com/geekan/MetaGPT/blob/main/docs/README_CN.md

5
无人直播

【开源免费】VideoChat是一个开源数字人实时对话,该项目支持支持语音输入和实时对话,数字人形象可自定义等功能,首次对话延迟低至3s。

项目地址:https://github.com/Henry-23/VideoChat

在线体验:https://www.modelscope.cn/studios/AI-ModelScope/video_chat


【开源免费】Streamer-Sales 销冠是一个AI直播卖货大模型。该模型具备AI生成直播文案,生成数字人形象进行直播,并通过RAG技术对现有数据进行寻找后实时回答用户问题等AI直播卖货的所有功能。

项目地址:https://github.com/PeterH0323/Streamer-Sales