AMAZINGINDEX.COM 让生活多一点 Amazing
52.1
VOL. 2026.09
2026.09.08
← 返回 2026.09.08 日报
日报快照 · Daily Snapshot
NO. 023

端到端语音+全身动作实时生成

#HF_PAPERS HuggingFace Papers 2026.09.08
推荐指数 64.0 NO. 023 · 2026.09.08
upvotes35comments1

Motion-Omni 首次实现从共享隐状态联合生成语音对话与全身伴随动作,告别级联架构的二次推理瓶颈。对虚拟人、实时交互数字分身场景意味着延迟和一致性的大幅优化。

端到端语音+全身动作实时生成

当前虚拟人方案普遍采用级联架构:LLM 生成文本→TTS 出音频→再喂给动作模型如 EMOTE 或 DiffPose,整条链路至少 2-3 次前向传播,延迟累积且口型与动作脱节。Motion-Omni 的 trick 在于用伪标签数据训练一个共享的音频-动作隐空间,让语音和动作从同一组 hidden states 并行解码,把推理压到单次前向。

不过论文提到的 scalable pseudo-labeling 具体怎么构造数据对很关键——高质量配对的语音-动作数据极度稀缺,这往往是复现的暗坑。目前 35 upvotes 热度偏低,建议等代码开源后优先验证其在实时场景下的 RTF(实时率)和动作自然度,而不是只看论文指标。

查看原文 →