Spatial Digital Human

问鼎娱乐数字人:AI空间角色与MR虚拟人物技术

问鼎娱乐数字人围绕空间数字人如何通过World Scale比例、Floor Contact地面接触、Gaze视线行为、Voice Position声音方位与Occlusion现实遮挡这五重现实检验展开,说明为什么空间数字人的可信度标准和传统屏幕虚拟主播完全不同。

基础概念

问鼎娱乐数字人核心问题

空间数字人是什么?

被放置在真实三维空间中、能与用户进行空间层面互动的AI虚拟角色,需要同时通过多重现实检验。

和虚拟主播区别?

屏幕虚拟主播只需要在二维画面里显得自然;空间数字人还必须通过尺度、地面、遮挡等空间层面的检验。

Eye Tracking有什么用?

帮助数字人捕捉并回应用户的视线焦点,让对视和转身等交互显得更自然。

数字人为什么需要Gaze?

真实人类交流中视线会自然移动,持续100%的眼神接触反而会显得诡异、带来压迫感。

数字人怎样站在现实地面?

依赖Floor Contact——通过实时地面深度数据,让脚部既不悬空也不陷入地板。

数字人怎样被家具遮挡?

走到桌子后面或坐在沙发上时,需要依据Occlusion计算被现实家具正确挡住。

数字人声音为什么要有位置?

Voice Position让声音方向与数字人所在位置一致,避免视觉与听觉互相打架。

数字人怎样理解用户距离?

依据Personal Space原则设计交互距离,走得太近会触发真实的空间压迫感。

原创长文

问鼎娱乐数字人原创文章

问鼎娱乐数字人已经拥有非常自然的Lip Sync以后,为什么站在现实空间里时脚底的位置可能比嘴型更先暴露它是假的?

一个数字人站在客厅中央和你对话,嘴唇的开合、气流的停顿都对得上语音的节奏,你几乎要相信这是真人。但当你的视线不自觉往下移,落在它的脚踝附近时,某种违和感会突然冒出来——脚背似乎悬在地毯表面上方几毫米,或者反过来,脚尖微微嵌进了木地板的纹理里。做空间数字人这几年我越来越确信一件事:一个空间数字人的脸可以做得非常漂亮,但脚底离地三厘米足以让整个存在感瞬间消失。

Lip Sync和身体在空间中的落位,其实是两套完全不同的技术难题。嘴型对齐处理的是音素到面部肌肉运动的映射,本质上是一个封闭系统的问题。而脚底贴地这件事,处理的是数字人与真实房间几何体之间的对齐关系,输入变成了摄像头对客厅地面深度的实时估计,输出是一个必须精确到毫米级别的落点。地面本身可能反光、可能铺着深色地毯造成深度传感器噪声增大,光是把"地板在哪里"这件事算准,就比让嘴唇动得自然难得多。

这就是Floor Contact要解决的问题:数字人的脚必须真正踩在地面上,既不能像悬浮的全息影像一样飘着,也不能陷进地板纹理里。要做到这一点,系统需要持续获取空间的地面网格或深度图,再让数字人的骨骼系统实时对齐到这个平面。一旦房间光线变化、地毯反光角度改变,或者用户稍微挪动了头部位置,这套对齐逻辑都要重新计算,稍有延迟或误差,脚底就会出现视觉上的漂浮或穿模。

在实际测试环节,工程师往往会用最原始的办法验证Floor Contact:让数字人站定,用手机上的水平仪或者卷尺,实际测量它脚底到地面的视觉间隙。这类测试暴露出的一个共性问题是——落地误差很少是恒定的,而是随着用户头部姿态的变化、摄像头追踪的漂移逐渐累积。这也是问鼎娱乐数字人在讨论空间稳定性时,把持续校准而不是一次性校准当作衡量标准的原因。

World Scale是另一个更容易被忽略却同样致命的维度。一个数字人如果按照真实成年人的身高比例呈现,站在真实的沙发、餐桌旁边时,比例关系必须严丝合缝。哪怕整体缩放只偏差百分之三到五,人眼虽然说不清哪里不对,却会本能地觉得"这个人有点不真实"。更麻烦的是,World Scale和Floor Contact常常互相牵连——如果地面高度判断本身有偏差,即便数字人的身高比例设定完全正确,呈现出来的效果也会像是"悬空的巨人"或者"陷进地里的矮子"。

近距离观察会放大这类问题。屏幕上的虚拟主播即便比例、地面对齐完全错误,观众也很难察觉,因为整个画面本身就是二维投影,没有参照物。可是当数字人被放进用户真实客厅的空间坐标系里,用户的眼睛会不自觉地拿数字人和身边真实的桌角、门框、地砖做比对,任何一处比例或落地误差都无所遁形。

判断一个空间数字人做得好不好,第一眼未必是看脸,而是看它站得对不对。这也是问鼎娱乐持续在数字人相关内容里强调空间基础指标的原因——脸部表现是加分项,而脚底和比例是能不能立住的底线,这条底线守不住,再精细的嘴型算法也只是徒劳。

问鼎娱乐数字人空间存在感检验维度图
World Scale与Floor Contact往往相互牵连,需要同时校准
Floor ContactWorld ScaleLip Sync

问鼎娱乐数字人和用户对话时,为什么一直保持100%眼神接触反而比偶尔移开视线更加奇怪?

试着回忆一次和朋友面对面聊天的经历:对方说话时,视线会在你的眼睛、你的手势、旁边桌上的水杯之间来回切换,偶尔还会短暂地看向别处组织语言,然后再看回你。但如果换成一个数字人,从对话开始到结束,眼睛纹丝不动地锁定你的瞳孔,你反而会觉得毛骨悚然。做空间数字人交互设计时我常提醒团队一句话:一个空间数字人的脸可以做得非常漂亮,但如果它像监控摄像头一样锁死视线,用户会本能地想往后退。

这背后的原理其实和人类交流的心理习惯有关。真实的眼神接触是间歇性的,通常一次对视只持续几秒,随后会自然移开,这种节奏传递的是放松和真诚,而不是审视或压迫。如果数字人被设定为百分之百追踪用户的眼球位置、全程直视,等于把一个自然行为量化到了不自然的极限值——现实中只有对峙、审讯或者极度紧张的场合,人才会长时间不眨眼地盯着另一个人看。所以Gaze的设计目标从来不是"越准越好",而是要复刻这种带着呼吸感的间歇性注视,包括眨眼频率、视线短暂飘向别处再收回的时机,都要模拟出真实交流的松弛感。

要让Gaze做到这种程度的自然,背后通常依赖对真实人类对视行为的观察和归纳——记录人们在对话中视线移动的频率、停留时长、以及移开方向的统计规律,再把这些规律转化成一套可调节的行为参数,而不是简单地设一个"眼神接触概率"就了事。这套参数还必须对延迟极度敏感:如果Latency超过两三百毫秒,用户的头部或身体已经转向别处,数字人的视线调整却还没跟上,那种"慢半拍"的错位感比完全不追踪视线还要诡异,因为它像是在模仿人类反应,却总慢一拍出戏,反而比单纯僵硬更容易让人起鸡皮疙瘩。

更复杂的是,Gaze不能是提前录制好的固定动画,它必须根据用户在空间中的实时位置动态调整。如果用户从数字人正前方走到侧面,数字人的视线焦点也必须相应地重新计算头部和眼球的旋转角度,让视线始终能自然地落在用户脸部附近,而不是继续朝着用户原来站的空间方向直勾勾地看。这一步一旦跟不上用户的移动,哪怕只是一两百毫秒的延迟,用户立刻就能察觉到"它好像没在看我",空间存在感瞬间碎掉。这也是为什么在问鼎娱乐数字人相关的空间交互讨论中,Gaze往往被放在和Lip Sync同等重要的位置来对待。

除了视线,另一个容易被低估的变量是Personal Space,也就是数字人靠近用户时产生的空间压迫感。在平面屏幕上,一个虚拟角色"贴近镜头"只是画面构图的变化,观众不会有生理上的不适;但空间数字人如果按照真实人体尺度、真实距离走近用户到不到一米的范围内,用户会本能地产生和面对真实陌生人靠得太近时相似的紧张反应,这是空间计算带来的独有体验,也是过去纯屏幕内容从未真正处理过的问题。这种反应有时甚至带着轻微的生理信号,比如下意识后仰或者屏住呼吸,这些都不是靠意志力能控制的,而是身体在空间尺度层面对"有人靠近"这件事做出的本能判断。

Personal Space的临界值也不是一个固定数字,它和房间大小、对话内容的私密程度、甚至用户当下的情绪状态都有关系。同样是五十厘米左右的距离,讨论轻松话题时可能完全没问题,但如果数字人在一次比较严肃的对话中突然欺身靠近,用户的不适感会被明显放大。这意味着空间数字人的行为设计不能只调一个"最佳社交距离"参数就一劳永逸,而要根据交互场景动态收放。问鼎娱乐App在讨论空间数字人的交互距离设计时,通常会把这类临界距离作为需要谨慎控制的参数,而不是简单地让角色"越近越亲切"。

把Gaze的自然间歇性和Personal Space的距离控制结合起来看,会发现空间数字人的可信度,很大程度上建立在"懂得什么时候该收着来"上,而不是一味追求技术指标的极致。眼神接触不是越多越好,靠近也不是越近越好,问鼎娱乐数字人在这些细节上的打磨,本质上是在把人类交流中那些说不清道不明的分寸感,一点点翻译成可执行的参数。这恰恰是空间数字人比传统虚拟主播难做得多的地方——它面对的不再是镜头,而是一个会本能反应的真实的人。问鼎娱乐在梳理这类空间交互细节时,也把它们当成区分"能用"和"好用"的分界线。

问鼎娱乐数字人眼神空间音频与Personal Space示意图
Gaze需要随用户位置动态调整,Personal Space决定交互距离
GazePersonal SpaceLatency

问鼎娱乐数字人进入MR客厅以后,为什么"知道沙发在哪里"会逐渐变得和"知道用户说了什么"一样重要?

设想这样一个场景:你请数字人"过来坐一下",它应声走向客厅角落的那张单人沙发,转身,缓缓坐下,后背刚好靠在靠背上。这个动作背后需要处理的信息量,其实远超过一句语音指令的语义理解本身。数字人必须知道沙发在哪个方向、有多高、朝向如何,还要在走过去的路径上避开茶几和地毯边缘。一个空间数字人的脸可以做得非常漂亮,但如果它一屁股坐进沙发扶手里,之前所有的对话智能都会被这一个动作瞬间抵消。

过去做虚拟主播或对话机器人,核心指标几乎全部集中在Conversational Intelligence上:语音识别准不准、语义理解到不到位、回答是否流畅得体。但空间数字人一旦被放进用户真实的客厅,它就多了一层过去完全不存在的要求——对物理环境本身的理解,也就是Spatial Intelligence。如果允许数字人在房间里走动或者坐下,系统就必须持续获取家具的位置、类型、可坐的高度和朝向,这类似于给数字人一份实时更新的房间地图,而不是一次性录入的静态数据,因为沙发上的靠垫可能被人挪动,茶几也可能被推到别的位置。这种要求实时更新而非一次建模的特性,在问鼎娱乐数字人的相关技术讨论中,通常被视为比单纯的静态场景识别难得多的一步。

这两套系统——负责听懂语言的对话引擎和负责理解房间的空间感知模块——过去几乎是各自独立运作的,直到最近才需要被放进同一个实时循环里持续同步。这就带来了新的Latency约束:语音识别和语义理解通常允许几百毫秒的处理窗口,而空间定位和避障计算理论上要求更高的刷新频率,才能让数字人在移动时不撞上茶几。一旦两条链路的响应节奏没对齐,就可能出现数字人一边流畅地回答问题,一边却在行进路径上明显卡顿或轻微穿模的尴尬场面,这种割裂感对用户体感的打击,并不比说错一句话轻,这也是问鼎娱乐数字人相关讨论中反复被提及的工程难点。

具体到执行层面,这至少涉及三件事。第一是导航和避障,数字人从A点走到B点时要绕开真实存在的桌角和地毯边缘,路径规划必须实时响应环境变化,而不是沿着一条预设好的固定轨迹走。第二是坐姿适配,不同家具的座面高度、软硬程度、靠背角度都不一样,数字人的坐下动作需要根据目标家具的具体尺寸做骨骼层面的调整,而不是播放同一段坐下动画贴在任何一把椅子上。第三是Occlusion,也就是遮挡关系的正确处理——数字人走到桌子后面,桌面以上的身体部分应该露出来,桌面以下的腿部应该被真实桌子挡住;坐进沙发以后,沙发扶手和靠垫也该正确地遮住数字人身体的相应部分。这三件事任何一件处理不好,"数字人理解这个房间"的错觉都会立刻破功。尤其是Occlusion处理不到位时,用户看到的往往是数字人的腿部莫名穿过桌腿,或者半个身体悬浮在沙发扶手外侧,这种穿模比单纯的动作卡顿更容易一眼被认出破绽。

声音的空间一致性同样不能忽视。数字人从客厅这头走到那头坐下以后,它说话的声音方向和响度也应该随之改变,让用户即使闭着眼睛,也能大致判断出数字人此刻坐在哪个方位,这就是Voice Position、也就是空间音频要解决的问题。如果数字人已经走到沙发那头坐下,声音听起来却还是从原来的方向传来,这种听觉与视觉的错位会让整个场景显得非常割裂,比单纯的动作穿模更容易让人出戏,因为耳朵对方向的判断往往比眼睛更本能、更难被理性说服。

在问鼎娱乐数字人相关的内容讨论里,这种"空间感知"和"对话理解"并重的思路正在变得越来越明确:早期的数字人产品几乎把全部资源投入语音和语义能力,空间层面能站住不穿模就算合格;但当数字人被期待在真实房间里走动、落座、和家具产生互动时,"知道沙发在哪里"这件事的技术权重,正在慢慢追上"听懂用户在说什么"。问鼎娱乐App在梳理这类空间数字人的评价维度时,也倾向于把两者放在同一张清单上考察,而不是把空间表现当成锦上添花的细节。归根结底,未来空间数字人能不能被信任,取决于对话智能和空间感知能力是不是能同时站得住,少了任一边,另一边做得再好也撑不起真实空间里的那份可信度。

问鼎娱乐App Spatial Context空间上下文引擎架构图
空间数字人需要对话理解与空间感知共享同一套实时状态
Spatial IntelligenceOcclusionVoice Position
相关方向

继续了解问鼎娱乐其他方向

问鼎娱乐沉浸式

了解空间数字人如何作为虚拟演唱会的表演者出现。

前往问鼎娱乐沉浸式 →

问鼎娱乐AI

了解AI空间识别如何为数字人提供房间理解能力。

前往问鼎娱乐AI →

问鼎娱乐App

了解问鼎娱乐App如何整合空间数字人与其他功能模块。

前往问鼎娱乐App →