TaoAvatar:實(shí)時(shí)高清3D虛擬人,AI Agent on the Vison Pro
發(fā)布日期:2025/3/25 8:34:54 瀏覽量:
TaoAvatar:實(shí)時(shí)高清3D虛擬人,AI Agent on the Vison Pro,技術(shù)方案
項(xiàng)目地址:TaoAvatar (pixelai-team.github.io)
逼真的 3D 全身會(huì)說話的頭像在 AR 中具有巨大潛力,其應(yīng)用范圍從電子商務(wù)直播到全息通信。盡管 3D 高斯飛濺 (3DGS) 在創(chuàng)建逼真的頭像方面取得了進(jìn)步,但現(xiàn)有方法難以在全身交談任務(wù)中對面部表情和身體運(yùn)動(dòng)進(jìn)行精細(xì)控制。 此外,它們通常缺乏足夠的細(xì)節(jié),無法在移動(dòng)設(shè)備上實(shí)時(shí)運(yùn)行。我們推出了 TaoAvatar,這是一款由各種信號驅(qū)動(dòng)的高保真、輕量級、基于 3DGS 的全身會(huì)說話虛擬形象。 我們的方法首先創(chuàng)建一個(gè)個(gè)性化的穿衣人體參數(shù)模板,該模板將高斯坐標(biāo)綁定以表示外觀。 然后,我們預(yù)先訓(xùn)練了一個(gè)基于 StyleUnet 的網(wǎng)絡(luò)來處理復(fù)雜的姿勢依賴性非剛性變形,這可以捕獲高頻外觀細(xì)節(jié),但對于移動(dòng)設(shè)備來說太耗費(fèi)資源了。 為了克服這個(gè)問題,我們使用蒸餾技術(shù)將非剛性變形“烘焙”到基于 MLP 的輕量級網(wǎng)絡(luò)中,并開發(fā)混合形狀來補(bǔ)償細(xì)節(jié)。 大量實(shí)驗(yàn)表明,TaoAvatar 在各種設(shè)備上實(shí)時(shí)運(yùn)行時(shí)實(shí)現(xiàn)了最先進(jìn)的渲染質(zhì)量,在 Apple Vision Pro 等高清立體聲設(shè)備上保持 90 FPS。
馬上咨詢: 如果您有業(yè)務(wù)方面的問題或者需求,歡迎您咨詢!我們帶來的不僅僅是技術(shù),還有行業(yè)經(jīng)驗(yàn)積累。
QQ: 39764417/308460098 Phone: 13 9800 1 9844 / 135 6887 9550 聯(lián)系人:石先生/雷先生