近期,腾讯联合上海交通大学开源了一个可控视频天生框架:MimicMotion,类似阿里的全民舞王,只须要上传一张照片,然后再上传一段人物的舞蹈或者动作视频,就可以天生以照片中人物为原型的动作或者舞蹈视频了。

MimicMotion 可以根据我们上传的视频天生任意长度的高质量视频。
通过渐进式潜领悟策略,不管多长的视频都可以利用固定的资源进行天生,理论上多长的视频天生都只是韶光问题,不会爆显存了。

并且通过置信度感知姿态勾引「这是指在天生视频的过程中,系统会考虑它对付每个动作的确定程度。
如果系统对某个动作非常确定,它就会更自傲地天生这个动作;如果不太确定,它可能会更谨慎一些。
」,让天生的视频更加流畅,过渡更加平滑。

而且基于姿态置信度的区域丢失放大显著缓解了图像的失落真情形,更好的担保了视频天生的质量。

MimicMotion  一张图片实现视频跳舞腾讯开源照片跳舞模型

这个对显卡哀求较高,N卡,显存16G起可玩,请先确认自己的显卡是否能运行再下载!

MimicMotion简介

MimicMotion 是由腾讯公司推出的一款人工智能人像动态视频天生框架。
该框架利用前辈的技能,能够根据用户供应的单个参考图像和一系列要模拟的姿势,天生高质量、姿势勾引的人类动作视频。
MimicMotion 的核心在于其置信度感知的姿态勾引技能,确保视频帧的高质量和韶光上的平滑过渡。

MimicMotion - 一张图片实现视频舞蹈,腾讯开源照片舞蹈模型

MimicMotion - 一张图片实现视频舞蹈,腾讯开源照片舞蹈模型

MimicMotion - 一张图片实现视频舞蹈,腾讯开源照片舞蹈模型

项目地址:https://tencent.github.io/MimicMotion/

一键整合包下载:https://deepface.cc/thread-281-1-1.html

功能特色

MimicMotion 的功能特色包括:

天生多样化视频:能够根据用户供应的姿态辅导天生各种动作的视频内容,如舞蹈、运动或日常活动。
掌握视频长度:用户可以指定视频的持续韶光,从几秒的短片段到几分钟乃至更长的完全视频。
姿态勾引掌握:利用参考姿态作为条件,确保视频内容在动作上与指定姿态保持同等,实现高度定制化的视频天生。
细节质量担保:特殊关注视频中的细节,尤其是手部等随意马虎失落真的区域,通过置信度感知的策略供应更清晰的视觉效果。
韶光平滑性:确保视频帧之间的过渡平滑,避免卡顿或不连贯的征象,使视频看起来更加流畅自然。
减少图像失落真:通过置信度感知的姿态勾引,减少由于姿态估计不准确导致的图像失落真。
长视频天生:采取渐进式潜在领悟技能,天生长视频时保持高韶光连贯性。
资源花费掌握:优化算法以确保资源花费保持在合理范围内,纵然在天生较长视频时也能有效地管理打算资源。

天生案例

MimicMotion - 一张图片实现视频舞蹈,腾讯开源照片舞蹈模型

MimicMotion - 一张图片实现视频舞蹈,腾讯开源照片舞蹈模型

MimicMotion - 一张图片实现视频舞蹈,腾讯开源照片舞蹈模型

利用教程

1.下载解压一键包,双击一键启动,等待自动进入WebUI界面

2、上传一张 参考图片 和 参考视频

这里还须要提一下,如果视频中的人物是全身的话,上传照片中的人物也只管即便用全身照,要不然出来的效果可能没那么好。

如果视频中的人物是半身的,那也可以上传半身的照片。

半身照,人物脸部的细节比较到位,人物的脸部就不太随意马虎崩坏,人物同等性保持的还是相称不错的。

3、高等设置参数可以默认,也可以调节帧率、分辨率等参数,末了点天生即可。

注:目前全体项目天生速率较慢,尤其是参数越高,速率越慢,请根据自己的显卡设置参数。