InfiniteTalk数字人对口型效果炸裂:无限时长、口型精准的图片和视频配音

一、InfiniteTalk介绍

InfiniteTalk是美团视觉智能部推出的新型数字人驱动技术,通过稀疏帧video dubbing范式,仅需少量关键帧能驱动数字人人生成自然流畅的视频,解决传统技术中口型、表情和肢体动作脱节的问题。InfiniteTalk使数字人视频更具沉浸感和自然感,生成效率高、成本低。InfiniteTalk的论文、代码和权重已开源,为数字人技术的发展提供重要参考。

InfiniteTalk的主要功能

  • 高效驱动虚拟人:仅需少量关键帧,能精准驱动虚拟人生成自然流畅的视频,实现口型、表情和肢体动作的完美同步。
  • 多样化场景适配:适用虚拟主播、客服、演员等多种场景,为不同行业提供高效、低成本的虚拟人解决方案。
  • 高效率视频生成:通过稀疏帧驱动和时间插值技术,快速生成高质量视频,大幅降低制作成本和时间。

InfiniteTalk数字人对口型效果炸裂:无限时长、口型精准的图片和视频配音

二、相关安装

ComfyUI-WanVideoWrapper:https://github.com/kijai/ComfyUI-WanVideoWrapper

安装教程:

cd custom_nodes
git clone https://github.com/kijai/ComfyUI-WanVideoWrapper.git
安装依赖项:pip install -r requirements.txt

模型安装路径:

ComfyUI/
├── models/
│   ├── unet/
│   │   └─── Wan2_1-I2V-14B-480p_fp8_e4m3fn_scaled_KJ.safetensors
│   │   └─── Wan2_1-InfiniteTalk-Multi_fp8_e4m3fn_scaled_KJ.safetensors
│   │   └─── Wan2_1-InfiniteTalk-Single_fp8_e4m3fn_scaled_KJ.safetensors
│   ├── loras/
│   │   └─── lightx2v_I2V_14B_480p_cfg_step_distill_rank64_bf16.safetensors
│   │   └─── lightx2v_T2V_14B_cfg_step_distill_v2_lora_rank64_bf16.safetensors
│   │   └─── Wan2.1-Fun-14B-InP-HPS2.1_reward_lora_comfy.safetensors
│   │   └─── Wan_2_1_T2V_14B_480p_rCM_lora_average_rank_83_bf16.safetensors
│   ├── transformers/
│   │   └─── TencentGameMate
│   ├── text_encoders/
│   │   └─── umt5_xxl_fp8_e4m3fn_scaled.safetensors           # or your chosen version
│   ├── vae/
│   │   └──  wan_2.1_vae.safetensors
│   └── clip_vision/
│       └──  clip_vision_h.safetensors

三、工作流及体验

InfiniteTalk数字人对口型效果炸裂:无限时长、口型精准的图片和视频配音 InfiniteTalk数字人对口型效果炸裂:无限时长、口型精准的图片和视频配音
InfiniteTalk数字人对口型效果炸裂:无限时长、口型精准的图片和视频配音

四、案例展示

完整版演示入口:https://meigen-ai.github.io/InfiniteTalk/

InfiniteTalk数字人对口型效果炸裂:无限时长、口型精准的图片和视频配音

总结:

最新开源数字人项目InfiniteTalk,其支持无限时长生成和高质量唇形同步,具有极强实用性与商业化潜力。该模型可通过图片加音频或视频加音频生成数字人视频,效果优于之前的MultiTalk。模型提供FP16和FP8两种版本,分别支持多人和单人生成。视频演示了生成一分多钟视频的效果,展示了唱歌、长时间对话等案例,尤其在跨境电商应用中表现出色。

下载权限

查看
  • ¥
    免费下载
    评论并刷新后下载
    登录后下载
  • 免费下载
    免费下载:
    签到可领取积分

查看演示

  • {{attr.name}}:
您当前的等级为
登录后免费下载登录 小黑屋反思中,不准下载! 评论后刷新页面下载评论 支付免费指引:【签到得积分即可下载】 请先登录 您今天的下载次数(次)用完了,请明天再来 支付积分免费指引:【签到得积分即可下载】立即支付 支付免费指引:【签到得积分即可下载】立即支付 您当前的用户组不允许下载升级会员
您已获得下载权限 您可以每天下载资源次,今日剩余次
温馨提示:本站提供的一切软件、教程和内容信息都来自网络收集整理,仅限用于学习和研究目的;不得将上述内容用于商业或者非法用途,否则,一切后果请用户自负,版权争议与本站无关。在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。

给TA打赏
共{{data.count}}人
5人已打赏
2 条回复 A文章作者 M管理员
  1. wwwwwqq4358

    支付下载试试😊

  2. alchemistcb
    alchemistcb给作者打赏了¥5
❯
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索