MagicAnimate: 확산 모델을 사용한 시간적으로 일관된 인간 이미지 애니메이션

2023년 12월 03일 게시됨

Magic Animate란 무엇인가요?

Magic Animate(Github)는 단일 이미지와 모션 비디오에서 애니메이션 비디오를 생성하는 새로운 오픈 소스 프로젝트입니다.

AnimateAnyone을 기다리는 동안 MagicAnimate가 출시되었으며 정말 인상적입니다! (https://twitter.com/alexcarliera/status/1731785857609146673)

요약

MagicAnimate 소개, 인간 이미지 애니메이션을 위한 최첨단 확산 기반 프레임워크입니다. 이 혁신적인 도구는 시간적 일관성을 유지하고, 참조 이미지를 충실히 보존하며, 애니메이션의 충실도를 크게 향상시키는 데 뛰어납니다. MagicAnimate는 다양한 소스의 모션 시퀀스로 참조 이미지를 애니메이션화하는 능력으로 두각을 나타냅니다. 이에는 크로스 ID 애니메이션과 기름 그림이나 영화 캐릭터와 같은 보이지 않는 도메인도 포함됩니다. 또한 DALLE3와 같은 T2I 확산 모델과 원활하게 통합되어 텍스트 프롬프트 이미지를 역동적인 동작으로 생생하게 만듭니다.

데모

MagicAnimate 데모 1: 확산 모델을 사용한 시간적으로 일관된 인간 이미지 애니메이션 MagicAnimate 데모 2: 확산 모델을 사용한 시간적으로 일관된 인간 이미지 애니메이션 MagicAnimate 데모 3: 확산 모델을 사용한 시간적으로 일관된 인간 이미지 애니메이션 MagicAnimate 데모 4: 확산 모델을 사용한 시간적으로 일관된 인간 이미지 애니메이션

시작하기

StableDiffusion V1.5MSE-finetuned VAE의 사전 훈련된 기본 모델을 다운로드하십시오.

저희 MagicAnimate 체크포인트를 다운로드하십시오.

AnimateAnyone VS MagicAnimate

작업 중입니다.

설치

설치 전제 조건: python>=3.8, CUDA>=11.3, 및 ffmpeg.

conda로 설치:

conda env create -f environment.yml conda activate manimate

온라인에서 시도해보기