MagicAnimate: 拡散モデルを使用した時間的に一貫性のある人間の画像アニメーション

2023年12月03日に投稿

Magic Animateとは何ですか?

Magic Animate(Github)は、単一の画像とモーションビデオからアニメーションビデオを生成する新しいオープンソースプロジェクトです。

AnimateAnyoneを待っている間に、MagicAnimateがリリースされ、非常に印象的です!(https://twitter.com/alexcarliera/status/1731785857609146673)

要約

MagicAnimateの紹介、人間の画像アニメーションのための最先端の拡散ベースのフレームワークです。この革新的なツールは、時間的一貫性の維持、参照画像の忠実な保存、アニメーションの忠実度の大幅な向上に優れています。MagicAnimateは、様々なソースからのモーションシーケンスで参照画像をアニメーション化する能力で際立っています。これには、クロスIDアニメーションや油絵や映画キャラクターなどの未知のドメインも含まれます。また、DALLE3などのT2I拡散モデルとシームレスに統合され、テキストプロンプトの画像をダイナミックなアクションで生き生きとさせます。

デモ

MagicAnimateデモ1: 拡散モデルを使用した時間的に一貫性のある人間の画像アニメーション MagicAnimateデモ2: 拡散モデルを使用した時間的に一貫性のある人間の画像アニメーション MagicAnimateデモ3: 拡散モデルを使用した時間的に一貫性のある人間の画像アニメーション MagicAnimateデモ4: 拡散モデルを使用した時間的に一貫性のある人間の画像アニメーション

始め方

まず、StableDiffusion V1.5MSE-finetuned VAEの事前学習済みベースモデルをダウンロードしてください。

次に、私たちのMagicAnimate チェックポイントをダウンロードしてください。

AnimateAnyone VS MagicAnimate

作業中です。

インストール方法

前提条件: python>=3.8, CUDA>=11.3, および ffmpeg。

condaでのインストール:

conda env create -f environment.yml conda activate manimate

オンラインで試す