MagicAnimate: 拡散モデルを使用した時間的に一貫性のある人間の画像アニメーション
2023年12月03日に投稿
Magic Animateとは何ですか?
Magic Animate(Github)は、単一の画像とモーションビデオからアニメーションビデオを生成する新しいオープンソースプロジェクトです。
AnimateAnyoneを待っている間に、MagicAnimateがリリースされ、非常に印象的です!(https://twitter.com/alexcarliera/status/1731785857609146673)
要約
MagicAnimateの紹介、人間の画像アニメーションのための最先端の拡散ベースのフレームワークです。この革新的なツールは、時間的一貫性の維持、参照画像の忠実な保存、アニメーションの忠実度の大幅な向上に優れています。MagicAnimateは、様々なソースからのモーションシーケンスで参照画像をアニメーション化する能力で際立っています。これには、クロスIDアニメーションや油絵や映画キャラクターなどの未知のドメインも含まれます。また、DALLE3などのT2I拡散モデルとシームレスに統合され、テキストプロンプトの画像をダイナミックなアクションで生き生きとさせます。
デモ
始め方
まず、StableDiffusion V1.5とMSE-finetuned VAEの事前学習済みベースモデルをダウンロードしてください。
次に、私たちのMagicAnimate チェックポイントをダウンロードしてください。
AnimateAnyone VS MagicAnimate
作業中です。インストール方法
前提条件: python>=3.8, CUDA>=11.3, および ffmpeg。
condaでのインストール:
conda env create -f environment.yml conda activate manimate