【AI视频】革命性突破!最全无闪烁AI视频制作教程 真正生产力 Stable diffusion + EbSynth + ControlNet

魔都老王Shanghai Lao wong
28 Jun 202309:05

TLDR大家好,今天的视频展示了如何使用Stable Diffusion技术制作无闪烁的视频。以往的视频制作技术存在画面闪烁的问题,主要是因为视频是基于单帧图片合成的。但现在,通过结合EbSynth和ControlNet等工具,我们已经能够生成无闪烁且生成速度快的视频。视频中详细介绍了从下载EbSynth、安装FFMPEG、设置环境变量、安装背景控制插件和Stable Diffusion插件,到最终的视频制作过程。整个过程包括提取关键帧、重绘图身图、补齐插帧,最终生成完整的视频。视频演示了如何设置参数、生成图片序列、提取关键帧、重绘关键帧、颜色校正、尺寸修改、生成EBS文件,并最终合成视频文件。这个教程不仅解决了视频闪烁的问题,还大大提高了视频制作的效率和质量。

Takeaways

  • 🎬 使用Stable Diffusion生成的视频与之前相比有了显著改进,解决了画面闪烁的问题。
  • 🔍 画面闪烁的主要原因是前后帧差异导致,早期的MOV2MOV生成视频尤为明显。
  • 🚀 通过isnet_Pro等工具可以控制背景,减少闪烁,但最新技术已经基本消除了闪烁。
  • 🛠️ 制作无闪烁视频的关键在于使用ebsynth和FFMPEG等工具,以及安装相应的插件。
  • 📂 需要在C盘创建Path文件夹并设置环境变量,以确保FFMPEG工具能够正常工作。
  • 📈 通过ControlNet插件设置多重控制网,可以提高视频生成的稳定性和质量。
  • 🌟 视频制作原理是将视频拆解成帧,提取关键帧,通过图生图技术重绘关键帧,然后补齐插帧生成完整视频。
  • 📁 在制作过程中,需要创建文件夹并设置项目路径,上传素材,并按照步骤操作。
  • 🎨 第一步设置中,调整mask参数对生成遮罩蒙版有重要影响。
  • 📊 第二步提取关键帧时,可以根据视频内容调整最小和最大关键帧间隔。
  • 🖼️ 第三步重绘关键帧时,使用DPM++ 2M采样器和面部修复功能可以提高图像质量。
  • 📹 最终通过EBS文件和相关程序,将所有图片序列合成为无闪烁的视频。

Q & A

  • 什么是Stable Diffusion,它在视频中有什么作用?

    -Stable Diffusion是一种AI视频生成技术,它能够生成视频内容。在视频中,Stable Diffusion用于生成没有闪烁的视频,解决了以往AI视频生成中画面闪烁的问题。

  • 视频提到的早期SD生成视频为何会有闪烁问题?

    -早期的Stable Diffusion生成视频时,由于是基于单帧图像合成,如果前后帧差异较大,就可能导致画面闪烁。

  • EbSynth是什么,它在视频中扮演什么角色?

    -EbSynth是一个视频处理工具,它在视频中用于优化生成的视频,提高视频的流畅度和质量,减少或消除闪烁。

  • 如何安装并使用EbSynth?

    -首先访问EbSynth的官方网站下载文件,并输入邮箱进行注册。下载完成后解压文件,然后在C盘新建一个名为Path的文件夹,将EbSynth的文件复制进去。接着设置环境变量,将Path文件夹的路径添加到系统Path中。

  • FFMPEG是什么,为什么要安装它?

    -FFMPEG是一个开源的多媒体处理工具,能够处理视频和音频文件。在视频中,FFMPEG用于视频格式转换和处理,是制作无闪烁AI视频的必要工具之一。

  • 如何安装背景控制插件?

    -通过访问特定网址,复制提供的代码,然后在命令提示符中粘贴并运行该代码来安装背景控制插件。

  • Stable Diffusion的插件如何安装?

    -在Stable Diffusion中,通过拓展插件功能,从提供的网址复制仓库链接,然后在Stable Diffusion的插件安装界面选择从网址安装,粘贴链接并进行安装。

  • 在Stable Diffusion中设置Control net的作用是什么?

    -Control net是Stable Diffusion中的一个设置,用于控制生成视频的帧之间的连贯性。设置多重控制网的数量可以增加视频帧的稳定性和连贯性,减少闪烁。

  • 如何从视频序列帧中提取关键帧?

    -通过设置最小和最大关键帧间隔参数,可以从视频序列帧中自动提取关键帧。参数设置得越小,提取的关键帧就越多。

  • 在Stable Diffusion中重绘关键帧需要设置哪些参数?

    -重绘关键帧时需要设置正向提示词、反向提示词、大模型、采样器、采用步数、重绘强度等参数,并启用面部修复、soft edge和lineart等control net功能。

  • 如何将重绘后的关键帧和插帧生成完整的视频?

    -使用EbSynth工具,将重绘后的关键帧和通过插帧技术补齐的中间帧合并,生成一个完整的无闪烁视频。

  • 视频教程最后提到的“点赞收藏关注”是什么意思?

    -这是视频制作者希望观众如果觉得视频有帮助,可以通过点赞、收藏和关注来支持他,同时也可以方便观众在有需要时找到他的其他视频内容。

Outlines

00:00

🎬 Introduction to Stable Diffusion Video Generation

The video script begins with a greeting and an introduction to the advancements in stable diffusion technology for video generation. The speaker discusses the past issues with flickering in SD-generated videos, which were due to frame-by-frame synthesis. They mention the use of tools like isnet_Pro to control the background and reduce flickering. The video then showcases a new method that has significantly reduced flickering and increased the speed of video generation. The speaker proceeds to guide the audience through the process of creating such videos, starting with accessing the ebsynth website, downloading and installing necessary files, and setting up the environment for video production.

05:01

🛠️ Setting Up the Video Production Environment

The second paragraph details the technical setup required for video production using stable diffusion. It covers the installation of FFMPEG, setting up the system path variable, and installing background control plugins and stable diffusion plugins. The speaker also explains the process of configuring the stable diffusion settings, specifically the Control net settings, and how to apply and restart the web user interface. The paragraph concludes with an overview of the video production process, which involves taking a reference video, extracting keyframes, redrawing these keyframes, and generating intermediate frames to create a complete video.

Mindmap

Keywords

💡Stable Diffusion

Stable Diffusion是一种深度学习模型,用于生成高质量的图像。在视频中,它被用来生成视频,解决了以往视频生成中存在的闪烁问题,因为它可以基于帧生成连贯的图像序列。

💡EbSynth

EbSynth是一个视频编辑工具,用于增强视频的稳定性和质量。在视频中,EbSynth与Stable Diffusion结合使用,以提高生成视频的流畅度和减少闪烁。

💡ControlNet

ControlNet是Stable Diffusion的一个插件,它允许用户对视频生成过程进行更精细的控制。视频中提到,通过设置Control net的多重控制网参数,可以优化视频的生成效果。

💡FFMPEG

FFMPEG是一个开源的多媒体框架,能够处理视频和音频数据。在视频中,FFMPEG被用来处理视频文件,是制作过程中不可或缺的工具。

💡关键帧

关键帧是视频中用来定义动作起始和结束点的帧。视频中提到,通过提取关键帧并对其进行重绘,可以生成更加流畅和连贯的视频。

💡插帧

插帧是一种视频技术,用于在两个关键帧之间生成额外的帧,以提高视频的流畅度。视频中描述了如何通过插帧来补全视频序列。

💡遮罩蒙版

遮罩蒙版是一种图像处理技术,用于隐藏或显示视频帧的特定部分。在视频中,遮罩蒙版被用来优化视频的背景和前景,减少闪烁。

💡图生图

图生图指的是通过AI技术将一张图片转换成另一张具有不同风格或内容的图片。视频中,关键帧通过图生图技术进行重绘,以生成更高质量的视频。

💡面部修复

面部修复是一种图像处理技术,用于改善视频中人物面部的细节。视频中提到,开启面部修复功能可以提升生成视频的质量。

💡采样器

采样器是深度学习模型中用于生成图像的一种算法。在视频中,采样器DPM++ 2M被用来生成更加自然和逼真的图像。

💡视频合成

视频合成是将多个视频片段或图像序列合并成一个连贯视频的过程。视频中,通过视频合成技术,将生成的图像序列转换成最终的视频文件。

Highlights

介绍了AI视频制作的突破性进展,使用Stable Diffusion、EbSynth和ControlNet技术消除视频闪烁。

展示了以前技术版本在视频生成中常见的闪烁问题。

介绍了类似isnet_Pro这样的工具,用于控制背景并减少闪烁。

解释了新的生成过程,基本消除了闪烁,同时提高了视觉质量和生成速度。

从官方网站下载EbSynth软件开始,逐步指导如何设置和使用。

详细指导如何在Windows环境下安装和设置FFMPEG。

指导如何安装背景控制插件,并使用命令提示符进行安装。

介绍并设置Stable Diffusion插件以增强视频制作能力。

解释插件的功能以及调整设置以满足不同用户需求。

描述了从原始视频中提取关键帧开始的视频创建过程。

详细演示了使用“图像到图像”技术重绘关键帧的过程。

说明如何通过生成中间插帧来完成视频,以创建无缝的流动。

完成最终视频的编译步骤,确保正确的序列和质量。

结束语鼓励观众尝试这一过程并与内容进行互动。

邀请反馈和在评论区进一步讨论,以培养实践社区。