AnimateDiff是一个学术研究项目主页,由香港中文大学、上海人工智能实验室和斯坦福大学联合推出。该项目提出了一种无需针对特定模型进行调优即可实现个性化文本到图像扩散模型动画化的框架。网站详细介绍了其核心方法:向冻结的基础扩散模型中注入运动建模模块,并在视频片段上训练以提取运动先验。页面提供了论文、代码、动画示例画廊以及多样性验证结果,旨在帮助研究者与开发者将静态图像生成模型升级为动画视频生成
DreamTalk是一个基于扩散模型的表情说话头部生成框架,由清华大学、阿里巴巴集团和华中科技大学联合研发。该框架通过创新的扩散概率模型与风格感知唇部专家、风格预测器结合,实现从音频直接生成具有多样化说话风格和精准唇形的高质量人脸动画。支持多种语言、歌曲和域外肖像,并提供代码与预训练模型,适用于数字人、虚拟播报、影视动画等AIGC场景。