阿里巴巴推出AtomoVideo高保真图生视频框架,兼容多种文生图模型
智能科技 2024-03-08 were65768
3 月 7 日消息,阿里巴巴研究团队近日推出了 AtomoVideo 高保真图生视频(I2V,Image to Video)框架,旨在从静态图像生成高质量的视频内容,并与各种文生图(T2I)模型兼容。
IT之家总结 AtomoVideo 特性如下:
高保真度:生成的视频与输入图像在细节与风格上保持高度一致性
运动一致性:视频动作流畅,确保时间上的一致性,不会出现突兀的跳转
视频帧预测:通过迭代预测后续帧的方式,支持长视频序列的生成
兼容性:与现有的多种文生图(T2I)模型兼容
高语义可控性:能够根据用户的特定需求生成定制化的视频内容
AtomoVideo 使用预先训练好的 T2I 模型为基础,在每个空间卷积层和注意力层之后新添加一维时空卷积和注意力模块,T2I 模型参数固定,只训练添加的时空层。由于输入的串联图像信息仅由 VAE 编码,代表的是低层次信息,有助于增强视频相对于输入图像的保真度。同时,团队还以 Cross-Attention 的形式注入高级图像语义,以实现更高的图像语义可控性。
目前,该团队只发布了 AtomoVideo 的论文及演示视频,并未提供在线体验地址。同时官方开设了 GitHub 账户,但仅用作官方网站托管,并未上传任何相关代码。
【来源:IT之家】
The End
相关阅读
- 重塑视频创作边界的全能镜头——尼康Z 28-135mm f/4 PZ
- 国产显卡加速替代CUDA 摩尔线程开源vLLM-MUSA
- 华为等靠激光雷达推自动驾驶!特斯拉不屑全力抛弃:开始依赖神经网络
- ChatGPT新功能上线:聊天时可直接选择OneDrive等网盘文件
- TikTok内部信曝光:将在法庭抗争美国剥离法案
- 怎么参加国家补贴?2025国家补贴手机线上申请方法和操作步骤
- 海信集团回应裁员传言:不实猜测 数据比例刻意夸张
- 耗电可减少 42%,英特尔展示笔记本新技术:用户离开自动关闭屏幕
- 哪吒S猎装版车型预计7月上市,提供纯电、增程两种动力
- 深耕大模型 打造新引擎——智谱华章新品发布暨战略合作签约会在大兴举办