图生视频模型生成方法、视频生成方法及装置

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
图生视频模型生成方法、视频生成方法及装置
申请号:CN202410833892
申请日期:2024-06-25
公开号:CN118747862A
公开日期:2024-10-08
类型:发明专利
摘要
本公开关于一种图生视频模型生成方法、视频生成方法及装置,该图生视频模型生成方法包括:输入样本图像和样本文本描述信息至预设文生视频模型;基于空间模块对样本图像和样本文本描述信息进行空间特征提取处理,得到第一样本特征处理结果;基于时序自注意力模块对第一样本特征处理结果进行处理,得到第二样本特征处理结果;以及基于运动适配器模块对第一样本特征处理结果进行运动信息控制,得到第三样本特征处理结果;根据第二样本特征处理结果和第三样本特征处理结果生成预测视频数据;根据预设视频数据和样本视频数据更新空间模块和运动适配器模块的参数,得到图生视频模型。本公开能够控制生成视频的运动信息,且降低对系统资源的消耗。
技术关键词
适配器 样本 注意力 空间模块 模型生成方法 视频生成方法 空间特征提取 关系建模 噪声图像 输出特征 文本 运动 数据 局部图像特征 矩阵 时序特征
系统为您推荐了相关专利信息
飞机燃油系统 智能仿真方法 神经网络模型 数字孪生 油液
文本 语句 语义向量 样本 答案
运动主体 预训练网络 运动轨迹跟踪 关键点 依赖关系分析
地基云图 功率 空间金字塔 集成加权 多模态
机房 计算机视觉 数据标注方法 训练图像识别模型 服务器