一种基于模型学习的扩散模型推理加速系统及方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种基于模型学习的扩散模型推理加速系统及方法
申请号:CN202410922398
申请日期:2024-07-10
公开号:CN119180343A
公开日期:2024-12-24
类型:发明专利
摘要
本发明公开了一种基于模型学习的扩散模型推理加速系统及方法,属于人工智能生成内容领域,包括步骤数裁剪模块,用于对扩散模型推理中的去噪计算过程的计算步骤进行压缩;任务节点匹配模块,用于将计算任务分配调度到云‑边协同网络系统的计算节点上。本发明采用上述的一种基于模型学习的扩散模型推理加速系统及方法,提出的云边协同框架,利用步数压缩和任务调度两方面策略,实现了用户使用扩散模型执行文生图推理计算任务下的计算加速,并且在推理过程中能够保证图像质量。
技术关键词
加速系统 协同网络系统 节点 任务调度策略 裁剪模块 匹配模块 任务调度模型 表达式 多头注意力机制 种子 动作策略 更新系统 图像 状态更新 资源 解码