一种面向异构智能内容生成服务的资源分配与模型部署方法
申请号:CN202510916591
申请日期:2025-07-03
公开号:CN120769309A
公开日期:2025-10-10
类型:发明专利
摘要
本发明公开了一种面向异构智能内容生成服务的资源分配与模型部署方法,该方法中构建了一个边‑云协同的AIGC服务网络模型,该模型架构包括多个请求AIGC服务的无线设备、一个边缘服务器和一个云服务器。在该网络中,这些无线设备请求三类异构AIGC服务,三类AIGC服务分别是轻量级AIGC服务、计算密集型AIGC服务和基于预处理的AIGC服务。本发明考虑边缘服务器只部署有限数量的AIGC服务模型,协同云服务器和边缘服务器的AIGC服务模型为所有设备提供服务。通过联合优化带宽分配、计算资源分配及边缘服务器模型部署决策,在边缘服务器存储容量有限的前提下,最小化所有无线设备AIGC服务请求的总体推理时延,实现资源分配与模型部署。
技术关键词
模型部署方法
资源分配
无线设备
上行传输时延
异构
云服务器
混合整数非线性规划
交叉熵算法
凸优化方法
KKT条件
计算机可执行指令
决策
处理器
无线网络
可读存储介质
链路
代表