分布式计算系统、方法、电子设备、存储介质及程序产品
申请号:CN202510828167
申请日期:2025-06-19
公开号:CN120353557B
公开日期:2025-08-22
类型:发明专利
摘要
本发明公开了一种分布式计算系统、方法、电子设备、存储介质及程序产品,涉及人工智能技术领域,包括本地部署有端侧扩散模型的第一设备和第二设备,还包括输入设备,利用输入设备将端侧扩散模型的推理任务输入至第一设备,第一设备将推理任务拆分为第一任务和第二任务,将第一任务输入第一设备本地部署的端侧扩散模型,将第二任务输入第二设备本地部署的端侧扩散模型,第一设备和第二设备并行执行各自任务,两条计算路径并行执行,提高计算效率,解决了相关技术存在端侧运行扩散模型时面临计算资源消耗大、并行推理能力弱、以及缺乏分布式通信支持等缺陷,难以满足效率需求的技术问题,达到了提升端侧扩散模型推理的计算效率的技术效果。
技术关键词
分布式计算系统
分布式计算方法
内存架构
输入设备
内存访问技术
处理器
电子设备
可读存储介质
存储计算机程序
人工智能技术
计算机程序产品
编码器
数据编码
文本
基础
功耗
模块