一种云-边-端协同的大模型与轻量模型联合部署方法及系统
申请号:CN202510531010
申请日期:2025-04-25
公开号:CN120342828A
公开日期:2025-07-18
类型:发明专利
摘要
本发明公开了一种云‑边‑端协同的大模型与轻量模型联合部署方法及系统,根据系统使用环境建立用于环境预警检测的云服务器和端侧设备,设定初始可信阈值,负责将数据从端侧设备传输到云侧或从云侧获取处理结果,通过云‑边‑端的协同工作,可以在不同的计算资源之间分配任务,以优化性能、减少延迟,并提高系统的整体效率,并分析了最小检测准确率和最大漏报率给定时,带宽与系统可支持的端侧设备数量之间的关系,以及带宽、设备数量、系统允许的最大漏报率给定时,控制信道数量对最大检测准确率的影响,这为未来大模型与轻量模型的协同设计提供了参考,对相关应用实际部署时的关键参数设置具有重要意义。
技术关键词
联合部署方法
云服务器
检测环境状态
粒子群优化算法
异常数据
位置更新
异常状态
速度
可读存储介质
模块
处理器
周期
精度
计算机设备
存储器
因子
信道