一种云-边-端协同的大模型与轻量模型联合部署方法及系统

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种云-边-端协同的大模型与轻量模型联合部署方法及系统
申请号:CN202510531010
申请日期:2025-04-25
公开号:CN120342828A
公开日期:2025-07-18
类型:发明专利
摘要
本发明公开了一种云‑边‑端协同的大模型与轻量模型联合部署方法及系统,根据系统使用环境建立用于环境预警检测的云服务器和端侧设备,设定初始可信阈值,负责将数据从端侧设备传输到云侧或从云侧获取处理结果,通过云‑边‑端的协同工作,可以在不同的计算资源之间分配任务,以优化性能、减少延迟,并提高系统的整体效率,并分析了最小检测准确率和最大漏报率给定时,带宽与系统可支持的端侧设备数量之间的关系,以及带宽、设备数量、系统允许的最大漏报率给定时,控制信道数量对最大检测准确率的影响,这为未来大模型与轻量模型的协同设计提供了参考,对相关应用实际部署时的关键参数设置具有重要意义。
技术关键词
联合部署方法 云服务器 检测环境状态 粒子群优化算法 异常数据 位置更新 异常状态 速度 可读存储介质 模块 处理器 周期 精度 计算机设备 存储器 因子 信道