用于大模型分层计算的判定方法及装置、电子设备

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
用于大模型分层计算的判定方法及装置、电子设备
申请号:CN202410942919
申请日期:2024-07-15
公开号:CN118819785A
公开日期:2024-10-22
类型:发明专利
摘要
本申请涉及智慧家庭技术领域,公开一种用于大模型分层计算的判定方法,包括:对大模型的多层子模型的计算任务的任务因素进行量化评分;其中,任务因素包括任务复杂性参数、设备计算能力参数、数据传输需求参数、实时性需求参数、并发处理需求参数、网络稳定性参数和任务紧急程度参数中的多种;对多个任务因素的评分进行加权求和,获得任务总分;在任务总分超过设定阈值的情况下,将计算任务分配至不同的家电计算设备,以实现大模型分层计算。对任务因素进行量化评分,通过计算出的总分与设定的阈值相比较,这样能够根据计算任务获得不同的分层策略,将计算任务分配至不同的家电计算设备。
技术关键词
判定方法 权重分配策略 参数 数据传输需求 电子设备本体 判定装置 智慧家庭技术 强化学习算法 分层策略 处理器 网络 规模 存储器 模块 基础 速度