一种大语言模型的业务场景算力需求评估方法及系统

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种大语言模型的业务场景算力需求评估方法及系统
申请号:CN202510737969
申请日期:2025-06-04
公开号:CN120256140B
公开日期:2025-08-08
类型:发明专利
摘要
本发明提供一种大语言模型的业务场景算力需求评估方法及系统,属于大模型技术领域,具体包括:进行不同的业务需求的调用估算量的确定,将涉及到的所有的基本处理单元的业务需求作为目标业务需求,以目标业务需求与其它的业务需求之间的调用估算量的偏差情况,确定目标业务需求的调用估算量满足要求时,以其它的业务需求与所述目标业务需求的基本处理单元的调用处理顺序的重合情况,确定目标业务需求的干扰业务需求,以干扰业务需求的调用估算量以及与目标业务需求的基本处理单元的重合数据,确定业务场景的算力需求的估算处理方法,基于估算处理方法确定业务场景的算力需求的分配处理,提升了算力需求的利用处理效率。
技术关键词
需求评估方法 处理单元 场景 大语言模型 基础 计算机系统 转换单元 处理器 存储器 数据 偏差 度量