基于大语言模型的服务处理方法及装置

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于大语言模型的服务处理方法及装置
申请号:CN202510855563
申请日期:2025-06-24
公开号:CN120705407A
公开日期:2025-09-26
类型:发明专利
摘要
本说明书实施例提供了基于大语言模型的服务处理方法及装置,其中,一种基于大语言模型的服务处理方法包括:在进行针对资源服务的服务处理过程中,获取资源服务的调用请求携带的资源处理指令和多个数据序列,根据各数据序列的序列长度确定各数据序列的序列类型,并将资源处理指令和各数据序列分配至序列类型对应的模型推理服务,以使模型推理服务将资源处理指令和各数据序列输入至大语言模型进行推理处理并获得推理数据,最后根据模型推理服务返回的推理数据生成资源处理结果并向资源服务返回,以此通过模型推理服务实现资源服务处理。
技术关键词
大语言模型 序列 数据 生成资源 计算机可执行指令 文本 指标 注意力机制 字符 可读存储介质 模块 处理器 项目 存储器