基于人工智能平台的模型推理方法及人工智能平台

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于人工智能平台的模型推理方法及人工智能平台
申请号:CN202411881425
申请日期:2024-12-19
公开号:CN119831038A
公开日期:2025-04-15
类型:发明专利
摘要
本申请提供了一种基于人工智能平台的模型推理方法及人工智能平台,所述方法包括:获取待推理模型和所述待推理模型的模型数据,所述模型数据包括模型来源数据、模型需求数据和模型数据转换规则;根据所述待推理模型的模型来源数据,确定所述待推理模型的开放格式转换器,并根据所述待推理模型对应的开放格式转换器,将所述待推理模型转换为开放格式模型;根据所述模型需求数据、模型数据转换规则以及所述人工智能平台的推理芯片所支持的模型格式,基于转换工具将所述开放格式模型封装为与所述模型格式对应的对象模型;在接收到所述对象模型的推理请求的情况下,对所述对象模型进行推理,得到推理结果。
技术关键词
人工智能平台 格式转换器 文本识别模型 数据 对象 推理方法 尺寸 深度学习框架 深度学习平台 转换框 光学字符识别 图文 芯片 机制 模块 训练集 软件