端侧算法模型的优化方法、设备、介质和程序产品

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
端侧算法模型的优化方法、设备、介质和程序产品
申请号:CN202410977900
申请日期:2024-07-19
公开号:CN118502926B
公开日期:2024-12-24
类型:发明专利
摘要
本申请实施例提供了一种端侧算法模型的优化方法、设备、介质和程序产品。所述方法包括:确定所述算法模型的计算图,所述计算图包括多个算子;对所述终端设备的硬件性能进行评估,确定硬件性能信息;基于所述硬件性能信息生成所述算法模型的调度空间;对所述算法模型的调度空间进行优化,确定各算子的参数信息;基于所述参数信息配置所述算法模型,生成部署在端侧的算法模型。结合要部署的终端设备的硬件性能来对算法模型进行调整,对所述算法模型的调度空间进行优化,能够充分调用终端设备的硬件进行算法计算,符合部署需求,提高处理效率。
技术关键词
硬件性能信息 算法模型 终端设备 计算机执行指令 大语言模型 计算机可执行指令 搜索算法 构建训练集 存储优化策略 配置页面 层次结构信息 训练集优化 遗传算法 参数 指令优化 关系 可读存储介质 计算机程序产品 处理器