一种混合精度计算方法及装置

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种混合精度计算方法及装置
申请号:CN202411617168
申请日期:2024-11-13
公开号:CN119668687A
公开日期:2025-03-21
类型:发明专利
摘要
本发明提供一种混合精度计算方法及装置,涉及人工智能技术领域。所述方法包括:获取混合精度计算图,根据所述混合精度计算图进行编译优化,得到优化后的混合精度计算图;对混合精度算子进行优化,并根据优化后的混合精度算子和所述优化后的混合精度计算图,计算得到混合精度计算结果。所述装置执行上述方法。本发明实施例提供的混合精度计算方法及装置,能够提高混合精度计算效率。
技术关键词
精度计算方法 矩阵 离群点 人工智能技术 因子 处理器 可读存储介质 存储器 电子设备 内存 计算机 数据