一种混合精度计算方法及装置
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
AITNT公众号
AITNT APP
AITNT交流群
搜索
首页
AI资讯
AI技术研报
AI监管政策
AI产品测评
AI商业项目
AI产品热榜
AI专利库
寻求报道
一种混合精度计算方法及装置
申请号:
CN202411617168
申请日期:
2024-11-13
公开号:
CN119668687A
公开日期:
2025-03-21
类型:
发明专利
摘要
本发明提供一种混合精度计算方法及装置,涉及人工智能技术领域。所述方法包括:获取混合精度计算图,根据所述混合精度计算图进行编译优化,得到优化后的混合精度计算图;对混合精度算子进行优化,并根据优化后的混合精度算子和所述优化后的混合精度计算图,计算得到混合精度计算结果。所述装置执行上述方法。本发明实施例提供的混合精度计算方法及装置,能够提高混合精度计算效率。
技术关键词
精度计算方法
矩阵
离群点
人工智能技术
因子
处理器
可读存储介质
存储器
电子设备
内存
计算机
数据