一种数据格式转换装置及方法、电子设备和存储介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种数据格式转换装置及方法、电子设备和存储介质
申请号:CN202511212015
申请日期:2025-08-28
公开号:CN120704739A
公开日期:2025-09-26
类型:发明专利
摘要
本公开涉及计算机技术领域,尤其涉及一种数据格式转换装置及方法、电子设备和存储介质,所述数据格式转换装置位于GPU中,与GPU中的数据存储器、矩阵运算模块相连接;包括:数据输入模块从数据存储器中读取源数据组;数据选择器对N个源数据的指数数据进行比较,选择指数数据最大的目标源数据;缩放因子确定子模块根据目标源数据确定目标缩放因子;格式转换模块根据目标缩放因子对每个源数据进行缩放处理,得到包括目标缩放因子、以及低精度N个目标数据的目标数据组;数据输出模块将目标数据组发送至矩阵运算模块。本公开实施例可实现将数据存储器中读取的高精度源数据组转换为低精度目标数据组之后再发送至矩阵运算模块进行数据处理。
技术关键词
数据格式转换装置 因子 数据存储器 数据输出模块 数据输入模块 数据选择器 子模块 缩放参数 数据格式转换方法 计算机程序指令 人工智能AI模型 指数 矩阵 算数逻辑单元 电子设备 图形处理器