发布日期:2025-07-31 10:23 点击次数:91
新浪科技讯 2月7日上昼音问,天眼查App显露,近日,华为技艺有限公司请求的“东说念主工智能模子的量化尺度、科罚系统和量化单位”专利公布。
摘记显露,量化单位不错基于开动AI模子的策画确立的各个策画单位的科罚粒度,将量化矩阵分割成多个适用于各个策画单位的科罚粒度的分块量化矩阵。量化单位不错对分块量化矩阵进行量化科罚,以赢得量化后的分块量化矩阵,并存储在存储器中,不错减少AI模子占用的内存。量化矩阵不错是权重矩阵,也不错是激活矩阵。量化单位量化历程中,是基于开动AI模子的策画确立的各个策画单位的科罚粒度进行量化,并不需要基于张量级别进行离群值的统计,终了AI模子对权重矩阵和激活矩阵齐不错进行及时量化。
包袱裁剪:郝欣煜 欧洲杯投注入口
Powered by 欧洲杯正规(买球)下单平台·中国官方全站 @2013-2022 RSS地图 HTML地图