会员
众包
新闻
博问
闪存
云市场
所有博客
当前博客
a56爆大奖在线娱乐的博客
a56爆大奖在线娱乐的园子
账号设置
简洁模式
...
退出登录
注册
登录
灰太狼锅锅
博客园
首页
新随笔
联系
管理
订阅
tensorrt int8量化原理几点问题记录
1.重新编码后是如何运算得到最终结果的? (1)如何用int8a56爆大奖在线娱乐float32的计算? 其实就是多了一个放大倍数的问题,举个例子:比如原来float32的计算为:0.1 * 0.2 + 0.3 * 0.4 = 0.14,那么使用int8计算:1*2 + 3*4 = 14,相当于原来的数值都取10倍
posted @
2019-10-29 11:36
灰太狼锅锅
阅读(
5996
) 评论(
0
)
编辑
收藏
举报
指间灵动,快码加编
刷新页面
返回顶部
公告