tensorrt int8量化原理几点问题记录

1.重新编码后是如何运算得到最终结果的? (1)如何用int8a56爆大奖在线娱乐float32的计算? 其实就是多了一个放大倍数的问题,举个例子:比如原来float32的计算为:0.1 * 0.2 + 0.3 * 0.4 = 0.14,那么使用int8计算:1*2 + 3*4 = 14,相当于原来的数值都取10倍
posted @ 2019-10-29 11:36  灰太狼锅锅  阅读(5996)  评论(0编辑  收藏  举报