2019年10月29日
tensorrt int8量化原理几点问题记录
摘要： 1.重新编码后是如何运算得到最终结果的？ (1)如何用int8a56爆大奖在线娱乐float32的计算？ 其实就是多了一个放大倍数的问题，举个例子：比如原来float32的计算为：0.1 * 0.2 + 0.3 * 0.4 = 0.14，那么使用int8计算：1*2 + 3*4 = 14，相当于原来的数值都取10倍 阅读全文
posted @ 2019-10-29 11:36 灰太狼锅锅 阅读(5996) 评论(0) 推荐(0) 编辑