深度学习--模型优化--神经网络知识蒸馏--93

目录1. 剪枝、聚类、量化协同2.知识蒸馏 1. 剪枝、聚类、量化协同 协同优化，即将剪枝、聚类、量化同时使用，用于减小模型体积、加速推理速度。 1 使用工具转换器的默认量化功能 2 有代表性的数据集可以进行整数量化 3 如果希望在GPU上加速模型，可以使用float16优化，或TensorRT 4
posted @ 2024-07-04 11:14  jack-chen666  阅读(1)  评论(0)  编辑  收藏  举报