什么是quantized model？

量化模型（Quantized Model）是指将神经网络的权重和激活值从浮点数转换为低位数的数据类型，如8位整数或16位浮点数，以减少计算所需的存储空间和计算能力。通过量化，可以在不显著影响模型性能的情况下，有效地减少模型大小和功耗。量化模型广泛用于嵌入式系统和移动设备上的深度学习应用。