定点量化
复制本地路径 | 在线编辑
定点量化
1. 定点量化一
其实本质上就是写如何把平常的浮点数转成整数，最后再进行移位。比如 1.5，可以转成 3，最后移一位就行。
按照给的公式去做就可以，其实细推也能推出来。
里面给的公式中，定点数的 max，也就是 q_max，其实就是 2^n-1，比如转成 8 位的话，就是 255，只不过公式是一种泛化的说法。
其中可能会困惑：负数怎么办？转成定点数是转成了有符号数
2. 定点量化二
其实就是将如何将一个 0.xx 的数字转成定点数。比如二进制 0.001101，就可以转成 11 >> 4，虽然损失了一点精度。
只不过文章的意思是，先转成一个 0.5-1 的数，比如转成 0.11 >> 2。
实际中是转成 11，这样对于一个数字 x，就 x*11 >> 4 就行。