您好,您有试过LSQ+weight的per_channel模式吗,这个量化出来的效果很差,不如per_tensor的,发现出来的weight的scale比per_tensor的大一个数量级,您有思路解决这一问题吗
您好,您有试过LSQ+weight的per_channel模式吗,这个量化出来的效果很差,不如per_tensor的,发现出来的weight的scale比per_tensor的大一个数量级,您有思路解决这一问题吗