TurboQuant es un nuevo enfoque para la cuantización de vectores que utiliza rotaciones aleatorias para mejorar la precisión en la reconstrucción de datos. Al aplicar una transformación ortogonal antes de la cuantización, se logra que las coordenadas de los vectores sigan una distribución más uniforme, lo que permite una mejor estimación de los productos internos y reduce el error de reconstrucción. Este método se basa en el teorema del límite central y la teoría de la información, logrando una tasa de error que se aproxima a los límites teóricos establecidos por Shannon.
arkaung.github.io
Tecnologa
TurboQuant: Innovación en Cuantización de Vectores para Mayor Precisión