En traitement des signaux, la quantification est le procédé qui permet d'approcher un signal continu par les valeurs d'un ensemble discret d'assez petite taille. On parle aussi de quantification pour approcher un signal à valeurs dans un ensemble discret de grande taille par un ensemble plus restreint.
L'application la plus courante de la quantification est la conversion analogique-numérique mais elle doit le développement de sa théorie aux problèmes de quantification pour la compression de signaux audio ou .
Le but de la quantification est, à partir d'une valeur d'entrée donnée d'un espace E, de déterminer la valeur la plus proche dans l'ensemble F d'arrivée.
Dans le cas d'une conversion analogique-numérique, l'ensemble E est continu, on peut prendre et l'ensemble d'arrivée est discret, de taille finie. Cet ensemble est généralement appelé dictionnaire.
On parle de quantification scalaire lorsque le dictionnaire est de dimension 1, c'est-à-dire ses valeurs sont des scalaires. La quantification scalaire est la forme la plus simple de quantification, le cas où le dictionnaire est un espace de dimension supérieure à 1 est appelé la quantification vectorielle.
Un quantifieur scalaire de taille n est une application Q, de dans un ensemble discret fini F, de dimension 1 et de taille n, , . On note .
Un quantifieur peut se définir comme un ensemble d'intervalles de l'espace de départ, [t , t], où les t sont appelés niveaux de décision. À chaque intervalle [t , t], on fait correspondre une seule valeur de l'espace d'arrivée, r, appelée niveau de reconstruction. La forme typique d'un quantifieur est donc une fonction en escalier. D'une manière générale, la largeur d'un intervalle n'est pas constante : . Cette largeur est appelée le pas de quantification. En général, les niveaux de reconstruction ne sont pas non plus uniformément répartis : .
C'est le type de quantifieur le plus simple, où les intervalles sont de longueur constante.
Le pas de quantification est donc fixe : t – t = q pour tout k.
