Kvantizace
Metoda převodu spojitých hodnot na diskrétní (reálných na celočíselné, ...).
Princip:
Chceme kvantizovat hodnoty z intervalu <x,y> na N různých diskrétních hodnot - kvantizační krok = (y-x)/N.
Pokud vstupní hodnota překročí k-násobek kvantizačního kroku na výstup dáváme hodnotu k.
Kvantizační chyba
zaokrouhlovací chyba způsobená velikostí kvantizačního kroku
je přímo úměrná velikosti kvantizačního kroku.
Běžně používané kvantizace:
8 bitů - 256 úrovní
16 bitů - 65536 úrovní
24 bitů - 16777216 úrovní
32 bitů - 4294967296 úrovní - používá se hlavně pro zpracování obrazu.