Om du någonsin lyssnat på digital musik - speciellt någon form av lossy ljudformat - då har du blivit utsatt för matematisk kvantisering Denna digitala signalbehandling bakom kulisserna är ganska vanlig och oftast en integrerad funktion av modern ljudprogramvara eller hårdvara (t.ex. digital-till-analog omvandlare). Men kvantisering är inte begränsad till bara ljud. Termen och dess användningar gäller även för andra områden, t.ex. fysik eller digital bildbehandling.
I en inspelningsstudio tar mikrofoner upp analoga ljudvågor, som sedan bearbetas till ett digitalt format. Signalen kan samplas vid 44,100 Hz och kvantiseras med 8-, 16- eller 24-bitars djup (och så vidare). Högre bitdjup ger mer data, vilket möjliggör mer korrekt omvandling och reproduktion av den ursprungliga vågformen.
Grundläggande är kvantisering en komplicerad process av avrundning som innebär en viss grad av oriktighet. Datorer fungerar på sådana och nollor, varför analog-digital omvandling anses vara en nära approximation och inte en exakt kopia. När det gäller musik, måste inte bara den kvantiserade signalen upprätthålla korrekt följd och amplitud av värden, men tidpunkten måste också vara korrekt. Processen måste säkerställa att musikalisk rytm bibehålls, med anteckningar jämnt fördelade och inställda på samma slag (eller fraktioner därav). I annat fall kan ljudet sluta höra av eller konstigt till lyssna öron.
Detta kvantiseringsbegrepp kan observeras visuellt med ett bildredigeringsprogram, till exempel Photoshop. När en stor bild reduceras i storlek, är det en förlust av pixelinformation på grund av den matematiska processen som hanterar uppgiften. Programvaran utför beräkningarna och avrundningen för att bortskaffa oönskade pixlar samtidigt som bildskärmens övergripande integritet, förhållande och sammanhang hålls kvar - begränsade proportioner är lika kritiska för bilder som rytmen är för musik. När du zoomar in och jämför den omformade versionen av fotot till originalet, visar kanterna och objekten sig lite grova eller skarpa. Den här visuella aspekten av förlustkomprimering avser också typer av digitala ljudfiler. Mer data och / eller mindre komprimering resulterar i högre övergripande kvalitet.
