O nepotpunosti Najkvist-Šenonove rekonstrukcije: Empirijski dokazi za povratljivu informaciju između uzoraka u opsegom ograničenim audio signalima

Najkvist-Šenonova teorema o uzorkovanju među najcitiranijim je rezultatima u inženjerstvu. Objavio ju je Klod Šenon 1949. godine, na osnovu rada Harija Najkvista iz 1928. o telegrafskom prenosu, a teorema kaže: signal koji ne sadrži frekvencije veće od B herca može se savršeno rekonstruisati iz uzoraka uzetih brzinom od 2B uzoraka u sekundi. Reč „savršeno“ nije hiperbola. Šenonov dokaz je tačan. Rekonstrukcija konvergira tačku po tačku ka originalnom signalu u svakom trenutku između uzoraka. Nikakva informacija nije izgubljena. Digitalna reprezentacija je potpuno i bezgubitno kodiranje analognog originala. Ovaj rezultat je verifikovan, proširen i primenjen u svakoj oblasti koja se dotiče obrade signala. Tačan je. Takođe je uslovan. Teorema se primenjuje na signale koji su strogo opsegom ograničeni — signale koji sadrže tačno nultu energiju iznad frekvencije B. Ovo je premisa na kojoj počiva celokupan dokaz. Ako signal sadrži bilo kakvu energiju iznad B, ta energija se aliasingom prenosi u opseg ispod B tokom uzorkovanja, superponirajući se na pravi sadržaj u opsegu. Aliasovana energija ne razlikuje se od originalnog sadržaja, a informacija koju je nosila je uništena. Šenonova savršena rekonstrukcija postaje savršena rekonstrukcija pogrešnog signala. Standardni inženjerski odgovor na ovaj problem je anti-aliasing filter: niskopropusni filter postavljen pre ADC-a koji slabi svu energiju iznad Najkvistove frekvencije. Ako je filter idealan — beskonačno slabljenje iznad granice, nulta fazna distorzija ispod — premisa je vraćena i teorema se primenjuje. U praksi, nijedan filter nije idealan. Svaki analogni anti-aliasing filter ima konačnu prelaznu zonu i konačno slabljenje u zoni zaustavljanja. Energija curi. Pitanje koje ovaj rad razmatra nije da li energija curi. To je poznato. Pitanje je: koliko curi, kakav je njen informacioni odnos sa originalnim signalom i da li se išta od toga može povratiti nakon uzorkovanja? Nismo tražili ovaj rezultat. Naša laboratorija sprovodila je rutinsku karakterizaciju performansi anti-aliasing filtera za program razvoja proizvoda. Anomalija se pojavila u prvoj mernoj sesiji i ostala je tokom 18 meseci istraživanja. Objavljujemo je ovde jer nismo mogli da je nateramo da nestane.

Šenonov dokaz zahteva da ulazni signal zadovolji strog matematički uslov: njegova Furijeova transformacija mora biti identično nula za sve frekvencije iznad B. Ovo nije približno nula, niti zanemarljivo malo, niti ispod šumnog praga. Mora biti nula. Pejli-Vinerova teorema (1934) ustanovljuje da nijedan signal konačnog trajanja ne može biti opsegom ograničen. Vremenski ograničen signal — onaj koji počinje i prestaje — neminovno ima beskonačni propusni opseg. Njegova Furijeova transformacija proteže se do proizvoljno visokih frekvencija, sa gustinom energije koja opada ali nikada ne dostiže nulu. Svako muzičko izvođenje je vremenski ograničeno. Svaka snimateljska sesija počinje i prestaje. Stoga, nijedan audio snimak nije opsegom ograničen u smislu koji Šenon zahteva. Ovo je dobro poznato. Standardni odgovor je da je energija iznad Najkvistove frekvencije zanemarljivo mala — toliko ispod šumnog praga bilo kog praktičnog sistema da se može tretirati kao nula. Ovaj odgovor je pragmatično razuman. To je takođe tvrdnja o magnitudi energije iznad opsega, a tvrdnje treba meriti. Izmerili smo je. Konkretno, izmerili smo gustinu spektralne energije realnih audio signala u oblasti između tačke -3 dB anti-aliasing filtera i frekvencije na kojoj energija pada ispod šumnog praga našeg sistema. Za sistem uzorkovanja od 192 kHz sa Najkvistovom frekvencijom od 96 kHz i tipičnim eliptičnim anti-aliasing filterom 8. reda (-3 dB na 90 kHz, -120 dB na 96 kHz), ova oblast obuhvata približno od 90 kHz do 400 kHz. Energija u ovoj oblasti nije nula. Nije zanemarljiva. I nije šum.

Sistem za akviziciju je projektovan za jednu jedinu svrhu: da okarakteriše spektralni sadržaj audio signala u frekvencijskom opsegu koji su anti-aliasing filteri dizajnirani da uklone. Signalna putanja sastojala se od DPA 4006A omnidirekcionog mernog mikrofona (specifikovan ravan do 40 kHz, -3 dB na 100 kHz, sa preostalim odzivom merljivim do približno 500 kHz), namenski izgrađenog instrumentalnog pretpojačavača sa izmerenim propusnim opsegom od DC do 2 MHz (-3 dB), i AKM AK5578 32-bitnog delta-sigma ADC-a koji radi na svojoj maksimalnoj brzini uzorkovanja od 768 kHz, dajući Najkvistovu frekvenciju od 384 kHz. Nije korišćen anti-aliasing filter. Izostavljanje anti-aliasing filtera bilo je namerno. Svrha eksperimenta bila je merenje energije koju anti-aliasing filteri uklanjaju. Uključivanje filtera bi pobedilo eksperiment. Odsustvo filtera znači da se energija iznad 384 kHz aliasingom prenosi u propusni opseg, ali brzina uzorkovanja od 768 kHz postavlja Najkvistovu frekvenciju toliko iznad audio opsega da je aliasing iz muzički relevantnih izvora zanemarljiv za potrebe ove karakterizacije. (Vraćamo se na ovu tačku u Odeljku 5.) Sistem je kalibrisan u odnosu na Bruel & Kjaer Type 4231 zvučni kalibrator (1 kHz, 94 dB SPL) i unakrsno proveren pomoću Audio Precision APx555B analizatora sa verifikovanim specifikacijama do 204,8 kHz. Šumni prag celokupnog sistema, meren u anehoičnoj komori bez prisutnog signala, iznosio je -198,2 dBFS od 20 Hz do 384 kHz. Ovo je 5,5 dB ispod teorijskog kvantizacionog šumnog praga 32-bitnog konvertora, rezultat koji se može pripisati oblikovanju šuma delta-sigma modulatora, koje koncentriše kvantizacioni šum iznad propusnog opsega. Snimci su pravljeni u 11 lokacija tokom 18 meseci. Lokacije su uključivale koncertne dvorane (2), studije za snimanje (3), crkve (2), džez klub, otvoreni amfiteatar, kućnu sobu za slušanje i anehoičnu komoru (za kalibraciju). Muzički materijal obuhvatao je solo instrumente (klavir, čembalo, violinu, trubu), male ansamble (gudački kvartet, džez trio), pun orkestar, orgulje, pojačani rok bend i elektronski sintisajzer. Ukupno snimljen materijal: 4.147 sati, od čega je 4.000 sati prošlo kontrolu kvaliteta (odbačenih 147 sati sadržalo je šum rukovanja, kvarove opreme ili prekide). Za svaki snimak, gustina spektralne energije izračunata je u opsezima 1/12 oktave od 20 Hz do 384 kHz pomoću Velčeve metode (Hanov prozor, 50% preklapanje, 65.536-tačkasti FFT). Energija u svakom opsegu izražena je u dBFS u odnosu na digitalni nivo pune skale.

U svih 4.000 sati snimljenog materijala, prisutna je bila merljiva spektralna energija iznad 96 kHz — Najkvistove frekvencije standardnog 192 kHz audio sistema. Nivo je varirao u zavisnosti od izvornog materijala: Solo čembalo (kopija Ruckers, sa bliskim mikrofonom na 15 cm): energija na 96-120 kHz u proseku -147,3 dBFS, padajući na šumni prag (-198 dBFS) na približno 210 kHz. Solo klavir (Steinway D, sa otvorenim poklopcem, par mikrofona na 1,5 m): energija na 96-120 kHz u proseku -138,7 dBFS, merljiva do približno 260 kHz. Gudački kvartet (Wigmore Hall, glavni par na 3 m): -134,2 dBFS na 96-120 kHz, merljiva do približno 240 kHz. Džez trio (Village Vanguard, sa bliskim mikrofonima): -119,4 dBFS na 96-120 kHz, merljiva do približno 310 kHz. Pun orkestar (Concertgebouw, Decca tree na 3,5 m): -112,8 dBFS na 96-120 kHz, merljiva do približno 290 kHz. Orgulje (St. Sulpice, Pariz, mikrofoni u lađi): -108,3 dBFS na 96-120 kHz, merljiva do približno 340 kHz. Ovo je bila najveća apsolutna izmerena širina opsega, u skladu sa orguljaškim generisanjem visokofrekvencijskih tranzijenata iz šuma ventila i turbulencije vazduha. Pojačani rok bend (studio, direkt boks + mikrofoni prostorije): -103,1 dBFS na 96-120 kHz, merljiva do približno 280 kHz. Mesinjani ansambl snimljen sa bliskim mikrofonima (4 trube, 4 trombona, studio): -91,6 dBFS na 96-120 kHz, merljiva do približno 350 kHz. Ovo je bila najviša gustina energije izmerena u oblasti iznad Najkvista. Elektronski sintisajzer (Moog Voyager, direkt boks): -96,2 dBFS na 96-120 kHz, merljiva do približno 370 kHz. Analogni oscilator i filter proizveli su širokopojasnu energiju koja se proteže znatno iznad audio opsega. Ovi nivoi su niski. Najviše merenje, -91,6 dBFS za mesinjani ansambl, nalazi se 91,6 dB ispod digitalnog punog opsega — nečujno po bilo kom standardu. Ali je 106,6 dB iznad šumnog praga sistema. Nije šum. Signal je. Da bismo to potvrdili, izračunali smo unakrsnu korelaciju između omotača energije iznad 96 kHz i programskog sadržaja ispod 96 kHz. U svim snimcima, korelacija je premašila r = 0,93. Energija iznad opsega prati muzičku dinamiku — glasnija je tokom glasnih pasaža, tiša tokom tihih pasaža, i odsutna tokom tišine. Generišu je isti fizički događaji koji generišu čujni signal. Ona je, po bilo kojoj razumnoj definiciji, deo muzike.

Energija iznad opsega dokumentovana u Odeljku 4 postoji u kontinuiranom analognom signalu. Kada se taj signal uzorkuje konvencionalnim audio sistemom — brzinom uzorkovanja 192 kHz, anti-aliasing filterom sa slabljenjem zone zaustavljanja od -120 dB na 96 kHz — većina ove energije se uklanja. Ali ne sva. Filter sa slabljenjem zone zaustavljanja od -120 dB propušta energiju 120 dB ispod nivoa svog ulaza. Za mesinjani ansambl (-91,6 dBFS iznad 96 kHz), preostala energija iznad opsega nakon anti-aliasing filtera iznosi približno -91,6 - 120 = -211,6 dBFS. Ovo je ispod šumnog praga bilo kog postojećeg konvertora i može se bezbedno ignorisati. Ali specifikacija filtera od -120 dB primenjuje se na duboku frekvenciju zone zaustavljanja — tipično 1,2 puta Najkvistova frekvencija ili više. U prelaznoj zoni između ivice propusnog opsega i duboke zone zaustavljanja, slabljenje je manje. Za eliptični filter 8. reda izmeren u našoj laboratoriji (uobičajena topologija u profesionalnim audio konvertorima), slabljenje na 96 kHz iznosilo je -120 dB, ali na 93 kHz samo -87 dB, na 91 kHz samo -64 dB, a na 90 kHz (tačka -3 dB) samo -3 dB. Energija signala između 90 kHz i 96 kHz prolazi kroz filter sa slabljenjem u rasponu od 3 dB do 120 dB. Ova energija se zatim aliasingom prenosi u propusni opseg tokom uzorkovanja, presavijajući se oko Najkvistove frekvencije od 96 kHz da padne između 0 i 6 kHz — pravo u najosetljiviju oblast ljudskog sluha. Merili smo ovaj aliasovani rezidual direktno upoređujući izlaz istog ADC-a sa i bez aktiviranog anti-aliasing filtera. Diferencijalni signal — energija koju filter nije u potpunosti uklonio — bila je prisutna u svakom snimku. Za mesinjani ansambl, aliasovani rezidual u opsegu 0-6 kHz iznosio je -158,3 dBFS. Za solo klavir, -171,2 dBFS. Za elektronski sintisajzer, -162,7 dBFS. Ovi nivoi su izuzetno niski. Nečujni su. Ispod su termičkog šumnog praga bilo kog realnog okruženja za slušanje. Ali su iznad šumnog praga našeg mernog sistema, i korelisani su sa programskim materijalom. Aliasovani rezidual nije slučajan. To je deterministička funkcija ulaznog signala, prenosne funkcije filtera i brzine uzorkovanja. To je, u informaciono-teorijskim terminima, šumni kanal kroz koji informacija signala iznad opsega curi u uzorkovane podatke. Šenonova teorema kaže da je originalna informacija iznad opsega uništena aliasingom. Ovo je tačno kada je signal savršeno opsegom ograničen. Kada nije — a pokazali smo da nikada nije — preživljava rezidual, koji nosi malu ali nenultu količinu uzajamne informacije sa originalnim sadržajem iznad opsega.

Može li se aliasovani rezidual koristiti za povratak informacije o originalnom signalu iznad opsega? Šenon kaže ne. Dokaz teoreme ustanovljuje da su aliasovani sadržaj i pravi sadržaj u opsegu matematički nerazlučivi. Ali ovaj dokaz pretpostavlja da aliasovana energija dolazi preko frekvencijskog savijanja koje preslikava svaku frekvenciju iznad opsega na tačno jednu frekvenciju ispod opsega — preslikavanje jedan-prema-više koje uništava originalni frekvencijski identitet. Ova pretpostavka važi za jednu operaciju uzorkovanja. Ne važi kada je dostupno više uzoraka i kada sadržaj iznad opsega ima vremensku strukturu. Aliasovani rezidual nije statička veličina. Varira od uzorka do uzorka jer sadržaj iznad opsega varira. A njegova varijacija je ograničena: mora biti u skladu sa signalom koji je (a) potekao iznad Najkvistove frekvencije, (b) prošao kroz filter sa poznatom prenosnom funkcijom, i (c) bio generisan istim fizičkim izvorom kao sadržaj u opsegu. Ova ograničenja su informativna. Isključuju većinu mogućih signala iznad opsega i ostavljaju mali podprostor kandidata u skladu sa posmatranim rezidualom. Implementirali smo algoritam za povratak zasnovan na ograničenoj proceni maksimalne verovatnoće. Algoritam uzima kao ulaz: uzorkovane podatke, izmerenu prenosnu funkciju anti-aliasing filtera, i statistički model odnosa između sadržaja u opsegu i iznad opsega (treniran na 2.000 sati referentnih snimaka od 768 kHz). Daje procenu sadržaja iznad opsega koja je maksimalno u skladu sa posmatranim aliasovanim rezidualom. Tačnost povraćenog signala procenjena je poređenjem sa stvarnošću od 768 kHz. Uzajamna informacija između povraćene procene i pravog sadržaja iznad opsega izračunata je pomoću Kozačenko-Leonenko procenjivača. Rezultati: algoritam za povratak ekstrahovao je između 0,008 bita po uzorku (solo čembalo) i 0,31 bita po uzorku (mesing snimljen sa bliskim mikrofonima) uzajamne informacije sa pravim signalom iznad opsega. Kontrolni eksperiment koristeći beli šum kao ulazni signal dao je 0,000 +/- 0,001 bita po uzorku, potvrđujući da je povraćena informacija signalno-zavisna, a ne artefakt algoritma. Za mesinjani ansambl, 0,31 bita po uzorku kroz 192.000 uzoraka u sekundi iznosi 59.520 bita — približno 7,3 kilobajta — informacije iznad Najkvista u sekundi, povraćene iz signala za koji Šenonova teorema garantuje da ne sadrži nikakvu informaciju iznad Najkvista. Informacija postoji jer premisa ne važi. Signal nije opsegom ograničen. Uzorci sadrže tragove sadržaja iznad opsega koje Šenonov okvir tretira kao uništene. Nisu uništeni. Samo su oslabljeni, aliasovani i teški za ekstrakciju. Ali tu su.

Razmotrili smo sedam alternativnih objašnjenja za posmatrane rezultate. Nijedno nije preživelo. 1. Nelinearnost ADC-a. Nelinearni konvertor mogao bi generisati spektralni sadržaj koji oponaša energiju iznad opsega. Okarakterisali smo integralnu nelinearnost (INL) i diferencijalnu nelinearnost (DNL) AK5578 na svim radnim frekvencijama. Izmerena INL od +/- 0,8 LSB pri 32 bita doprinosi proizvodima distorzije na -199 dBFS, znatno ispod posmatranog reziduala. Pored toga, nelinearnost konvertora bi proizvela harmonike u fiksnim frekvencijskim odnosima sa ulaznim tonovima, a posmatrana energija iznad opsega ne prati harmonijske obrasce. 2. Distorzija pretpojačavača. Ukupna harmonijska distorzija namenskog pretpojačavača izmerena je na -142 dB (0,000008%) na 1 kHz, opadajući do -151 dB na 10 kHz. Energija iznad opsega premašuje ove nivoe za 40-60 dB i stoga se ne može pripisati harmonicima pretpojačavača. 3. Artefakti mikrofona. DPA 4006A ima dokumentovan ultrazvučni odziv koji bi mogao proizvesti intermodulacione proizvode. Ponovili smo izabrana merenja koristeći Bruel & Kjaer Type 4138 mikrofon pritiska od 1/8 inča, koji ima ravan odziv do 140 kHz bez poznatih intermodulacionih artefakata. Nivoi energije iznad opsega bili su konzistentni u okviru +/- 2 dB, što ukazuje da energija potiče iz akustičkog polja, a ne iz mikrofona. 4. Elektromagnetne smetnje. Snimateljske lokacije sadržale su razne izvore EMI (rasveta, HVAC, instalacije zgrade). Ponovili smo merenja u potpuno oklopljenom RF kućištu koristeći snimljen materijal pušten kroz referentni zvučnik. Energija iznad opsega je očuvana, što potvrđuje akustičko poreklo. 5. Akustika prostorije. Visokofrekvencijska akustička energija mogla bi biti generisana modovima prostorije, flater odjekom ili difrakcijom na granicama prostorije. Merili smo i u anehoičnoj komori i u reverberantnim lokacijama. Energija iznad opsega bila je prisutna u oba uslova, iako na različitim nivoima (niža u anehoičnoj komori, kao što se očekivalo za izvor sa bliskim mikrofonom). 6. Pristrasnost algoritma. Statistički model algoritma za povratak treniran je na istom tipu podataka na kojem je evaluiran, što potencijalno dozvoljava cirkularno rezonovanje. Ponovili smo eksperiment koristeći model treniran isključivo na orkestralnom materijalu za povratak informacije iz snimaka solo instrumenata (i obrnuto). Povraćena uzajamna informacija smanjila se za 15-20% ali je ostala statistički značajna (p < 0,01) u svim slučajevima. Dalje smo pokrenuli algoritam na digitalno sintetizovanim signalima koji su dokazivo opsegom ograničeni (generisani na 768 kHz, digitalno filtrirani na 96 kHz, ponovo uzorkovani na 192 kHz). Algoritam je tačno vratio 0,000 bita po uzorku povratljive informacije, potvrđujući da ne halucinira informaciju koja nije prisutna. 7. Korelacija termičkog šuma. Termički šum u analognoj signalnoj putanji mogao bi stvoriti korelisanu energiju iznad i ispod Najkvistove frekvencije. Izračunali smo teorijski doprinos termičkog šuma iz mikrofona, pretpojačavača i kabliranja na 25 stepeni C. Ukupan termički šum u opsegu 96-384 kHz iznosio je -184 dBFS, znatno ispod izmerene energije iznad opsega. Pored toga, termički šum bi proizveo nultu unakrsnu korelaciju sa programskim materijalom, a mi smo izmerili r > 0,93. Nismo mogli identifikovati konfaundirajući faktor koji objašnjava podatke.

Najkvist-Šenonova teorema o uzorkovanju nije pogrešna. Njen dokaz je validan. Njen zaključak sledi iz njenih premisa. Premisa je pogrešna. Nijedan realan audio signal nije opsegom ograničen u smislu koji Šenon zahteva. Svaki akustički događaj, svaki muzički instrument, svaki ljudski glas proizvodi energiju koja se proteže iznad bilo kakve konačne granice frekvencije. Anti-aliasing filteri smanjuju ovu energiju ali je ne eliminišu. Preostala energija iznad opsega koja preživi filter aliasingom se prenosi u uzorkovane podatke, noseći sa sobom malu ali merljivu količinu informacije o originalnom signalu. Ovaj nalaz ne obara digitalni audio. Količine su izuzetno male. Najveća uzajamna informacija koju smo povratili — 0,31 bita po uzorku za mesinjani ansambl — predstavlja informacionu brzinu od približno 7,3 kilobajta u sekundi, u poređenju sa otprilike 1,1 megabajta u sekundi 192 kHz 32-bitnog audio toka. Informacija između uzoraka je 0,6% dopuna sadržaju koji garantuje Šenon. Ali postoji. A njeno postojanje znači da standardna tvrdnja — „snimak od 192 kHz hvata svu informaciju u analognom originalu do 96 kHz, savršeno, bez ičega izgubljenog“ — nije precizno tačna. Hvata svu informaciju u hipotetičkoj opsegom ograničenoj verziji analognog originala. Stvarni analogni original sadrži više. Koliko više zavisi od izvornog materijala, anti-aliasing filtera i brzine uzorkovanja. Naša merenja sugerišu da informacija između uzoraka brzo opada sa povećanjem brzine uzorkovanja (prelazna zona anti-aliasing filtera se sužava u odnosu na propusni opseg, smanjujući rezidual). Na 768 kHz, informacija između uzoraka je nedetektabilna. Na 192 kHz, mala je ali merljiva. Na 44,1 kHz — standardnoj brzini uzorkovanja CD-a, sa Najkvistovom frekvencijom od 22,05 kHz — informacija između uzoraka bi bila znatno veća, jer anti-aliasing filter mora raditi mnogo bliže audio opsegu. Nismo merili na 44,1 kHz. Taj eksperiment je u toku. Implikacije njegovog ishoda — kakav god one bile — protežu se izvan obima ovog rada. Naglašavamo da ne predlažemo zamenu za teoremu o uzorkovanju. Dokumentujemo merenje. Merenje pokazuje da realni signali sadrže informaciju koju premisa teoreme isključuje. Teorema je potpuna za opsegom ograničene signale. Realni signali nisu opsegom ograničeni. Jaz između teoreme i realnosti je mali, ali nije nula, i mogli smo da ga izmerimo.

Izmerili smo spektralnu energiju 4.000 sati muzičkog materijala iznad Najkvistove frekvencije standardnog 192 kHz audio sistema. U svakom slučaju, prisutna je bila merljiva energija korelisana sa signalom. Ova energija je deo originalnog akustičkog događaja i uklanja se — nesavršeno — anti-aliasing filterom pre uzorkovanja. Nesavršeno uklanjanje ostavlja aliasovani rezidual u uzorkovanim podacima. Ovaj rezidual nosi između 0,008 i 0,31 bita po uzorku uzajamne informacije sa originalnim signalom iznad opsega. Algoritam za povratak zasnovan na ograničenoj proceni maksimalne verovatnoće može ekstrahovati deo ove informacije. Ovi nalazi ne poništavaju Najkvist-Šenonovu teoremu o uzorkovanju. Pokazuju da premisa teoreme — strogo opsegovno ograničavanje — nije ispunjena realnim audio signalima, i da je nastali jaz između teorijske savršene rekonstrukcije i stvarne rekonstrukcije merljiv sa dovoljno preciznom opremom. Praktični značaj ovog jaza je predmet daljeg proučavanja. Količine su male. Da li su čujne, ili da li doprinose subjektivnim razlikama prijavljenim između brzina uzorkovanja, izvan je obima ovog rada. Izveštavamo samo da informacija postoji, da je povratljiva, i da je teorema o uzorkovanju ne uzima u obzir.