Témacsoport: Kerekítési
hibák és kvantálás modellezése és
vizsgálata
Felelős: Dr. Kollár István
R ép. I. 10, 463-1774, kollar@mit.bme.hu
A számítógépek elterjedésével
egyre nagyobb a fontossága a kerekítési hibák
vizsgálatára szolgáló módszereknek és
eszközöknek. Az FFT, a digitális szűrés,
a moduláció/demoduláció, az adaptív
algoritmusok stb. mind kerekítési hibával terheltek.
Még az elterjedt dupla pontosságú lebegőpontos
számábrázolás esetén is vannak esetek,
ahol a kerekítési hiba kellemetlenül megjelenik. A bemeneti
analóg-digitál átalakító pedig annál
drágább, minél nagyobb a bitszáma és
minél gyorsabb. Aki jósolni tudja a hiba nagyságát
és gondolni tud a fontosabb súlyos hibaokokra, nagy előnyben
van.
Tipikus feladatok:
- Régi megfigyelés, hogy a kvantálási torzítás,
sőt, a rendszer nemlinearitása is, nagymértékben
csökkenthető megfelelő ditherrel (a kvantáló
bemenetéhez hozzákevert adott alakú vagy eloszlású
segédjellel), sőt, a megnövekedett variancia is sokszor
kiküszöbölhető. Az alkalmazás azonban például
egy véges bitszámú belső műveletvégzés
esetében nem triviális. A feladat a dither hatásának
vizsgálata számítással és kísérletekkel.
- Az FFT (gyors Fourier transzformáció) széles körben
alkalmazott módszer. Legtöbbször úgynevezett block
float (tömbskálázott) változatát használják,
ahol a műveletek fixpontosak, és túlcsordulás
esetén az egész tömböt transzformáció
közben leskálázzák. A kerekítési
hibák azonban nem, vagy csak részben ismertek. A cél
az FFT kerekítési hibáinak vizsgálata fixpontos
és lebegőpontos esetben.
- Az adaptív algoritmusok különösen érzékenyek
a kerekítési hibákra. Ennek oka az, hogy ahogy a modell
javul, egyre kisebb hibajelet kell feldolgozni, és egyre kisebb
korrekciókat kell alkalmazni. Az egyszerű implementációk
ezért adott korlátnál nem adnak jobb modellt. Megfelelő
módszerekkel (pl. dither alkalmazása) azonban a hiba jelentősen
csökkenthető.
A témacsoport kisebb-nagyobb részeit sokféle szinten
meg lehet oldani, ezért önálló labor feladat(ok)
és diplomaterv-feladat(ok) is választhatók belőle,
és ha valaki akarja, akár doktorandusz-téma is lehet.
Megfelelő előrehaladás esetén együttműködés
elképzelhető a Stanford Egyetem (CA, USA) kutatócsoportjával.