Felelős: Dr. Kollár István R ép. I. 10, 463-1774, kollar@mit.bme.hu

A számítógépek elterjedésével egyre nagyobb a fontossága a kerekítési hibák vizsgálatára szolgáló módszereknek és eszközöknek. Az FFT, a digitális szűrés, a moduláció/demoduláció, az adaptív algoritmusok stb. mind kerekítési hibával terheltek. Még az elterjedt dupla pontosságú lebegőpontos számábrázolás esetén is vannak esetek, ahol a kerekítési hiba kellemetlenül megjelenik. A bemeneti analóg-digitál átalakító pedig annál drágább, minél nagyobb a bitszáma és minél gyorsabb. Aki jósolni tudja a hiba nagyságát és gondolni tud a fontosabb súlyos hibaokokra, nagy előnyben van.

Tipikus feladatok:

• Régi megfigyelés, hogy a kvantálási torzítás, sőt, a rendszer nemlinearitása is, nagymértékben csökkenthető megfelelő ditherrel (a kvantáló bemenetéhez hozzákevert adott alakú vagy eloszlású segédjellel), sőt, a megnövekedett variancia is sokszor kiküszöbölhető. Az alkalmazás azonban például egy véges bitszámú belső műveletvégzés esetében nem triviális. A feladat a dither hatásának vizsgálata számítással és kísérletekkel.
• Az FFT (gyors Fourier transzformáció) széles körben alkalmazott módszer. Legtöbbször úgynevezett block float (tömbskálázott) változatát használják, ahol a műveletek fixpontosak, és túlcsordulás esetén az egész tömböt transzformáció közben leskálázzák. A kerekítési hibák azonban nem, vagy csak részben ismertek. A cél az FFT kerekítési hibáinak vizsgálata fixpontos és lebegőpontos esetben.
• Az adaptív algoritmusok különösen érzékenyek a kerekítési hibákra. Ennek oka az, hogy ahogy a modell javul, egyre kisebb hibajelet kell feldolgozni, és egyre kisebb korrekciókat kell alkalmazni. Az egyszerű implementációk ezért adott korlátnál nem adnak jobb modellt. Megfelelő módszerekkel (pl. dither alkalmazása) azonban a hiba jelentősen csökkenthető.

A témacsoport kisebb-nagyobb részeit sokféle szinten meg lehet oldani, ezért önálló labor feladat(ok) és diplomaterv-feladat(ok) is választhatók belőle, és ha valaki akarja, akár doktorandusz-téma is lehet. Megfelelő előrehaladás esetén együttműködés elképzelhető a Stanford Egyetem (CA, USA) kutatócsoportjával.