Mathematisch-Naturwissenschaftliche Fakultät

Institut für Mathematik

Fachgebiet: Numerische Mathematik

Betreuer: Prof. Dr. Manfred Tasche



Dipl.-Math. Katja Ihsberner
(e-mail: katja.ihsberner2@uni-rostock.de )

Deterministische und stochastische Rundungsfehleranalysen von schnellen trigonometrischen Algorithmen in Gleitkomma- bzw. Festkomma-Arithmetik

In dieser Dissertation wird eine umfassende und einheitliche Stabilitätsanalyse sowohl in Festkomma- als auch in Gleitkomma-Arithmetik für eine Klasse von schnellen DCT- und DST-Algorithmen durchgeführt, welche auf Faktorisierungen in dünnbesetzte orthogonale Matrizen beruhen und zu den wichtigsten Werkzeugen der digitalen Signalverarbeitung zählen. Neben Untersuchungen für den ungünstigsten Fall (worst case) wird auch jeweils eine stochastische Rundungsfehleranalyse (average case) durchgeführt, die das Verhalten des durchschnittlichen relativen bzw. absoluten Rundungsfehlers abschätzt. Insbesondere für die Festkomma-Arithmetik sind bisher keine Aussagen über den Rundungsfehler bei den DCT und DST bekannt. Neu ist hierbei auch, dass das stochastische Modell für den Rundungsfehler ohne die in der Bildverarbeitung selten gegebene Unkorreliertheit der Eingangsdaten auskommt und nur wenige Informationen über die Verteilung der beteiligten Größen benötigt.

In this thesis, a comprehensive and unified stability analysis for a class of fast DCT and DST algorithms is performed, both for fixed-point and floating-point arithmetic. These algorithms are based on a factorization by sparse orthogonal matrices and belong to the most important tools within digital signal processing. Additionally to worst case analysis, also the average case is considered using stochastic models for the relative and absolute roundoff error. Especially for fixed-point arithmetic, results concerning the roundoff error for DCT- and DST-algorithms are rarely known. Particularly with regard to applications in digital image processing, the stochastic analysis of roundoff error is done without assuming the data to be uncorrelated or independent.