Advanced Concepts for Automatic Differentiation based on Operator Overloading

• Main Author: Kowarz, Andreas
• Other Authors: Technische Universität Dresden, Informatik
• Format: Doctoral Thesis
• Language: English
• Published: Saechsische Landesbibliothek- Staats- und Universitaetsbibliothek Dresden 2008
• Subjects: Automatic Differentiation; Operator Overloading; Activity Analysis; Parallelism; Nested Taping; Automatisches Differenzieren; Operator-Überladung; Aktivitätsanalyse; Parallelisierung; Verschachteltes Taping; ddc:004; rvk:SK 910
• Online Access: http://nbn-resolving.de/urn:nbn:de:bsz:14-ds-1206719130404-22306; http://nbn-resolving.de/urn:nbn:de:bsz:14-ds-1206719130404-22306; http://www.qucosa.de/fileadmin/data/qucosa/documents/827/1206719130404-2230.pdf

Mit Hilfe der Technik des Automatischen Differenzierens (AD) lassen sich für Funktionen, die als Programmquellcode gegeben sind, Ableitungsinformationen rechentechnisch effizient und mit geringem Aufwand für den Nutzer bereitstellen. Eine Variante der Implementierung von AD basiert auf der Überladung von Operatoren und Funktionen, die von vielen modernen Programmiersprachen ermöglicht wird. Durch Ausnutzung des Konzepts der Überladung wird eine interne Funktions-Repräsentation (Tape) generiert, die anschließend für die Ableitungsberechnung herangezogen wird. In der Dissertation werden neue Techniken erarbeitet, die eine effizientere Tape-Erstellung und die parallele Tape-Auswertung ermöglichen. Anhand von Laufzeituntersuchungen für numerische Beispiele werden die Möglichkeiten der neuen Techniken verdeutlicht. === Using the technique of Automatic Differentiation (AD), derivative information can be computed efficiently for any function that is given as source code in a supported programming languages. One basic implementation strategy is based on the concept of operator overloading that is available for many programming languages. Due the overloading of operators, an internal representation of the function can be generated at runtime. This so-called tape can then be used for computing derivatives. In the thesis, new techniques are introduced that allow a more efficient tape creation and the parallel evaluation of tapes. Advantages of the new techniques are demonstrated by means of runtime analyses for numerical examples.