Stochastische Gradientenverfahren zur Optimierung unter Echtzeitbedingungen in der adaptiven Optik

Authors: 
Lüdke, Johannes
Year: 
2012
Language: 
German
Abstract in English: 
This diploma thesis deals with Stochastic Gradient Descent methods of Numerical Optimization for applications in Adaptive Optics. Adaptive Optics is used in particular in the case of propagation of light through turbulent atmosphere to improve the performance of an optical system. It is choosen to consider Simultaneous Perturbation Stochastic Approximation (SPSA) more closely as it fits very well to the real-time-requirements of the application with its low amount of required function evaluations per iteration. In addition to the presentation of the physical background, the well-grounded basis of the theoretical analysis in probability theory is emphasized. The required shapes are given to utilized results of martingale theory and others. As a background, an insight in the theory of deterministic, gradient-free gradient-descent methods will be presented. Convergence of SPSA will be traced back to a convergence theorem for Stochastic Approximation methods by Kushner and Clark. In doing so, initially Spall’s convergence theory was followed. Because of probability theory related considerations however, partially changed conditions have been used. The practical part of this diploma thesis concerns the application of the regarded method in Adaptive Optics using the example of an laboratory set-up. The conditions of the theory are evaluated for the application. For implementing the method as a practical algorithm we go into detail about choice of parameters and extensions. The parameter choice according to Spall is extended with an consideration from the theory of Numerical Differentiation, which leads to a different recommendation for the choice of the gradient-estimation gain sequence. Optimization runs are presented and evaluated, and subsequently we give an outlook to an possible inclusion of SPSA in an adaptive optics system.
Abstract: 
Diese Diplomarbeit befasst sich mit stochastischen Gradientenverfahren als Methoden der numerischen Optimierung für die Anwendung in der adaptiven Optik. Die adaptive Optik wird insbesondere im Fall der Propagation von Licht durch die Atmosphäre zur Verbesserung der Abbildungseigenschaften eines optischen Systems verwendet. Als Verfahren der Wahl wird das Simultaneous Perturbation Stochastic Approximation Verfahren (SPSA-Verfahren) betrachtet, das aufgrund seiner geringen Anzahl von benötigten Zielfunktionsauswertungen pro Iteration sehr gut zu den Echtzeit-Anforderungen der Anwendung passt. Neben der Darstellung des physikalischen Hintergrunds wird Wert auf eine fundierte Verankerung der Analyse der Verfahren in der Wahrscheinlichkeitstheorie gelegt. Die verwendeten Resultate u.a. der Martingaltheorie werden im Rahmen der Arbeit in die benötigte Form gebracht. Als Hintergrund wird ein Einblick in die Theorie der deterministischen, ableitungsfreien Gradientenverfahren gegeben. Die Konvergenz des SPSA-Verfahrens wird auf ein Konvergenztheorem für Stochastic-Approximation-Verfahren von Kushner und Clark zurückgeführt. Dabei wurde in der Konvergenztheorie zunächst Spall gefolgt, aufgrund von wahrscheinlichkeitstheoretischen Überlegungen werden dann aber teilweise geänderte Voraussetzungen verwendet. Der praktische Teil der Arbeit beschäftigt sich mit der Anwendung des Verfahrens in der adaptiven Optik am Beispiel eines Labor-Testsystems. Die Voraussetzungen der Theorie werden für die Anwendung gewürdigt. Zur Umsetzung des Verfahrens in einen konkreten Algorithmus wird auf die Parameterwahl und mögliche Erweiterungen eingegangen. Die Wahl der Parameter nach Spall wird um eine Überlegung aus der Theorie der numerischen Differentiation erweitert, so dass sich eine andere Empfehlung hinsichtlich der Wahl der Schrittweite für die Gradientenschätzung ergibt. Ein Optimierungsdurchgang wird dargestellt und bewertet und anschließend ein Ausblick für die mögliche Verwendung des Verfahrens in einem adaptiv-optischen System gegeben.
Pubdate / Erscheinungsdatum: 
2012-02-23
Pages / Seitenanzahl: 
125
Notes / Bemerkungen: 
Also in DLR-elib: http://elib.dlr.de/75103/
AttachmentSize
diplomarbeit_stochastische_gradientenverfahren_johannes_ludke.pdf7.27 MB