Search

In dem Beitrag werden Parallelen aufgezeigt zwischen Verfahren des sog. Deep Learnings im Kontext von künstlicher Intelligenz (KI) und gängigen Ablaufschemata im Bereich qualitativ-rekonstruktiver Verfahren empirischer Sozialforschung: Methodologien wie die Dokumentarische Methode, die Objektive Hermeneutik, die Grounded Theory oder das Narrationsstrukturelle Verfahren haben alle mehr oder weniger nicht methodisierbare Bereiche, auf die mit Begriffen wie Abduktion oder Intuition eingegangen wird. Die Parallele zur KI wird in den sog. Hidden layers gesehen, also den verborgenen Schichten algorithmischer Berechnung bei sprachverarbeitenden Systemen, die von Informatiker*innen ebenfalls nicht oder nur unter unverhältnismäßig großem Aufwand rekonstruiert werden können. Vor diesem Hintergrund werden die angesprochenen qualitativ-rekonstruktiven Methodologien als Verfahren Tiefer Interpretation rekonstruiert und abschließend ein Forschungsprojekt vorgestellt, welches eruiert, inwiefern eine QDA1-Software für das Interpretieren mit der Dokumentarischen Methode (DokuMet QDA2) durch KI unterstützt werden kann. In this article, parallels are shown between procedures of so-called deep learning in the context of artificial intelligence (AI) and common flow schemata in the field of qualitative- reconstructive procedures of empirical social research: methodologies such as the Documentary Method, Objective Hermeneutics, Grounded Theory or the Narrative Structural Approach all have more or less non-methodisable areas, which are addressed with terms such as abduction or intuition. The parallel to AI is seen in the so-called hidden layers, i.e. the hidden layers of algorithmic computation in language-processing systems, which cannot be reconstructed by computer scientists either, or only with disproportionate effort. Against this background, the aforementioned qualitative-reconstructive methodologies are reconstructed as procedures of deep interpretation and, finally, a research project is presented that investigates to what extent a QDA software for interpreting with the documentary method (DokuMet QDA) can be supported by AI.

Wasserstoffbrücken sind relevant für technische Anwendungen, enzymatische Reaktionen, sowie für die Entstehung von Leben auf unserem Planeten. Experimentell können Wasserstoffbrücken bei Temperaturen knapp über dem absoluten Nullpunkt und eingebettet in suprafluidem Helium untersucht werden. Um solche Messungen besser zu verstehen und anzuleiten wurden verschiedene wasserstoffverbrückte Systeme bei Temperaturen um 1 Kelvin mit Hilfe von Quantensimulationen untersucht, wobei Solvatisierung durch suprafluides Helium explizit berücksichtigt wurde. Hierfür wurden die zugrunde liegenden Simulationsmethoden erweitert, um die quantenmechanische Beschreibung der Kerne zu verbessern, sowie mit Hilfe von neuronalen Netzpotenzialen höchste Genauigkeit der Interaktionen zu erreichen. Insgesamt zeigen diese Ergebnisse, wie die Wasserstoffbrückenbindung unter solchen Bedingungen beeinflusst wird und liefert somit neue Erkenntnisse zu dieser fundamentalen Wechselwirkung.

The precise identification of the vehicle pose, which is comprised of the position and orientation within a local or global coordinate system, is a critical backbone module and an essential prerequisite for the safe and responsible operation of automated vehicles. In well-structured environments with low complexity, for example, on highways, series-produced vehicles already operate in an automated manner in specific scenarios using environment perception only. However, the deployment in highly dynamic and urban areas requires sophisticated perception and action planning algorithms to calculate and perform a driving maneuver appropriate to the current situation. For this purpose, the pose is estimated using self-localization approaches, which, combined with accurate digital map information acts as an additional sensor. For example, an intersection that the sensors cannot correctly perceive can be loaded from the digital map, and valuable and required information is extracted accordingly. Then, appropriate trajectories can be planned, which would not be possible without knowing the vehicle's position on the map. Subsequently, localization methods can be divided into several categories, often characterized by the type of map and measurement representation. This thesis focuses on processing pure point cloud-based measurements and landmarks, which means that the environment is represented by two or three-dimensional unordered and unstructured point sets. Traditional filter-based localization methods are well-explored in the literature, matching multi-modal sensor measurements, such as radar, camera, or lidar measurements, with information from a previously acquired high-accuracy digital map to infer the pose. This process requires a so-called association and matching algorithm, which is usually implemented by heuristic or hand-tuned algorithms. The application of deep neural networks has already revolutionized many areas of computer vision, especially the processing of camera-based image information. Based on these advances, this work aims to present state-of-the-art methods in the area of data-based point cloud processing, as well as novel techniques that are applied to landmark-based self-localization. First, this thesis introduces the Point Transformer network architecture, a general method that processes geometric information from three-dimensional point clouds and learns shape and local dependencies. A novel sorting module is presented, which learns a latent feature representation of the input that induces permutation-invariance. Furthermore, the widespread attention mechanism is adapted to deal with the difficult task of processing arbitrary point sets. The network can be applied to solve common computer vision tasks, such as object classification or part segmentation. The second part of this thesis focuses on a deep neural network that adapts well-known and established point cloud processing architectures for vehicle self-localization. Here, two unstructured point sets represent the input, i.e., the landmarks and multi-modal measurements. The goal is to approximate the traditional self-localization task comprised of multiple subtasks such as measurement-to-landmark association and point cloud registration, using a permutation-invariant neural network that processes the landmarks and measurement sets to infer the vehicle's pose. Moreover, different improvements, a novel training strategy, and two system architectures that allow the deployment in real-world scenarios are presented. The methods are evaluated using a dataset creation pipeline that is able to generate automatically labeled data on the fly. Finally, the introduced Point Transformer approach is adapted for self-localization, where high-density lidar point clouds that contain semantic features in addition to geometric information are processed. Again, an automatically generated and annotated dataset is presented for this method that uses state-of-the-art lidar segmentation networks. The evaluation of all methods presented in this thesis is first performed in synthetically generated scenarios, allowing systematic analysis of different influences and interfering factors of the localization task. Subsequently, the methods are evaluated in experiments using real-world data acquired with an automatically operated vehicle. Compared to traditional filter-based localization algorithms, significant improvements in localization accuracy can be achieved, meeting the requirements for safe and reliable automated operation in urban environments., In den vergangenen Jahren haben neue Technologien und Algorithmen im Bereich der Fahrerassistenzsysteme einen starken Anstieg der Funktionalität und Einsatzbereiche ermöglicht, sodass bereits heute in bestimmten Szenarien und in gut strukturierten Umgebungen von geringer Komplexität wie zum Beispiel auf Autobahnen, ein weitestgehend automatisiertes Fahren von Serienfahrzeugen gewährleistet werden kann. Jedoch sind für den sicheren und robusten, voll automatisierten Betrieb in dynamischen Szenarien, beispielsweise in urbanen Bereichen, eine Vielzahl von aufeinander aufbauenden Softwaremodulen und komplexe Prozessketten erforderlich. Dabei ist die hochgenaue Bestimmung der Fahrzeugpose eine grundlegende Voraussetzung und ein essenzieller Bestandteil für die verlässliche und detaillierte Umgebungswahrnehmung, das Situationsverstehen, sowie die Handlungs- und Trajektorienplanung. Im Allgemeinen setzt sich die Fahrzeugpose aus einer zweidimensionalen Position und der Orientierung zusammen, die in einem globalen oder lokalen Koordinatensystem definiert sind. Um ein der aktuellen Situation angemessenes Fahrmanöver zu planen und durchzuführen, wird die Fahrzeupose mit einer Genauigkeit im Zentimeterbereich erwartet, welche durch handelsübliche GPS-Sensorik nicht gewährleistet werden kann. Aus diesem Grund wird die Fahrzeugpose mithilfe von Lokalisierungsalgorithmen geschätzt, indem Sensormessungen und statische Objekte aus einer digitalen Karte, auch Landmarken genannt, miteinander in Beziehung gesetzt werden. So lassen sich beispielsweise relevante Informationen für eine Kreuzung, die von den Sensoren nicht umfassend eingesehen und wahrgenommen werden kann, aus der digitalen Karte laden und für nachgelagerte Algorithmen zur Verfügung stellen. In der Literatur werden Lokalisierungsmethoden üblicherweise in verschiedene Kategorien untergliedert, wobei die Unterscheidung anhand der Darstellung der Karten- und Messinformationen durchgeführt wird. Diese Arbeit konzentriert sich dabei auf die Verarbeitung punktwolkenbasierter Eingangsdaten, was bedeutet, dass die Umgebung durch zwei- oder dreidimensionale, ungeordnete und unstrukturierte Punktmengen dargestellt wird. Weit verbreitet sind traditionelle filterbasierte Lokalisierungsmethoden, die multimodale Sensormessungen wie zum Beispiel Radar-, Kamera- oder Lidarmessungen, mit Informationen aus einer zuvor erstellten hochgenauen digitalen Karte abgleichen, um daraus die Pose abzuleiten. Dieser Prozess erfordert unter anderem einen Assoziationsalgorithmus für die Zuordnung von Messungen und Landmarken, der in der Regel durch heuristische oder manuell eingestellte Algorithmen implementiert wird. Tiefe neuronale Netze haben bereits viele Bereiche des maschinellen Sehens revolutioniert, insbesondere die Verarbeitung von Kamerabildern. Aufbauend auf diesen Fortschritten zielt diese Arbeit darauf ab, neuartige Verfahren im Gebiet der datenbasierten Punkwolkenverarbeitung vorzustellen und diese Methoden für die Selbslokalisierung von automatisierten Fahrzeugen anzupassen. Dafür wird zunächst die Point Transformer Netzwerkarchitektur vorgestellt, wobei es sich um eine allgemeine Methode zur Verarbeitung geometrischer und punktbasierter Eingangsdaten handelt, die lokale Abhängigkeiten zwischen individuellen Punkten berücksichtigt. Das Verfahren adaptiert den weitverbreiteten Attention Mechanismus, um die Verarbeitung von unstrukturierten Punkwolken zu ermöglichen und stellt ein neues Modul vor, welches eine permutationsinvariante Repräsentation der Eingangspunktwolke anhand von gelernten Kernpunkten generiert. Die Netzwerkarchitektur wird auf bekannten 3D Computer Vision Benchmarks evaluiert, wobei vielversprechende Ergebnisse erzielt werden. Der zweite Teil dieser Arbeit beschäftigt sich mit einem Framework aus tiefen neuronalen Netzen, welches etablierte Netzwerkarchitekturen zur Verarbeitung von Punktwolken für die Selbstlokalisierung von automatisierten Fahrzeugen adaptiert. Bei den Verfahren stellen zwei unstrukturierte Punktmengen den Eingang dar, die im Folgenden als Landmarken und Messungen bezeichnet werden. Das Ziel dabei ist es, die lernbasierten Ansätze an traditionelle Formulierungen des Lokalisierungsproblems anzupassen, welche die Lokalisierung in mehrere Teilaufgaben untergliedern. Hierzu gehört zum Beispiel die Assoziation von Landmarken und Messungen und die Registrierung von Punktwolken unter Verwendung eines permutationsinvarianten neuronalen Netzes, um die Pose des Fahrzeugs zu ermitteln. Darüber hinaus werden verschiedene Verbesserungen, neuartige Trainingsstrategien sowie zwei Systemarchitekturen vorgestellt, die den Einsatz der Methoden in realen Szenarien ermöglichen. Für die Evaluation wird eine Prozessierungspipeline vorgestellt, die automatisiert annotierte Daten generiert. Schließlich wird der vorgestellte Point Transformer Ansatz für die Selbstlokalisierung angepasst, wobei dichte Lidar-Punktwolken verarbeitet werden, die zusätzlich zu den geometrischen Informationen auch semantische Merkmale enthalten. Die Evaluierung aller in dieser Arbeit vorgestellten Methoden erfolgt zunächst in einer synthetischen Simulationsumgebung, wodurch eine systematische Analyse von verschiedenen Einflüssen und Störfaktoren auf die Lokalisierungsgenauigkeit ermöglicht wird. Anschließend werden die Verfahren mit realen Daten evaluiert. Im Vergleich zu traditionellen filterbasierten Lokalisierungsalgorithmen können signifikante Verbesserungen der Lokalisierungsgenauigkeit erzielt werden, die den Anforderungen an einen sicheren und zuverlässigen automatisierten Betrieb in urbanen Umgebungen gerecht wird., In reference to IEEE copyrighted material which is used with permission in this thesis, the IEEE does not endorse any of Ulm University’s products or services. Internal or personal use of this material is permitted. If interested in reprinting/republishing IEEE copyrighted material for advertising or promotional purposes or for creating new collective works for resale or redistribution, please go to http://www.ieee.org/ publications standards/publications/rights/rights_link.html to learn how to obtain a License from RightsLink.

Autonomous self-driving cars need a very precise perception system of their environment, working for every conceivable scenario. Therefore, different kinds of sensor types, such as lidar scanners, are in use. This thesis contributes highly efficient algorithms for 3D object recognition to the scientific community. It provides a Deep Neural Network with specific layers and a novel loss to safely localize and estimate the orientation of objects from point clouds originating from lidar sensors. First, a single-shot 3D object detector is developed that outputs dense predictions in only one forward pass. Next, this detector is refined by fusing complementary semantic features from cameras and joint probabilistic tracking to stabilize predictions and filter outliers. The last part presents an evaluation of data from automotive-grade lidar scanners. A Generative Adversarial Network is also being developed as an alternative for target-specific artificial data generation., One of the main objectives of leading automotive companies is autonomous self-driving cars. They need a very precise perception system of their environment, working for every conceivable scenario. Therefore, different kinds of sensor types are in use. Besides cameras, lidar scanners became very important. The development in that field is significant for future applications and system integration because lidar offers a more accurate depth representation, independent from environmental illumination. Especially algorithms and machine learning approaches, including Deep Learning and Artificial Intelligence based on raw laser scanner data, are very important due to the long range and three-dimensional resolution of the measured point clouds. Consequently, a broad field of research with many challenges and unsolved tasks has been established. This thesis aims to address this deficit and contribute highly efficient algorithms for 3D object recognition to the scientific community. It provides a Deep Neural Network with specific layers and a novel loss to safely localize and estimate the orientation of objects from point clouds. First, a single shot 3D object detector is developed that outputs dense predictions in only one forward pass. Next, this detector is refined by fusing complementary semantic features from cameras and a joint probabilistic tracking to stabilize predictions and filter outliers. In the last part, a concept for deployment into an existing test vehicle focuses on the semi-automated generation of a suitable dataset. Subsequently, an evaluation of data from automotive-grade lidar scanners is presented. A Generative Adversarial Network is also being developed as an alternative for target-specific artificial data generation. Experiments on the acquired application-specific and benchmark datasets show that the presented methods compete with a variety of state-of-the-art algorithms while being trimmed down to efficiency for use in self-driving cars. Furthermore, they include an extensive set of standard evaluation metrics and results to form a solid baseline for future research., Eines der Hauptziele führender Automobilhersteller sind autonome Fahrzeuge. Sie benötigen ein sehr präzises System für die Wahrnehmung der Umgebung, dass für jedes denkbare Szenario überall auf der Welt funktioniert. Daher sind verschiedene Arten von Sensoren im Einsatz, sodass neben Kameras u. a. auch Lidar Sensoren ein wichtiger Bestandteil sind. Die Entwicklung auf diesem Gebiet ist für künftige Anwendungen von höchster Bedeutung, da Lidare eine genauere, von der Umgebungsbeleuchtung unabhängige, Tiefendarstellung bieten. Insbesondere Algorithmen und maschinelle Lernansätze wie Deep Learning, die Rohdaten über Lernzprozesse direkt verarbeiten können, sind aufgrund der großen Reichweite und der dreidimensionalen Auflösung der gemessenen Punktwolken sehr wichtig. Somit hat sich ein weites Forschungsfeld mit vielen Herausforderungen und ungelösten Problemen etabliert. Diese Arbeit zielt darauf ab, dieses Defizit zu verringern und effiziente Algorithmen zur 3D-Objekterkennung zu entwickeln. Sie stellt ein tiefes Neuronales Netzwerk mit spezifischen Schichten und einer neuartigen Fehlerfunktion zur sicheren Lokalisierung und Schätzung der Orientierung von Objekten aus Punktwolken bereit. Zunächst wird ein 3D-Detektor entwickelt, der in nur einem Vorwärtsdurchlauf aus einer Punktwolke alle Objekte detektiert. Anschließend wird dieser Detektor durch die Fusion von komplementären semantischen Merkmalen aus Kamerabildern und einem gemeinsamen probabilistischen Tracking verfeinert, um die Detektionen zu stabilisieren und Ausreißer zu filtern. Im letzten Teil wird ein Konzept für den Einsatz in einem bestehenden Testfahrzeug vorgestellt, das sich auf die halbautomatische Generierung eines geeigneten Datensatzes konzentriert. Hierbei wird eine Auswertung auf Daten von Automotive-Lidaren vorgestellt. Als Alternative zur zielgerichteten künstlichen Datengenerierung wird ein weiteres generatives Neuronales Netzwerk untersucht. Experimente mit den erzeugten anwendungsspezifischen- und Benchmark-Datensätzen zeigen, dass sich die vorgestellten Methoden mit dem Stand der Technik messen können und gleichzeitig auf Effizienz für den Einsatz in selbstfahrenden Autos optimiert sind. Darüber hinaus enthalten sie einen umfangreichen Satz an Evaluierungsmetriken und -ergebnissen, die eine solide Grundlage für die zukünftige Forschung bilden.

Artificial intelligence (AI) and the use of neural networks have become omnipresent in recent years. Neural networks model complex mathematical functions that can be based on billions, or even trillions, of parameters. At the same time, neural networks make decisions that can deeply impact our lives. Therefore, understanding, testing, and interpreting these networks and their decisions is an integral part of model development and deployment. While there exist introspection techniques that support such understanding, testing, and interpretation, their adoption for diagnosing systems and explaining decisions can be difficult. Current problems with the adoption of introspection techniques are that they are not easily implemented in one's framework, do not work well in combination to create more meaningful analyses, and are difficult to interpret. Through the integration of existing and novel introspection techniques into visualization interfaces, extensive analysis, actionable insights, and effective diagnosis are made widely available. These visualization interfaces can be incorporated into existing development workflows and are designed to support bespoke analysis needs, which makes the interpretation of findings easier. In this thesis, we present published visualization interfaces in three different areas, namely quality assurance, communication, and AI education. These publications include a visualization approach for correcting mislabeled training data, an interface for automatic network figure generation to communicate network architectures, and an educational environment for recurrent neural networks (RNNs). Finally, to unify the diverse landscape of AI visualization interfaces, we also present a framework for composing, reusing, exploring, and sharing such interactive machine learning (ML) interfaces.

Proteins can specifically bind to curved membranes through curvature-induced hydrophobic lipid packing defects. The chemical diversity among such curvature “sensors” challenges our understanding of how they differ from general membrane “binders” that bind without curvature selectivity. Here, we combine an evolutionary algorithm with coarse-grained molecular dynamics simulations (Evo-MD) to resolve the peptide sequences that optimally recognize the curvature of lipid membranes. We subsequently demonstrate how a synergy between Evo-MD and a neural network (NN) can enhance the identification and discovery of curvature sensing peptides and proteins. To this aim, we benchmark a physics-trained NN model against experimental data and show that we can correctly identify known sensors and binders. We illustrate that sensing and binding are phenomena that lie on the same thermodynamic continuum, with only subtle but explainable differences in membrane binding free energy, consistent with the serendipitous discovery of sensors., Science advances;9(11)

During spaceflight, humans experience a variety of physiological changes due to deviations from familiar earth conditions. Specifically, the lack of gravity is responsible for many effects observed in returning astronauts. These impairments can include structural as well as functional changes of the brain and a decline in cognitive performance. However, the underlying physiological mechanisms remain elusive. Alterations in neuronal activity play a central role in mental disorders and altered neuronal transmission may also lead to diminished human performance in space. Thus, understanding the influence of altered gravity at the cellular and network level is of high importance. Previous electrophysiological experiments using patch clamp techniques and calcium indicators have shown that neuronal activity is influenced by altered gravity. By using multi-electrode array (MEA) technology, we advanced the electrophysiological investigation covering single-cell to network level responses during exposure to decreased (micro-) or increased (hyper-) gravity conditions. We continuously recorded in real-time the spontaneous activity of human induced pluripotent stem cell (hiPSC)-derived neural networks in vitro. The MEA device was integrated into a custom-built environmental chamber to expose the system with neuronal cultures to up to 6 g of hypergravity on the Short-Arm Human Centrifuge at the DLR Cologne, Germany. The flexibility of the experimental hardware set-up facilitated additional MEA electrophysiology experiments under 4.7 s of high-quality microgravity (10–6 to 10–5 g) in the Bremen drop tower, Germany. Hypergravity led to significant changes in activity. During the microgravity phase, the mean action potential frequency across the neural networks was significantly enhanced, whereas different subgroups of neurons showed distinct behaviors, such as increased or decreased firing activity. Our data clearly demonstrate that gravity as an environmental stimulus triggers changes in neuronal activity. Neuronal networks especially reacted to acute changes in mechanical loading (hypergravity) or de-loading (microgravity). The current study clearly shows the gravity-dependent response of neuronal networks endorsing the importance of further investigations of neuronal activity and its adaptive responses to micro- and hypergravity. Our approach provided the basis for the identification of responsible mechanisms and the development of countermeasures with potential implications on manned space missions.

Gefördert im Rahmen des Projekts DEAL

Constantly growing demands on the pollutant emissions and fuel consumption of motor vehicles are, among other things, driving the development of locally emission-free powertrains. The resulting increase in the degree of freedom and complexity of the powertrain, especially in hybrid vehicles, requires new control concepts, also known as control strategies. Researchers agree that efficiency can be further increased by incorporating predictive information into control strategies. This leads to the model predictive control methods, which however are often not real-time capable or only achieve this by linearizing the simplest physical models. The goal of this dissertation is the development of data-based, model predictive methods, which do not contain any linearizations, but nevertheless allow a real-time capable application. After a detailed description of the state of the art, a two-part methodology is described. In the first step, the hybrid powertrain's nonlinear, dynamic process behavior is approximated using system identification methods. Since the common methods of system identification produce insufficient model accuracy due to the complex, dynamically coupled system, an augmented time-delay neural network (TDNN) architecture is proposed. This architecture shows sufficient model accuracy and advantages in computational efficiency, especially with respect to the intended application. The second step of the overall methodology consists of the nonlinear model predictive control. In order to deliver optimal results for the control, the cost function is first established and a suitable optimization algorithm is selected. Furthermore, stabilizing measures are investigated and implemented to ensure the robust operation of the control strategy. To further collateralize the model predictive approach, a redundant, locally optimal control strategy is incorporated. In the next step, the developed methodology is applied in a simulation environment, respecting certification cycles and everyday driving. The new approach is compared with a locally optimal approach. The results show a consumption advantage with a lower number of engine starts in all cycles. In addition, an advantage in driving safety is identified and the real-time capability is evaluated. The fuel consumption and driving safety advantages are contrasted by significant disadvantages in system excitation, model generation, and traceability, among others. This leads to the conclusion that the developed approach should not be pursued in this version. Finally, subsequent research focusing on predictive-adaptive approaches is recommended., Stetig wachsende Anforderungen an die Schadstoffemissionen und den Kraftstoffverbrauch von Kraftfahrzeugen treiben unter anderem die Entwicklung von lokal emissionsfreien Antrieben voran. Die speziell bei Hybridfahrzeugen resultierende Erhöhung des Freiheits- und Komplexitätsgrades des Antriebsstrangs erfordert neuartige Regelungskonzepte beziehungsweise Betriebsstrategien. Die Forschung ist sich einig, dass durch die Berücksichtigung prädiktiver Informationen die Effizienz weiter gesteigert werden kann. Dies führt zu den modellprädiktiven Regelungsmethoden, welche jedoch oftmals nicht echtzeitfähig sind oder dies nur durch die Linearisierung einfachster physikalischer Modelle erreichen. Das Ziel dieser Arbeit ist die Entwicklung datenbasierter, modellprädiktiver Methoden, welche keinerlei Linearisierungen enthalten, aber dennoch eine echtzeitfähige Anwendung ermöglichen. Nach Ausführung der notwendigen Grundlagen folgt die Beschreibung einer zweiteiligen Methodik. Im ersten Schritt wird das nichtlineare, dynamische Prozessverhalten des hybriden Antriebsstrangs mithilfe von Systemidentifikationsmethoden approximiert. Da die gängigen Methoden der Systemidentifikation aufgrund des komplexen, dynamisch gekoppelten Systems unzureichende Modellgenauigkeiten produzieren, wird eine erweiterte Time-Delay-Neural-Network-Architektur vorgeschlagen. Diese weist insbesondere hinsichtlich der beabsichtigten Anwendung eine ausreichende Modellgüte und Vorteile in der Berechnungseffizienz und der Modellstabilität auf. Der zweite Schritt der Gesamtmethodik besteht aus der nichtlinearen modellprädiktiven Regelung. Damit die Regelung anschließend optimale Ergebnisse liefert, wird zuvor deren Bewertungsfunktion aufgestellt und ein geeigneter Optimierungsalgorithmus ausgewählt. Um eine robuste Arbeitsweise der Regelung zu ermöglichen, werden zusätzlich stabilisierende Maßnahmen untersucht und implementiert. Als weitere Absicherung des modellprädiktiven Ansatzes dient eine redundante, lokal optimale Betriebsstrategie. Anschließend folgt die Anwendung der entwickelten Methodik in einer Simulationsumgebung für Zertifizierungszyklen und Alltagsfahrten. Die Methodik wird mit einem lokal optimalen Ansatz verglichen. Die Ergebnisse zeigen bei allen Zyklen einen Verbrauchsvorteil bei geringerer Anzahl von Motorstarts auf. Zudem werden Vorteile in der Fahrsicherheit erkannt und die Echtzeitfähigkeit wird evaluiert. Den Verbrauchs- und Fahrsicherheits-Vorteilen stehen signifikante Nachteile unter anderem in der Systemanregung, der Modellgenerierung und der Nachvollziehbarkeit gegenüber. Dies führt zum Schluss, den entwickelten Ansatz in dieser Ausführung nicht weiterzuverfolgen. Schlussendlich werden anknüpfende Forschungen mit prädiktiv-adaptiven Ansätzen empfohlen. Die entwickelten Systemidentifikationsmethoden können jedoch bei anderen Anwendungen bedeutende Möglichkeiten eröffnen.

Genetische Störungen stellen eine große Herausforderung für die medizinische Diagnose und Behandlung dar, insbesondere in der pädiatrischen Bevölkerung. Diese Forschungsarbeit konzentriert sich auf die Entwicklung eines Algorithmus für maschinelles Lernen zur Vorhersage genetischer Störungen auf der Grundlage der medizinischen Daten von Patienten. Die Forschung analysiert einen umfassenden Datensatz von etwa 22.000 Patienten unter 14 Jahren, der von Kaggle.com stammt. Der Datensatz zeigt verschiedene Arten von genetischen Störungen, darunter multifaktorielle genetische Störungen (Diabetes, Krebs), mitochondriale genetische Störungen (Leigh-Syndrom, LHON) und Krankheiten mit Einzelgenvererbung (zystische Fibrose). Außerdem wurde festgestellt, dass genetische Störungen in der Regel von der mütterlichen Seite der Familie vererbt werden. Mitochondriale genetische Erbkrankheiten machten etwa 55,9 % der identifizierten genetischen Defekte aus, während Krankheiten mit Einzelgenvererbung 34,7 % und multifaktorielle genetische Krankheiten 9,4 % ausmachten. Durch die Verwendung der trainierten Modelle, Support Vector Machine (SVM) und des Algorithmus eines neuronalen Netzes, wurden in der Studie erfolgreich Vorhersagemodelle für die Diagnose genetischer Krankheiten erstellt, die vielversprechende Ergebnisse lieferten. Diese Forschung zeigt das Potenzial des maschinellen Lernens bei der Vorhersage genetischer Erkrankungen anhand medizinischer Patientendaten. Die Ergebnisse bieten Einblicke in die Prävalenz verschiedener Arten von genetischen Störungen und deren Vererbungsmuster, was sich erheblich auf die Patientenversorgung, die Prognose und die Behandlungsplanung auswirken kann. Die weitere Erforschung und Verfeinerung der Modelle können zu verbesserten diagnostischen Möglichkeiten und personalisierten Ansätzen für die Behandlung genetischer Störungen bei pädiatrischen Patienten führen. Genetic disorders pose significant challenges to medical diagnosis and treatment, particularly in the pediatric population. This research focuses on the development of a machine learning algorithm to predict genetic disorders based on patient medical history. The research analyzes a comprehensive dataset of approximately 22,000 patients below the age of 14, obtained from Kaggle.com. The dataset shows various types of genetic disorders, including multifactorial genetic disorders (Diabetes, Cancer), mitochondrial genetic disorders (Leigh Syndrome, LHON) and single-gene inheritance diseases (Cystic Fibrosis). Furthermore, it was noted that genetic disorders tend to be transmitted through the maternal lineage. Mitochondrial genetic inheritance disorders accounted for approximately 55,9% of the identified genetic defects, while single-gene inheritance diseases constituted 34,7%, and multifactorial genetic diseases constituted 9,4%. By using the trained models, Support Vector Machine (SVM) and the Neural Network algorithm, the study successfully creates predictive models for genetic disease diagnosis, which demonstrated promising results. This research showcases the potential of machine learning in predicting genetic disorders using patient medical data. The findings are offering insights into the prevalence of different types of genetic disorders and their patterns of inheritance, which can significantly impact patient care, prognosis, and treatment planning. Further research and refinement of the models may lead to enhanced diagnostic capabilities and personalized approaches to managing genetic disorders in pediatric patients.

Moderne Technologien erzeugen immer größere Datenmengen. Einerseits geht es bei hochdimensionalen Statistiken um den Einsatz von Regularisierung, um statistische Garantien zu verbessern. Andererseits sind auch rechnerische Aspekte von regularisierten Schätzern wichtig. Typischerweise werden die statistischen und rechnerischen Aspekte getrennt behandelt. In dieser Arbeit schlagen wir einen Ansatz vor, um diese beiden Aspekte im Kontext einer regularisierten Schätzung in einem Regressionssetting zu vereinen. Dann bewegen wir uns in Richtung komplexerer Modelle, die als "neuronale Netze" bezeichnet werden. In dieser Arbeit entwickeln wir eine allgemeine statistische Garantie für Schätzer, die aus einem Term der kleinsten Quadrate und einem Regularisierer bestehen. Wir entwickeln statistische Garantien für einfache neuronale Netze, die bis auf logarithmische Faktoren mit den globalen Optima übereinstimmen, aber für stationäre Punkte und die Punkte in der Nähe gelten.

Model predictive control (MPC) has established itself as the standard method for the control of complex nonlinear systems due to its ability to directly consider constraints and uncertainties while optimizing a control objective. However, the application of MPC requires repeatedly solving an optimal control problem online which can be computationally prohibitive, especially for large systems, for systems with very high control sampling rates and for the implementation on embedded hardware. This thesis presents deep neural networks (DNNs) as a means of enabling the implementation of MPC algorithms when computation power is limited. The expressive capabilities of DNNs are leveraged to closely approximate the control law implicitly defined by the MPC problem. For the online application only evaluating the DNN, an explicit function consisting of simple arithmetic operations, is required. This results in speed-ups of several orders of magnitude in comparison to solving the MPC problem online. Throughout the thesis, we shed light onto various aspects that enable and motivate the usage of DNNs as safe approximate MPC laws. Approaches to modify a DNN after an initial learning phase such that the closed-loop performance is improved are proposed. Further, methods that enable the analysis of the closed-loop behavior to obtain both deterministic and probabilistic guarantees on the online operation regarding safety, performance and stability are presented. The efficacy of the proposed approaches is investigated for a wide range of case studies including a polymerization reactor of industrial complexity. The analysis shows that the DNN controllers do not only outperform other approximate MPC approaches in terms of control performance, memory footprint and evaluation times, but that DNN controllers can even outperform the exact optimization-based MPCs when ideas from reinforcement learning are used. Further it is shown that the DNN controllers can be deployed on embedded hardware such as microcontrollers with small effort., Modelprädiktive Regelung (kurz: MPC) hat sich als die Standard-Methode zur Regelung von komplexen nichtlinearen System etabliert, da es erlaubt Beschränkungen und Unsicherheiten direkt zu berücksichtigen und zeitgleich eine Zielfunktion zu optimieren. Dafür muss jedoch wiederholt ein Optimierungsproblem online gelöst werden. Dies verhindert die Anwendung von MPC, wenn die Hardware nicht die nötige Rechenleistung aufbringt zur Berechnung einer Lösung innerhalb eines Zeitschritts. In dieser Dissertation werden tiefe neuronale Netzwerke (kurz: DNNs) eingeführt als eine Möglichkeit, um MPC-Algorithmen auf leistungsschwacher Hardware zu realisieren. Dabei werden die repräsentativen Fähigkeiten von tiefen neuronalen Netzwerken genutzt, um das Regelgesetz, das implizit vom MPC-Optimierungsproblem definiert wird, zu approximieren. Der approximative DNN-Regler kann mehrere Grössenordnungen schneller evaluiert werden als der optimierungs-basierte Regler, da das DNN eine explizite Funktion bestehend aus simplen arithmetischen Operationen darstellt. Im Laufe der Dissertation werden verschiedenste Aspekte, die die Nutzung von DNNs als effiziente approximative MPC-Regler ermöglichen und motivieren, vorgestellt. Dazu gehören Methoden zur Modifizierung eines gelernten DNN-Reglers, sodass die Performance optimiert wird, und Ansätze zur Analyse des geschlossenen Regelkreises, die es ermöglichen sowohl probabilistische als auch deterministische Garantien bezüglich Sicherheit, Performance und Stabilität zu erhalten. Die Effektivität des vorgestellten Ansatzes wird für eine Vielzahl an Fallstudien untersucht, unter anderem für einen Polymerisationsreaktor von industrieller Komplexität. Die Untersuchungen zeigen, dass DNNs nicht nur andere approximative MPC Methoden übertreffen bezüglich Regel-Performance, Speicherbedarf und Ausführzeiten, sondern auch den ursprünglichen exakten MPC-Ansatz übertreffen können, wenn Ideen aus dem Bereich des bestärkenden Lernens genutzt werden. Zusätzlich wird gezeigt, dass die gelernten Regler mit wenig Aufwand auf eingebetteten Plattformen wie Micro-Controllern implementiert werden können.

In dieser Dissertation werden lernende Verfahren zur Gesten- und Kochklassifikation mittels Radarsensorik vorgestellt. Die Verfahren umfassen zum einen die Klassifikation der Radardaten mithilfe verschiedener tiefer neuronaler Netzwerke. Zum anderen wird ein kognitives Radar vorgestellt, bei dem das Radar adaptiv auf die Szene reagieren und die Messparameter entsprechend anpassen kann. Die Verfahren werden anhand der Anwendung Kochsensor evaluiert. Der Kochsensor ist ein 120GHz FMCW-Radar, das oberhalb eines Kochfelds angebracht ist und die aktive Kochposition, verschiedene Steuergesten und das Kochen selbst klassifiziert. Auf diese Weise wird ein Überkochschutz realisiert. Die in dieser Arbeit erforschten Verfahren zeigen verschiedene Klassifikationsmöglichkeiten anhand von Range-Doppler-Matrix-Daten auf. Zunächst erfolgt die Klassifikation mit einer einzelnen Messung (Einzelbild-Klassifikation). Dieses Verfahren zeigt speziell bei dynamischen Klassen, wie den Gesten oder dem Kochen, Schwächen. Deutlich bessere Ergebnisse zeigt die Sequenz-Klassifikation, bei der eine Sequenz von Messungen mithilfe netzwerkinterner Speicher ausgewertet wird. Ein ähnlich gutes Ergebnis wird erreicht, wenn bei der Einzelbild-Klassifikation zusätzliche Sensormodalitäten zum Trainieren des Klassifikationsnetzwerks herangezogen werden. Bei diesem sogenannten Cross Learning werden die zusätzlichen Sensoren, wie eine Wärmebildkamera, allerdings nur zum Trainieren und nicht zur Klassifikation in der Anwendung benötigt. Ein weiteres lernendes Verfahren ist das Reinforcement Learning, das dem Radar ein kognitives Verhalten erlaubt. Das Radar kann adaptiv auf die Szene reagieren und die adaptiven Messparameter optimal wählen.

In recent years, with the advent of highly scalable artificial-neural-network-based text representation methods the field of natural language processing has seen unprecedented growth and sophistication. It has become possible to distill complex linguistic information of text into multidimensional dense numeric vectors with the use of the distributional hypothesis. As a consequence, text representation methods have been evolving at such a quick pace that the research community is struggling to retain knowledge of the methods and their interrelations. We contribute threefold to this lack of compilation, composition, and systematization by providing a survey of current approaches, by arranging them in a genealogy, and by conceptualizing a taxonomy of text representation methods to examine and explain the state-of-the-art. Our research is a valuable guide and reference for artificial intelligence researchers and practitioners interested in natural language processing applications such as recommender systems, chatbots, and sentiment analysis., Published online in IEEE Access

Machine learning models for classification and segmentation typically use loss functions based on binary or categorical cross entropy (BCE/CCE). Recent work has pointed out that cross entropy is not always optimal for maximizing accuracy of classification models. Instead, power error loss has been suggested as a generalization of BCE employing a power error exponent parameter q that can be adapted to output error distributions. In this paper we apply the power error loss to classification and segmentation using Convolutional Neural Network and a variant of DeepLabV3+. In line with previous findings, classification and segmentation performance can be improved significantly by using an appropriate fixed q. While previous works have found improvements mainly for q>1, here we report also cases where optimal q is, publishedVersion

This work studies receding-horizon control of discrete-time switched linear systems subject to polytopic constraints for the continuous states and inputs. The objective is to approximate the optimal receding-horizon control strategy for cases in which the online computation is intractable due to the necessity of solving mixed-integer quadratic programs in each discrete time instant. The proposed approach builds upon an approximated optimal finite-horizon control law in closed-loop form with guaranteed constraint satisfaction. The paper derives the properties of recursive feasibility and asymptotic stability for the proposed approach. A numerical example is provided for illustration and evaluation of the approach.

Bisher wurden tiefe neuronale Netzwerkmodelle (DNN) in der Objekterkennung eingesetzt, jedoch könnten DNNs ein nützliches Instrument für neuronale Gedächtnisrepräsentationen sein. Mithilfe multivariater Methoden kombinierten wir Modellmerkmale und Gehirnaktivitätsmuster. Encoding Modelle auf ultra-hochauflösendem-fMRT zeigten einen analogen Komplexitätsgradienten in DNN und Gehirn. DNNs zeigten eine Transformation von perzeptuellen zu konzeptuellen Formaten während des visuellen Kurzzeitgedächtnisses, der Konsolidierung und des Abrufs im intrakraniellen EEG und Verhalten. Die Untersuchung komplexer visueller Inputs in Form von Emotionen mittels trauma-analogen Videos zeigte eine höhere Generalisierung von perzeptuellen und konzeptuellen Formaten. Insgesamt zeigt diese Arbeit, dass visuelle DNNs in Kombination mit semantischen DNNs Repräsentationsformate des Gedächtnisses wiedergeben und als Instrument zur Untersuchung von Gedächtnisrepräsentationen eingesetzt werden können., Previous research employed deep neural network models (DNN) to study object recognition, though DNNs might offer a powerful framework to study neural representations in beyond vision. Using multivariate methods, we combined model feature representations and brain activity patterns across multiple stages of memory. Encoding models on ultra-high field fMRI revealed an analogue gradient in complexity in DNN and the brain. DNNs revealed a shift from perceptual to conceptual processing formats during visual-short-term memory, consolidation, and retrieval in intracranial EEG and behavior. Investigating complex visual inputs in form of emotions using to trauma-analogue videos, DNN models demonstrated higher generalization of perceptual and conceptual features. Overall, this work demonstrates that vision DNN models accurately reflect memory representational formats, when combined with semantic language models, and can be used as a powerful tool to study memory.

Die Vorhersage der Druckfestigkeit von Beton war schon immer schwierig, da der Beton sehr empfindlich auf seine Ingredienzen, Mischverfahren, Verdichtung, Aushärtungszustand usw. reagiert. Für das Schätzen von der Druckfestigkeit gibts es unterschiedliche Herangehensweisen sowohl erfolgreiche als auch solche die gescheitert sind. In dieser Arbeit werden verschiedene Ergebnisse von Modellen verglichen und ausgewertet, welche mit Hilfe von künstlicher Intelligenz erstellt worden sind. Die Eingangsparameter des Modells werden im Vorhinein verarbeitet, um das Modell effizient trainieren zu können. Anschließend wird das wirksamste Modell in eine Anwendung mit Benutzeroberfläche implementiert, sodass die Anwendung auf einem persönlichen Rechner bedient werden kann. *****The prediction of compressive strength from concrete has always been difficult. Regarding that concrete is very sensitive to its ingredients, mixing method, compaction, curing state etc. For prediction there are many approaches that have been successful and unsuccessful. In this work, various results of different artificial models are trained and evaluated. Before training, the input parameters are preprocessed in order to get the model work precisely. Then the most efficient model will be implemented in an application with a graphical user interface so that the application can be operated on a personal computer easily.

Machine learning and deep learning present a set of powerful modeling approaches, that in recent years have shown significant improvements across different fields of application. In the discipline of actuarial science, so far comparably little work has been done to explore these methods across the variety of different use cases. The present, cumulative thesis contributes to the field of applied machine and deep learning, as well as actuarial science. The research papers included in this work each address one specific, actuarial application, namely the grouping of insurance contracts, the modeling and analysis of surrender in life insurance and the calibration of hidden, inhomogeneous Markov chains. In each paper, building upon a theoretical framework, we develop application-specific models which are then tested for practical data. Overall, this thesis provides valuable insight on the applicability and benefit of machine and deep learning for distinct actuarial challenges and points out promising directions for future research.

We present a novel long short-term memory (LSTM) approach for time-series prediction of the sand demand which arises from preparing the sand moulds for the iron casting process of a foundry. With our approach, we contribute to qualify LSTM and its combination with feedback-corrected optimal scheduling for industrial processes. The sand is produced in an energy intensive mixing process which is controlled by optimal scheduling. The optimal scheduling is solved for a fixed prediction horizon. One major influencing factor is the sand demand, which is highly disturbed, for example due to production interruptions. The causes of production interruptions are in general physically unknown. We assume that information about the future behavior of the sand demand is included in current and past process data. Therefore, we choose LSTM networks for predicting the time-series of the sand demand. The sand demand prediction is performed by our multi model approach. This approach outperforms the currently used naive estimation, even when predicting far into the future. Our LSTM based prediction approach can forecast the sand demand with a conformity up to 38 % and a mean value accuracy of approximately 99%. Simulating the optimal scheduling with sand demand prediction leads to an improvement in energy savings of approximately 1.1% compared to the naive estimation. The application of our novel approach at the real production plant of a foundry proves the simulation results and verifies the capability of our approach.

Radar-based gesture recognition can provide autonomous electronic systems with a reliable way to infer a human’s intention, e.g. in traffic environments involving vulnerable road users (VRUs). Particularly in complex scenarios, algorithms operating on radar target lists derived from constant false-alarm rate (CFAR) outputs present an attractive solution, as they not only enable the filtering of relevant targets but can also make full use of the diverse, high-resolution target parameters provided by modern radar sensors. Therefore, this paper proposes PointNet+LSTM for the enhanced target list-based recognition of challenging traffic gestures, combining per-frame feature extraction with PointNet and learning from sequences with a long short-term memory (LSTM). The approach is generalized to facilitate the use of multistatic radar data from sensor networks to exploit slightly different viewing angles, which is particularly helpful for motions with low radial velocity. The proposed method is validated on a comprehensive dataset comprising eight traffic gestures and data recorded from 35 participants. Measurements are conducted both indoors and outdoors with an incoherent radar sensor network comprising three chirp sequence (CS)-multiple-input multiple-output (MIMO) sensors. On this challenging dataset, our approach clearly outperforms a reference convolutional neural network (CNN), reaching up to 92.2% cross-validation accuracy., acceptedVersion

Since the reliability of production plans drops largely within several days after plan creation, production control faces huge challenges, when trying to foresee the work in progress (WIP) level at bottleneck machines and trying to react appropriately. Whereas several researchers applied artificial intelligence to predict lead times or transition times to improve the planning reliability, only small efforts have been taken on time series prediction in the field of production control, especially on the topic WIP prediction. In this paper univarate times series approaches are used for predicting the work in progress for a bottleneck machine for one and more step ahead. Long short-term memory recurrent neural networks, LSMT models show higher accuracy than classical methods. For more step ahead forecasting four different approaches are investigated. Systematical model tuning and comparison of various error measures are presented for a real industrial use case from the steal manufacturing industry.

This thesis addresses the design and verification of a multilayer perceptron (MLP) and the corresponding optimization algorithm, the batch gradient descent (BGD), on a FPGA using high level synthesis (HLS) for Xilinx devices. The solutions developed in this project are used in a reinforcement learning environment for the control of power electronic systems. The thesis briefly presents the principle of reinforcement learning, a mathematical description of the MLP and the BGD as well as programming techniques for HLS. The structure of the solutions and performance examinations are presented in the results part of the thesis. The project delivers functionally verified solutions for the execution on a FPGA. The solutions are able to process a three layer MLP with 16 inputs and outputs and 128 neurons in the hidden layer in 2,361 clock cycles at 100 MHz clock frequency which results in a runtime of 23.6 µs. The corresponding BGD for one training example features a minimum runtime of 13,141 clock cycles or 1,314 µs. However, performance is expected to further improve after resolving several issues described in the thesis.

Generative adversarial networks (GANs) can synthesize high-contrast MRI from lower-contrast input. Targeted translation of parenchymal lesions in multiple sclerosis (MS), as well as visualization of model confidence further augment their utility, provided that the GAN generalizes reliably across different scanners. We here investigate the generalizability of a refined GAN for synthesizing high-contrast double inversion recovery (DIR) images and propose the use of uncertainty maps to further enhance its clinical utility and trustworthiness. A GAN was trained to synthesize DIR from input fluid-attenuated inversion recovery (FLAIR) and T1w of 50 MS patients (training data). In another 50 patients (test data), two blinded readers (R1 and R2) independently quantified lesions in synthetic DIR (synthDIR), acquired DIR (trueDIR) and FLAIR. Of the 50 test patients, 20 were acquired on the same scanner as training data (internal data), while 30 were scanned at different scanners with heterogeneous field strengths and protocols (external data). Lesion-to-Background ratios (LBR) for MS-lesions vs. normal appearing white matter, as well as image quality parameters were calculated. Uncertainty maps were generated to visualize model confidence. Significantly more MS-specific lesions were found in synthDIR compared to FLAIR (R1: 26.7 ± 2.6 vs. 22.5 ± 2.2 p < 0.0001; R2: 22.8 ± 2.2 vs. 19.9 ± 2.0, p = 0.0005). While trueDIR remained superior to synthDIR in R1 [28.6 ± 2.9 vs. 26.7 ± 2.6 (p = 0.0021)], both sequences showed comparable lesion conspicuity in R2 [23.3 ± 2.4 vs. 22.8 ± 2.2 (p = 0.98)]. Importantly, improvements in lesion counts were similar in internal and external data. Measurements of LBR confirmed that lesion-focused GAN training significantly improved lesion conspicuity. The use of uncertainty maps furthermore helped discriminate between MS lesions and artifacts. In conclusion, this multicentric study confirms the external validity of a lesion-focused Deep-Learning tool aimed at MS imaging. When implemented, uncertainty maps are promising to increase the trustworthiness of synthetic MRI., publishedVersion

The proceedings on “Programmable Processing for the Autonomous / Connected Vehicle” contains the contributions of the 4th workshop on this topic. The most recent achievements in the fields of processing technologies, digital systems design, challenges and applications for the Autonomous and Connected Vehicle are addressed. The covered topics are an active area of research and development in both academia and industry and includes FPGA and SoC design aspects for functional safety, Gbps gateways, ADAS image signal processing, ADAS/AD system architectures, AI-core, AI-Engine Architecture, design flow, neural networks for gesture recognition, HW-aware perception of neural networks and automotive security and the corresponding standards.

Many recently published research papers examine the representation of nanostructures and biomimetic materials, especially using mathematical methods. For this purpose, it is important that the mathematical method is simple and powerful. Theory of fractals, artificial neural networks and graph theory are most commonly used in such papers. These methods are useful tools for applying mathematics in nanostructures, especially given the diversity of the methods, as well as their compatibility and complementarity. The purpose of this paper is to provide an overview of existing results in the field of electrochemical and magnetic nanostructures parameter modeling by applying the three methods that are “easy to use”: theory of fractals, artificial neural networks and graph theory. We also give some new conclusions about applicability, advantages and disadvantages in various different circumstances., publishedVersion

Diese Dissertation befasst sich mit dem Problem der Trennung von Musikquellen durch den Einsatz von deep learning Methoden. Die auf deep learning basierende Trennung von Musikquellen wird unter drei Gesichtspunkten untersucht. Diese Perspektiven sind: die Signalverarbeitung, die neuronale Architektur und die Signaldarstellung. Aus der ersten Perspektive, soll verstanden werden, welche deep learning Modelle, die auf DNNs basieren, f��r die Aufgabe der Musikquellentrennung lernen, und ob es einen analogen Signalverarbeitungsoperator gibt, der die Funktionalit��t dieser Modelle charakterisiert. Zu diesem Zweck wird ein neuartiger Algorithmus vorgestellt. Der Algorithmus wird als NCA bezeichnet und destilliert ein optimiertes Trennungsmodell, das aus nicht-linearen Operatoren besteht, in einen einzigen linearen Operator, der leicht zu interpretieren ist. Aus der zweiten Perspektive, soll eine neuronale Netzarchitektur vorgeschlagen werden, die das zuvor erw��hnte Konzept der Filterberechnung und -optimierung beinhaltet. Zu diesem Zweck wird die als Masker and Denoiser (MaD) bezeichnete neuronale Netzarchitektur vorgestellt. Die vorgeschlagene Architektur realisiert die Filteroperation unter Verwendung skip-filtering connections Verbindungen. Zus��tzlich werden einige Inferenzstrategien und Optimierungsziele vorgeschlagen und diskutiert. Die Leistungsf��higkeit von MaD bei der Musikquellentrennung wird durch eine Reihe von Experimenten bewertet, die sowohl objektive als auch subjektive Bewertungsverfahren umfassen. Abschlie��end, der Schwerpunkt der dritten Perspektive liegt auf dem Einsatz von DNNs zum Erlernen von solchen Signaldarstellungen, f��r die Trennung von Musikquellen hilfreich sind. Zu diesem Zweck wird eine neue Methode vorgeschlagen. Die vorgeschlagene Methode verwendet ein neuartiges Umparametrisierungsschema und eine Kombination von Optimierungszielen. Die Umparametrisierung basiert sich auf sinusf��rmigen Funktionen, die interpretierbare DNN-Darstellungen f��rdern. Der durchgef��hrten Experimente deuten an, dass die vorgeschlagene Methode beim Erlernen interpretierbarer Darstellungen effizient eingesetzt werden kann, wobei der Filterprozess noch auf separate Musikquellen angewendet werden kann. Die Ergebnisse der durchgef��hrten Experimente deuten an, dass die vorgeschlagene Methode beim Erlernen interpretierbarer Darstellungen effizient eingesetzt werden kann, wobei der Filterprozess noch auf separate Musikquellen angewendet werden kann. Dar��ber hinaus der Einsatz von optimal transport (OT) Entfernungen als Optimierungsziele sind f��r die Berechnung additiver und klar strukturierter Signaldarstellungen., This thesis addresses the problem of music source separation using deep learning methods. The deep learning-based separation of music sources is examined from three angles. These angles are: the signal processing, the neural architecture, and the signal representation. From the first angle, it is aimed to understand what deep learning models, using deep neural networks (DNNs), learn for the task of music source separation, and if there is an analogous signal processing operator that characterizes the functionality of these models. To do so, a novel algorithm is presented. The algorithm, referred to as the neural couplings algorithm (NCA), distills an optimized separation model consisting of non-linear operators into a single linear operator that is easy to interpret. Using the NCA, it is shown that DNNs learn data-driven filters for singing voice separation, that can be assessed using signal processing. Moreover, by enabling DNNs to learn how to predict filters for source separation, DNNs capture the structure of the target source and learn robust filters. From the second angle, it is aimed to propose a neural network architecture that incorporates the aforementioned concept of filter prediction and optimization. For this purpose, the neural network architecture referred to as the Masker-and-Denoiser (MaD) is presented. The proposed architecture realizes the filtering operation using skip-filtering connections. Additionally, a few inference strategies and optimization objectives are proposed and discussed. The performance of MaD in music source separation is assessed by conducting a series of experiments that include both objective and subjective evaluation processes. Experimental results suggest that the MaD architecture, with some of the studied strategies, is applicable to realistic music recordings, and the MaD architecture has been considered one of the state-of-the-art approaches in the Signal Separation and Evaluation Campaign (SiSEC) 2018. Finally, the focus of the third angle is to employ DNNs for learning signal representations that are helpful for separating music sources. To that end, a new method is proposed using a novel re-parameterization scheme and a combination of optimization objectives. The re-parameterization is based on sinusoidal functions that promote interpretable DNN representations. Results from the conducted experimental procedure suggest that the proposed method can be efficiently employed in learning interpretable representations, where the filtering process can still be applied to separate music sources. Furthermore, the usage of optimal transport (OT) distances as optimization objectives is useful for computing additive and distinctly structured signal representations for various types of music sources.

Die Bildung der Augen f��hrte zum Urknall der Evolution. Die Dynamik ��nderte sich von einem primitiven Organismus, der auf den Kontakt mit der Nahrung wartete, zu einem Organismus, der durch visuelle Sensoren gesucht wurde. Das menschliche Auge ist eine der raffiniertesten Entwicklungen der Evolution, aber es hat immer noch M��ngel. Der Mensch hat ��ber Millionen von Jahren einen biologischen Wahrnehmungsalgorithmus entwickelt, der in der Lage ist, Autos zu fahren, Maschinen zu bedienen, Flugzeuge zu steuern und Schiffe zu navigieren. Die Automatisierung dieser F��higkeiten f��r Computer ist entscheidend f��r verschiedene Anwendungen, darunter selbstfahrende Autos, Augmented Realit��t und architektonische Vermessung. Die visuelle Nahfeldwahrnehmung im Kontext von selbstfahrenden Autos kann die Umgebung in einem Bereich von 0 - 10 Metern und 360�� Abdeckung um das Fahrzeug herum wahrnehmen. Sie ist eine entscheidende Entscheidungskomponente bei der Entwicklung eines sichereren automatisierten Fahrens. J��ngste Fortschritte im Bereich Computer Vision und Deep Learning in Verbindung mit hochwertigen Sensoren wie Kameras und LiDARs haben ausgereifte L��sungen f��r die visuelle Wahrnehmung hervorgebracht. Bisher stand die Fernfeldwahrnehmung im Vordergrund. Ein weiteres wichtiges Problem ist die begrenzte Rechenleistung, die f��r die Entwicklung von Echtzeit-Anwendungen zur Verf��gung steht. Aufgrund dieses Engpasses kommt es h��ufig zu einem Kompromiss zwischen Leistung und Laufzeiteffizienz. Wir konzentrieren uns auf die folgenden Themen, um diese anzugehen: 1) Entwicklung von Nahfeld-Wahrnehmungsalgorithmen mit hoher Leistung und geringer Rechenkomplexit��t f��r verschiedene visuelle Wahrnehmungsaufgaben wie geometrische und semantische Aufgaben unter Verwendung von faltbaren neuronalen Netzen. 2) Verwendung von Multi-Task-Learning zur ��berwindung von Rechenengp��ssen durch die gemeinsame Nutzung von initialen Faltungsschichten zwischen den Aufgaben und die Entwicklung von Optimierungsstrategien, die die Aufgaben ausbalancieren., The formation of eyes led to the big bang of evolution. The dynamics changed from a primitive organism waiting for the food to come into contact for eating food being sought after by visual sensors. The human eye is one of the most sophisticated developments of evolution, but it still has defects. Humans have evolved a biological perception algorithm capable of driving cars, operating machinery, piloting aircraft, and navigating ships over millions of years. Automating these capabilities for computers is critical for various applications, including self-driving cars, augmented reality, and architectural surveying. Near-field visual perception in the context of self-driving cars can perceive the environment in a range of 0 - 10 meters and 360�� coverage around the vehicle. It is a critical decision-making component in the development of safer automated driving. Recent advances in computer vision and deep learning, in conjunction with high-quality sensors such as cameras and LiDARs, have fueled mature visual perception solutions. Until now, far-field perception has been the primary focus. Another significant issue is the limited processing power available for developing real-time applications. Because of this bottleneck, there is frequently a trade-off between performance and run-time efficiency. We concentrate on the following issues in order to address them: 1) Developing near-field perception algorithms with high performance and low computational complexity for various visual perception tasks such as geometric and semantic tasks using convolutional neural networks. 2) Using Multi-Task Learning to overcome computational bottlenecks by sharing initial convolutional layers between tasks and developing optimization strategies that balance tasks.

Der Anstieg intermittierender Stromerzeugung aus erneuerbaren Energiequellen erschwert zunehmend einen effizienten und zuverlässigen Betrieb der Versorgungsnetze. Gleichzeitig steigt die Zahl der Elektrofahrzeuge, die zum Aufladen erhebliche Mengen an elektrischer Energie benötigen, rapide an. Energie- und Mobilitätssektor sind somit unweigerlich miteinander verbunden, was zur Folge hat, dass zuverlässige Elektromobilität von einer robusten Stromversorgung abhängt. Darüber hinaus empfinden Fahrzeugnutzer ihre individuelle Mobilität als eingeschränkt, da Elektrofahrzeuge im Vergleich zu Fahrzeugen mit Verbrennungsmotor derzeit eine geringere Reichweite aufweisen und mehr Zeit zum Aufladen benötigen. In der vorliegenden Arbeit wird daher ein neuartiges Konzept sowie eine Softwareanwendung (Ladeassistent) vorgestellt, die den Nutzer beim Laden seines Elektrofahrzeuges unterstützt und dabei die Interessen aller beteiligten Akteure berücksichtigt. Dafür werden zunächst Gestaltungsmerkmale möglicher Softwarearchitekturen verglichen, um eine geeignete Struktur von Modulen und deren Verknüpfung zu definieren. Anschließend werden anhand realer Daten sowohl Energieverbrauchs- als auch Batteriemodelle entwickelt, verbessert und validiert, welche die Fahr- und Ladeeigenschaften von Elektrofahrzeugen abbilden. Die wichtigsten Beiträge dieser Arbeit resultieren aus der Entwicklung und Validierung der folgenden drei Kernkomponenten des Ladeassistenten. Als Erstes wird das individuelle Mobilitätsverhalten der Nutzer modelliert und anhand von aufgezeichneten und halbsynthetischen Fahrdaten von Elektrofahrzeugen ausgewertet. Insbesondere wird ein neuartiger, zweistufiger Clustering-Algorithmus entwickelt, um häufig besuchte Orte der Nutzer zu ermitteln. Anschließend werden Ensembles von Random-Forest-Modellen verwendet, um die nächsten Aufenthaltsorte und die dort typischen Parkzeiten vorherzusagen. Als Zweites wird gemischt-ganzzahlige stochastische Optimierung angewandt, um Ladestopps in einem zukünftigen Zeithorizont möglichst komfortabel und kostengünstig zu planen. Dabei wird ein graphenbasierter Algorithmus eingesetzt, um den Energiebedarf und die Eintrittswahrscheinlichkeit von Mobilitätsszenarien eines Elektrofahrzeugnutzers zu quantifizieren. Zur Validierung werden zwei alternative Ladestrategien definiert und mit dem vorgeschlagenen System verglichen. Als Drittes wird ein nichtlineares Optimierungsschema entwickelt, um vorhandene Zeit- und Energieflexibilität in Ladevorgängen von Elektrofahrzeugen zu nutzen. Die Integration eines detaillierten Batteriemodells ermöglicht eine genaue Quantifizierung der Kosteneinsparungen aufgrund einer geringeren Batteriealterung und dynamischer Stromtarife. Anhand von Daten aus realen Ladevorgängen von Elektrofahrzeugen können Einflüsse auf die Rentabilität von Vehicle-to-Grid-Anwendungen herausgearbeitet werden. Aus der Umsetzung des vorgestellten Ansatzes in einer realistischen Umgebung geht ein Architekturentwurf und ein Kommunikationskonzept für optimierungsbasierte intelligente Ladesysteme hervor. Dabei werden weitere Herausforderungen im Zusammenhang mit standardisierter Ladekommunikation, Eingriffen der Energieversorger und Nutzerakzeptanz aufgedeckt.

Hybrid Modelling in general, describes the combination of at least two different methods to solve one specific task. As far as this work is concerned, Hybrid Models describe an approach to combine sophisticated, well-studied mathematical methods with Deep Neural Networks to solve parameter estimation tasks. To combine these two methods, the data structure of artifi- cially generated acceleration data of an approximate vehicle model, the Quarter-Car-Model, is exploited. Acceleration of individual components within a coupled dynamical system, can be described as a second order ordinary differential equation, including velocity and dis- placement of coupled states, scaled by spring - and damping-coefficient of the system. An appropriate numerical integration scheme can then be used to simulate discrete acceleration profiles of the Quarter-Car-Model with a random variation of the parameters of the system. Given explicit knowledge about the data structure, one can then investigate under which con- ditions it is possible to estimate the parameters of the dynamical system for a set of randomly generated data samples. We test, if Neural Networks are capable to solve parameter estima- tion problems in general, or if they can be used to solve several sub-tasks, which support a state-of-the-art parameter estimation method. Hybrid Models are presented for parameter estimation under uncertainties, including for instance measurement noise or incompleteness of measurements, which combine knowledge about the data structure and several Neural Networks for robust parameter estimation within a dynamical system., Hybride Modellierung bezeichnet im Allgemeinen die Kombination von mindestens zwei unterschiedlichen Methoden zum Lösen einer speziellen Problemstellung. Soweit es diese Arbeit betrifft, beschreiben Hybride Modelle einen Ansatz, elegante und allseits bekan- nte mathematische Modelle mit tiefen Neuronalen Netzen zu kombinieren, um Parame- terschätzprobleme zu lösen. Um diese beiden Methoden zu verbinden, wird die Daten- struktur von künstlich generierten Beschleunigungsdaten eines vereinfachten Fahrzeugmod- ells, dem Viertelfahrzeugmodell, ausgenutzt. Beschleunigung der unterschiedlichen Kom- ponenten in einem gekoppelten dynamischen System kann als gewöhnliche Differentialgle- ichung zweiter Ordnung beschrieben werden und beinhaltet die Geschwindigkeit und die Verlagerung der gekoppelten Zustände, skaliert mit den Feder - und Dämpfungskoeffizien- ten des Systems. Eine angemessene numerische Integrationsmethode kann benutzt werden, um diskrete Beschleunigungsprofile des Viertelfahrzeuges mit einer zufälligen Variation der Systemparameter zu simulieren. Explizites Wissen über die Datenstruktur gibt Aufschluss darüber, unter welchen Umständen die Parameter des dynamischen Systems, für einen Satz von zufällig generierten Daten, bestimmt werden können. Wir untersuchen, ob Neuronale Netze die Fähigkeit besitzen, Parameterschätzprobleme im Allgemeinen zu lösen oder ob sie dazu benutzt werden können, Standardmethoden für die Parameterschätzung zu unterstützen. Es werden Hybride Modelle für Parameterschätzung unter Unsicherheiten, beispielsweise Messfehler oder Datenunvollständigkeit, vorgestellt, welche Vorwissen über die Datenstruk- tur und unterschiedliche Neuronale Netztypen für die robuste Parameterschätzung eines dy- namischen Systems verbinden.

Due to the success and growing job market of deep learning (DL), students and researchers from many areas are interested in learning about DL technologies. Visualization has been used as a modern medium during this learning process. However, despite the fact that sequential data tasks, such as text and function analysis, are at the forefront of DL research, there does not yet exist an educational visualization that covers recurrent neural networks (RNNs). Additionally, the benefits and trade-offs between using visualization environments and conventional learning material for DL have not yet been evaluated. To address these gaps, we propose exploRNN, the first interactively explorable educational visualization for RNNs. exploRNNis accessible online and provides an overview of the training process of RNNs at a coarse level, as well as detailed tools for the inspection of data flow within LSTM cells. In an empirical between-subjects study with 37 participants, we investigate the learning outcomes and cognitive load of exploRNN compared to a classic text-based learning environment. While learners in the text group are ahead in superficial knowledge acquisition, exploRNN is particularly helpful for deeper understanding. Additionally, learning with exploRNN is perceived as significantly easier and causes less extraneous load. In conclusion, for difficult learning material, such as neural networks that require deep understanding, interactive visualizations such as exploRNN can be helpful., publishedVersion

In dieser Arbeit werden drei verschiedene Repräsentationslernalgorithmen im Kontext von Verstärkungslernen (VL) vorgestellt: (i) GrICA ist von der unabhängigen Komponentenanalyse (ICA) inspiriert und trainiert ein tiefes neuronales Netzwerk, um statistisch unabhängige Komponenten der Eingabe auszugeben. (ii) Latent Representation Prediction (LARP) lernt Zustandsdarstellungen, indem sie die Darstellung des nächsten Zustands der Umgebung mithilfe eines aktuellen Zustands und einer aktuellen Aktion vorhersagt. (iii) RewPred lernt die Zustandsdarstellung, indem ein tiefes neuronales Netzwerk trainiert wird, eine geglättete Version der Belohnungsfunktion zu lernen. Wir stellen fest, dass jede Methode ihre Stärken und Schwächen hat, und schließen aus unseren Experimenten, dass das Einbeziehen von unbeaufsichtigtem Repräsentationslernen in VL-Problemlösungspipelines das Lernen beschleunigen kann.

Die erscheinungsbasierte Fahrzeugwiedererkennung in öffentlichen Einsatzumgebungen ist eines der schwierigsten Probleme der Bildverarbeitung. Es stellen sich die folgenden Herausforderungen bei dieser Arbeit: -Es gibt mehr als 150 Fahrzeugmarken weltweit mit etwa 2.000 Modellen, wobei jedes Modell einer Marke im Allgemeinen eine längere Historie hat. Modell-Upgrades erscheinen alle paar Jahre und können sehr verschieden voneinander aussehen. -Das Aussehen eines Modells ändert sich auch stark bei der Änderung seiner Perspektive. -Videodaten enthalten häufig Bilder mit niedriger Auflösung oder mit Unschärfe. -Unterschiedliche Beleuchtungen oder Witterungsverhältnisse. Hierfür, wird eine Lösung mithilfe des maschinellen Lernens entwickelt. Erscheinungsbasierte Merkmale werden anhand von CNNs gelernt. Mehrere Techniken werden hierbei entwickelt und eingesetzt, um die erscheinungsbasierte Fahrzeugwiedererkennung zu verbessern. Die entwickelten Methoden können die State-of-the-Art übertreffen., Appearance-based vehicle re-identification in public environments is one of the most challenging computer vision tasks. To reach this goal, we have to overcome the following challenges: -There are more than 150 vehicle makes worldwide with around 2,000 models. -The appearance of a vehicle varies not only due to its make and to its model but can also differ strongly depending on the year of released and the perspective. -Video data often contains low-resolution or blurred images. -Different lighting. -Different weather conditions. To address these problems we develop a solution using machine learning approaches. We employ convolutional neural networks for learning appearance-based features to re-identify vehicles with the same make/model and color or with the same appearance as the search vehicle in real time within a large image or video data set. Several techniques were developed and used to improve this recognition task. Our developed methods can outperform the state-of-the-art.

Ich beginne meine Dissertation mit dem Vorschlag einer personalisierten Vorhersage-Pipeline basierend auf einem alternativen Ridge-Ansatz. Diese Pipeline ist optimal in Bezug auf Orakel-Ungleichungen, schnell und sowohl in Simulationen als auch in realen Daten sehr effektiv. Anschließend schlug ich einen neuen Schätzertyp vor, indem ich herkömmliche Ridge-Schätzer so veränderte, dass während des gesamten Berechnungsprozesses auf Abstimmungsparameter verzichtet werden kann. Der resultierende Schätzer kann Standard-Ridge-Schätzer, die mit Kreuzvalidierung integriert sind, in Bezug auf die Vorhersagegenauigkeit übertreffen. Schließlich konstruierte ich eine robuste Vorhersagepipeline für die Deep Neural Network Frameworks. Meine Methodik ist inspiriert von vergleichsweise neuen Erkenntnissen über den Mittelwert und das Prinzip von Le Cam. Ich habe seine einfache Implementierung vorgestellt und seine beeindruckende Leistung in der Praxis demonstriert., I begin my dissertation by proposing a personalised prediction pipeline based on an alternate ridge-type approach. This pipeline is optimum in terms of oracle inequalities, speedy, as well as very effective in both simulations and real-world data. Subsequently, I proposed a new type of estimator by altering traditional ridge estimators in such a way that tuning parameters can be omitted entirely throughout the computational process. The resulting estimator can outperform standard ridge estimators integrated with cross-validation in terms of prediction accuracy. Finally, I constructed a robust prediction pipeline for the deep neural network frameworks. My methodology is inspired by comparatively recent insights into the median-of-means and Le Cam's principle. I presented its ease of implementation, and demonstrated its impressive performance in practice.

Die Bedeutung von Daten nimmt in allen Lebensbereichen eine immer gr����ere Rolle ein. Diese Entwicklung kann ebenso in der Produktentwicklung und Produktentstehung beobachtet werden. Die Verkn��pfung der virtuellen Produktentwicklung mit der durchg��ngigen und ganzheitlichen Datennutzung wird als ��Digital Engineering�� bezeichnet. Die Umsetzung des Digital Engineering geht mit einem starken Wandel und einer Ver��nderung der bisherigen Rollen der beteiligten Personen und der verwendeten Werkzeuge einher. Dabei gilt es, m��glichst alle zur Verf��gung stehenden Daten zu nutzen und diese Daten mittels Algorithmen des Maschinellen Lernens zu verarbeiten. In der Produktentstehung existieren zahlreiche Geometriedaten (z.B. CAD Modelle oder Messdaten) oder mit einer Geometrie verkn��pfte Daten (z.B. numerische Simulationen und deren Ergebnisse). Im Rahmen der vorliegenden Dissertation wurde die Methode der sph��rischen Detektorfl��chen entwickelt, welche es erm��glicht, beliebige Geometrien in eine einheitliche numerische Matrix zu ��berf��hren. Die entwickelte Methode kann ebenfalls genutzt werden, um Informationen, die mit der Geometrie verkn��pft sind, in weitere dieser einheitlichen Matrizen umzuwandeln und so Algorithmen des Maschinellen Lernens zur Verf��gung zu stellen. Das entwickelte Vorgehen wird anhand von drei unterschiedlichen Anwendungsbeispielen umgesetzt und es werden alle notwendigen Teilschritte detailliert beschrieben. Dies umfasst auch die Ableitung der sogenannten ��DNA einer FE-Simulation��., The importance of data is increasing in all areas of life. This effect can also be observed in product development. The combination of virtual product development with the continuous and holistic use of data is referred to as ��digital engineering��. The implementation of digital engineering results in a transformation process and is accompanied by a change in the previous roles of people involved and the tools used. The aim is to use as much data as possible and to process this data with machine learning algorithms. In product development there is numerous geometric data (e.g. CAD models or measurement data) or data which is linked to geometry (e.g. numerical simulations and their results). In this dissertation, the method of spherical detector surfaces was developed, which makes it possible to transform arbitrary geometries into a uniform numerical matrix. The developed method can also be used to convert information associated with the geometry into further uniform matrices and thus provide this information for machine learning algorithms. The developed methodology is implemented in three different application examples and all necessary substeps are described in detail. This also includes the transformation of finite element simulations to the so called ��DNA of an FE simulation��., FAU Studien aus dem Maschinenbau; 379

A time series is a collection of data points captured over time, commonly found in many fields such as healthcare, manufacturing, and transportation. Accurately predicting the future behavior of a time series is crucial for decision-making, and several Machine Learning (ML) models have been applied to solve this task. However, changes in the time series, known as concept drift, can affect model generalization to future data, requiring thus online adaptive forecasting methods. This thesis aims to extend the State-of-the-Art (SoA) in the ML literature for time series forecasting by developing novel online adaptive methods. The first part focuses on online time series forecasting, including a framework for selecting time series variables and developing ensemble models that are adaptive to changes in time series data and model performance. Empirical results show the usefulness and competitiveness of the developed methods and their contribution to the explainability of both model selection and ensemble pruning processes. Regarding the second part, the thesis contributes to the literature on online ML model-based quality prediction for three Industry 4.0 applications: NC-milling, bolt installation in the automotive industry, and Surface Mount Technology (SMT) in electronics manufacturing. The thesis shows how process simulation can be used to generate additional knowledge and how such knowledge can be integrated efficiently into the ML process. The thesis also presents two applications of explainable model-based quality prediction and their impact on smart industry practices.