Ein Forschungsschwerpunkt des Lehrstuhls TMDT liegt im Bereich der Interpretierbarkeit von künstlicher Intelligenz (Interpretable AI). Dabei liegt der treibende Faktor für unsere Forschung insbesondere im Bedarf an absoluter Transparenz und Nachvollziehbarkeit der Entscheidungsfindungsprozesse einer KI vor dem Hintergrund ihrer Nutzung für Anwendungsfelder im Bereich der industriellen Fertigung.

Unsere Forschung verwendet Methoden aus dem Bereich der Neurowissenschaften zur Untersuchung von Prozessen im Gehirn und zielt auf die Adaption und den Transfer dieser Methoden für die Untersuchung von künstlichen neuronalen Netzen (KNN) ab. Im Fokus steht die Untersuchung der erlernten Repräsentationen innerhalb der KNNs auf ihre Organisation und Struktur. Mithilfe von Ablationsstudien, einem aus dem Bereich der Neurowissenschaften inspirierten Verfahren zur kontrollierten Schädigung von Hirnstrukturen, und dem Transfer des Verfahrens auf KNNs lassen sich sowohl enge Parallelen als auch deutliche Unterschiede in der Organisation der untersuchten KNNs zu bekannten Strukturen im Gehirn aufdecken. Das Verständnis für die Organisation von erlernten Repräsentationen in KNNs und der damit einhergehende gesteigerte Grad an Transparenz für ihre Entscheidungsfindungsprozesse schafft Vertrauen für die Technologie und macht KI für den Menschen interpretierbar. Insbesondere in Anwendungsbereichen wie Fertigungs- oder Montageszenarien aus dem Bereich Produktionstechnik ermöglicht die Nachvollziehbarkeit die Verwendung der KI als Assistenzsysteme für den menschlichen Domänenexperten.

Ansprechpartner

Richard Meyes, M.Sc.