Fraunhofer-Gesellschaft | KI-Fortschrittszentrum »Lernende Systeme und Kognitive Robotik«Transparenz von Neuronalen Netzen für Schüttgutförderung
Ausgangssituation
Anlagen zur Schüttgutförderung müssen je nach Förderungsmaterial speziell konfiguriert werden, um eine optimale Fördermenge zu garantieren. Je nach Umgebungsparametern, wie Luftfeuchtigkeit und Temperatur sowie Schwankungen in der Materialbeschaffenheit ist die Konfiguration der passenden Parameter für die Anlage keine einfache Aufgabe. Selbst ein Mitarbeiter mit Domänenwissen kann meist keine optimale Parameterkonfiguration finden. Die Firma AZO hat zu diesem Zweck ein Neuronales Netz trainiert, welches unter Beachtung äußerer Sensoreingaben eine Regelung der Schüttgutförderanlage vornimmt. Die Ausgaben des Netzes sind jedoch aufgrund des Black-Box-Charakters Neuronaler Netze für den Menschen nicht erklärbar oder nachvollziehbar.
Lösungsidee
Das Forschungsfeld Explainable AI (xAI) erlangt in letzter Zeit immer größeres Interesse. In diesem Gebiet werden Methoden und Algorithmen untersucht, die versuchen, Machine-Learning-Modelle transparent und erklärbar zu machen. Beispielsweise geben Feature-Attribution-Methoden für eine Entscheidung des Neuronalen Netzes den Einfluss der zugehörigen Eingabedaten an. Damit kann dann im Kontext der Schüttgutförderanlage die Wichtigkeit der einzelnen Sensoren bestimmt und eventuell reduziert werden. Zwei Methoden, die sich dafür besonders eignen, sind die Algorithmen LIME und SHAP. Diese werden im Verlauf des Quick Checks auf ihre Möglichkeiten untersucht, das Neuronale Netz zur Schüttgutförderung zu erklären.
