
Sicheres Training von KI-Systemen – Vertrauenswürdigkeit durch Überwachung der Datenbasis
Wie kann die Vertrauenswürdigkeit von KI-Systeme im industriellen Umfeld sichergestellt werden? Und wie kann die Resilienz der Systeme nachhaltig und langfristig sichergestellt werden? Diese Themen werden im it’s OWL Projekt ‚ExplAIn‘ untersucht. Gemeinsam mit den Partnern Düspohl und MIT entwickelt das Fraunhofer IEM eine Methodik zur Schaffung von Vertrauenswürdigkeit beim Einsatz von KI-Systemen im Bereich industrieller Anwendungen. Ein zentraler Baustein ist dabei die Analyse und Überwachung der Datenbasis, die den Grundstein für die erreichbare Modellperformance darstellt.
Die ‚ExplAIn‘-Methodik – Vertrauenswürdige KI bei Design
Die Anzahl an produktiven KI-Systemen nimmt laufend zu. Auch im industriellen Umfeld zeigen sich immer mehr Anwendungen, in denen der Einsatz von KI zu signifikanten Optimierungen der Prozesse führt, von der Planungsebene bis runter in die technischen Prozesse. Viele insbesondere mittelständische Unternehmen tuen sich mit der erfolgreichen Umsetzung von KI Use Case schwer.
Zu den Gründen zählt oftmals die schwierige individuelle Datenlage. Oft scheitert zudem die langfristige Integration prototypisch validierter Lösungen. Für die produktive Nutzung von KI-Systemen sind Resilienz und Vertrauenswürdigkeit ebenso von Bedeutung wie die Transparenz und Interaktion der Systeme gegenüber Nutzern.
Die „ExplAIn“-Methode beschreibt eine Vorgehensweise, um vertrauenswürdige KI-Systeme zu entwickeln. Sie besteht aus vier Stufen: Safe Training, Safe Usage, Explainability und Adaptability. Das Fundament, auf dem die Methode aufbaut, ist die ‚Hybride Modellbildung‘.
Dabei wird Expertenwissen, zum Beispiel in Form von Simulationen, mit den KI-Systemen kombiniert. Dadurch kann die KI auf hochwertige Informationen zurückgreifen und bessere Ergebnisse liefern. Das gesamte ‚ExplAIn‘-Framework ist in Abbildung 1 dargestellt.
Safe Training bedeutet, dass KI-Systeme nicht einfach blind aus den verfügbaren Daten lernen und die Datenbasis gezielt überwacht und optimiert wird. Safe Usage zielt darauf ab, die Fähigkeiten des KI-Systems realistisch einzuschätzen und die funktionale Sicherheit im Einsatz zu gewährleisten.
Explainability bedeutet Transparenz zu schaffen und zielt darauf ab, dass Menschen verstehen können, wie die KI ihre Entscheidungen trifft und die Interaktion zwischen Menschen und KI zu verbessern. Adaptability zielt aufbauend darauf ab, Möglichkeiten zu schaffen, die Leistungsfähigkeit der Systeme unter Einbindung menschlicher Expertise ‚in the Loop‘ anzupassen und zu verbessern.

Vertrauenswürdiger KI-Assistent für die Einrichtung von Ummantelungsanlagen
Die Firma Düspohl Maschinenbau GmbH aus Schloß Holte-Stuckenbrock stellt Anlagen zur Profilummantelung her. Diese werden im Rahmen der Produktion zur Ummantelung von strangförmigen Profilen mit einem Dekor genutzt, um bessere physische sowie optische Eigenschaften von Produkten wie Fensterrahmen oder Fußleisten zu erreichen. Mit der ‚RoboWrap‘ verfügt Düspohl über die weltweit erste vollautomatisierte Profilummantelungsanlage, die in Abbildung 2 dargestellt ist.

Für bekannte Produkte kann ein Setup aus verschiedenen Ummantelungsrollen mit Positionierung über bis zu 48 Roboterarme in unter 10 Minuten erfolgen. Damit werden die oft stundenlangen Prozesse der Einrichtung deutlich verkürzt. Neben der höheren Produktivität durch die signifikant reduzierten Rüstzeiten werden somit für Kunden von Düspohl auch kleinere Chargen eines zu ummantelnden Produktes wirtschaftlich rentabel. Für neue Produkte bleibt die Herausforderung bestehen, ein Setup zu identifizieren, dass den Ansprüchen an Prozessstabilität und Produktqualität erfüllt.
Dieser Vorgang ist selbst für erfahrene Fachkräfte oft ein langwieriges Vorhaben und mit teurem Ausschuss verbunden. Daher wird im Projekt ‚ExplAIn‘ an einem KI-Assistenten zur Einrichtung geforscht. Dieser lernt das Einrichten von Ummantelungsanlagen auf Basis historischer Daten und soll zukünftig in Form eines Assistenzsystems die Bediener:innen der Anlage unterstützen.
Safe Training – der erste Baustein vertrauenswürdiger KI
Die Stufe Safe Training zielt auf die Optimierung der Daten ab, auf denen ein maschinelles Lernverfahren die Erfüllung einer Aufgabe erlernt. Im Rahmen von ‚ExplAIn‘ kommen dazu verschiedene Methoden zum Einsatz – von rein datenbasierten Ansätzen bis hin zu modellbasierten Verfahren, die umfangreiches Domänenwissen über zu Grunde liegende Prozesse erfordern. Ein Überblick über Methoden im Bereich ‚Safe Training‘ ist in Abbildung 3 dargestellt.

Die Konsistenz des Datenraums sowie die Identifikation von Konflikten in Form von beispielsweise widersprüchlichen Daten sorgt für eine Datenqualität, welche die Performance der aufsetzenden KI-Systeme verbessert. Die korrekte Identifikation der Einsatzgrenzen über die existierenden Datenraumgrenzen hilft dabei, den Einsatzbereich der KI zu definieren.
Durch die simulative Anreicherung der Datenbasis mittels synthetischer Daten aus beispielsweise Simulationen kann dieser Einsatzbereich zudem nicht nur vergrößert werden, sondern auch ein stabiles Verhalten außerhalb des bekannten Datenraums erreicht werden, das logischen oder physikalischen Gesetzmäßigkeiten folgt. Auf diese Weise können unerwünschte Phänomene wie Halluzinationen der KI vermieden werden.
Verbesserte Performance der Einrichtungsassistenz durch Safe Training
Im Laufe des Projektes konnten im Bezug auf die KI-Assistenz zur Einrichtung von Ummantelungsanlagen bereits erste Erfolge durch die Methoden im Bereich Safe Training verzeichnet werden. Die in der Praxis entstehenden Daten über die Einrichtung der Ummantelungsanlagen sind nicht immer fehlerfrei – eine Problematik, die in der industriellen Praxis weit verbreitet ist. Exemplarische Datenprobleme sind beispielsweise falsch angegebene Ummantelungsbereiche.
Auch werden die Profile gelegentlich durch eine falsche Druckaufbringung stark ausgelenkt. Das zeugt von einem schlechten Vorgehen des Werkers bei der Ummantelung. Durch die automatische Plausibilisierung und Überprüfung der Datenbasis werden diese Informationen, bei dem Bediener:innen ein schlechtes Vorgehen gewählt haben, aus der Datenbasis aussortiert. Die Qualität der Datenbasis steift dadurch im Mittel an.
Um die Qualität weiter zu erhöhen, wurde eine zusätzliche Vorverarbeitung der Daten mittels Domänenwissen entwickelt. Dabei werden die Daten mit wichtigen Prozessinformationen angereichert und in eine für die KI besser geeignete Form umgewandelt. Eine weitere zentrale Herausforderung ist der Umgang mit widersprüchlichen Daten. Im Fall der Profilummantelung tritt das in der Wissenschaft unter dem Begriff ‚Ambigouos Ground Truth‘ bekannte Phänomen auf, bei dem gleiche Ummantelungsaufgaben unterschiedlich gelöst werden.
Im Vorgehen ist es gleichwertig, ob eine Nut wie in Abbildung 4 dargestellt zunächst von rechts oder von links ummantelt wird. Man könnte auch sagen, viele Wege führen nach Rom. Für eine KI sind diese Daten aber widersprüchlich und hinderlich, da maschinelle Lernverfahren dazu tendieren, über die Daten zu mitteln.
Durch eine geschickte Bereinigung der Ambiguitäten in der Datenbasis in Kombination mit den Verfahren zur Aufwertung und Anreicherung der Datenbasis konnte die Performance der KI-Assistenz insgesamt im Rahmen der Stufe Safe Training um fast 10 Prozent gesteigert werden.
Weitere Einblicke in die Erkenntnisse und Methoden im Bereich Safe Training können über den zugehörigen Lösungsbaustein auf der Innovationsplattform abgerufen werden.

Welche weiteren Herausforderungen werden im Projekt adressiert?
Eine hohe Genauigkeit und Performance einer KI allein schafft keine funktionale Sicherheit und Vertrauenswürdigkeit in der Nutzung. Aus diesem Grund werden auch die weiteren Stufen der ‚ExplAIn‘-Methodik mit Leben gefüllt.
Neben der Absicherung der Ausgaben von KI-Systemen auf Basis von Domänenwissen und Prozessmodellen ist dazu die Transparenz der Systeme gegenüber den Bediener:innen im Fokus. Durch die Nachvollziehbarkeit der Entscheidungsfindung sollen Menschen befähigt werden, KI-Entscheidungen zu durchdringen und zu bewerten. Eine geeignete Interaktion soll dafür sorgen, dass ein gegenseitiges Lernen zwischen KI und Nutzer:innen möglich wird.
Am Beispiel der Profilummantelung bedeutet dies konkret die Entwicklung einer Schnittstelle zum Menschen. Durch Verfahren der erklärbaren KI ist die Entscheidungsfindung transparent zu machen und geeignet visuell aufzubereiten.
So kann einerseits der Mensch im Falle eines schlechten Vorschlags zur Einrichtung der Anlage identifizieren, aufgrund welcher Datenmuster die KI ihre Entscheidung getroffen hat und diesem Verhalten gezielt entgegenwirken. Andererseits kann das KI-System die Expertise verschiedener Fachkräfte erlernen und so unerfahrenen Mitarbeiter:innen als Lernplattform für das Einrichten von ummantelungsanlagen dienen.