Erklärbare Künstliche Intelligenz: Nachvollziehbare KI etablieren (ExplAIn)

Ob Bilderkennung oder virtueller Assistent: Maschinelles Lernen (ML) wird bereits von Unternehmen vielseitig genutzt. Der Mehrwert: Produktionsprozesse können durch Methoden des maschinellen Lernens autonom adaptiert oder sogar komplett vorgeplant und geregelt werden. Doch es gibt auch Unternehmen, die aufgrund situationsbedingter Fehler, fehlender Nachvollziehbarkeit und fehlender Beeinflussbarkeit kein Vertrauen in die Künstliche Intelligenz haben. Dabei handelt es sich bei den aufgezählten Vorbehalten nicht um Schwächen der Künstlichen Intelligenz, sondern um Schwächen bei der Kontrolle der Anwendung. Es fehlt vielfach an implementierbaren Kontrollinstanzen, die vorhandene und neue ML-Systeme nachvollziehbarer und sicherer machen.