Sicheres Bauteil, unsicheres System? Wie KI Cyberrisiken in Produktionsanlagen bewerten soll
Wie sicher ist eine Maschine vor Cyberangriffen? Um das zu beurteilen, müssen Fachleute mögliche Schwachstellen, Schnittstellen und Bedrohungen analysieren. Das kostet Zeit und bindet Expertenwissen. Im it’s OWL Projekt SUSI entsteht deshalb ein Softwaretool, das Teile dieser Sicherheitsrisikobeurteilung mithilfe Künstlicher Intelligenz unterstützt. Bisher lag der Fokus auf einzelnen Komponenten. Nun erweitert das Projekt den Blick: Die Software soll künftig auch das technische Umfeld berücksichtigen, in dem eine Komponente eingesetzt wird.
Eine industrielle Komponente wird selten allein betrieben. Genau das wurde auch bei der Erprobung des bisherigen SUSI-Tools bei Weidmüller deutlich. Dort entstand der Wunsch, neben einer Komponente auch deren zukünftiges Umfeld aus der Security-Perspektive betrachten zu können.
Denn Sicherheitsrisikoanalysen sind nicht nur für Komponentenhersteller relevant. Auch Betreiber industrieller Produktionsanlagen müssen die Sicherheit ihrer Systeme beurteilen. Das it’s OWL Projekt SUSI entwickelt sein Softwaretool deshalb weiter: Künftig soll es nicht mehr nur einzelne Komponenten, sondern auch ganze industrielle Systeme betrachten können.
Vom einzelnen Bauteil zum ganzen System
Im Projekt entwickeln die Technische Hochschule Ostwestfalen-Lippe mit ihrem Institut für industrielle Informationstechnik (inIT), Comma Soft, Weidmüller und rt-solutions ein Softwaretool für industrielle Sicherheitsrisikobeurteilungen. Mehrere Schritte der Analyse sollen dabei mithilfe eines Large Language Models, kurz LLM, unterstützt und teilweise automatisiert werden.
Bisher wurde die Lösung vor allem aus der Perspektive von Komponentenherstellern entwickelt und getestet. Sie müssen bereits beim Entwurf einer Komponente Sicherheitsrisiken untersuchen, um Anforderungen an Security-by-Design zu erfüllen, also Sicherheit von Beginn an in der Entwicklung mitzudenken.
Nun erweitert SUSI diese Perspektive auf sogenannte OT-Systeme. OT steht für Operational Technology und bezeichnet den technischen Bereich, in dem industrielle Anlagen und Prozesse gesteuert und überwacht werden. Für SUSI bedeutet der Schritt zur Systembetrachtung vor allem eines: Das Sprachmodell muss künftig zusätzliche Informationen über das Umfeld einer Komponente verarbeiten können.
Eine Systemgrafik liefert der KI zusätzlichen Kontext
Dafür hat das Projektteam die Eingabemöglichkeiten des Softwaretools bereits erweitert. Neben einer Beschreibung in Textform lässt sich nun auch eine grafische Darstellung des betrachteten Systems als Bilddatei verwenden.
Die zusätzlichen Informationen werden in die Prompts integriert, die SUSI im Rahmen der Risikobeurteilung für das Sprachmodell erstellt. Das LLM erhält dadurch neben der bisherigen Beschreibung weitere Informationen über das betrachtete System.
Die Systemdarstellung ist dabei nur ein erster Schritt. Perspektivisch sollen weitere Dokumente als Input verwendet und miteinander zusammengeführt werden können. Dazu gehören beispielsweise Beschreibungen der verwendeten Komponenten sowie Informationen über Protokolle und Verbindungen.
So soll die Informationsgrundlage der Sicherheitsrisikobeurteilung schrittweise von der einzelnen Komponente auf einen größeren Systemkontext erweitert werden.
Entscheidend ist, was die KI mit dem zusätzlichen Kontext macht
Dass SUSI inzwischen mehr Informationen verarbeiten kann, beantwortet allerdings noch nicht die entscheidende Forschungsfrage: Berücksichtigt das Sprachmodell diesen zusätzlichen Kontext auch tatsächlich bei der Sicherheitsrisikobeurteilung?
Genau das will das Projektteam im nächsten Schritt untersuchen. Dabei soll festgestellt werden, ob und in welchem Ausmaß das LLM die zusätzlichen Informationen aus der Systembetrachtung in seine Analyse einbezieht.
Die Evaluation muss damit zeigen, wie gut sich der bislang auf Komponenten ausgerichtete Ansatz auf komplette Systeme übertragen lässt.
Systemperspektive macht SUSI auch für Anlagenbetreiber relevant
Mit dem neuen Use Case erweitert sich zugleich die Perspektive auf die möglichen Anwender der SUSI-Lösung. Bisher standen vor allem Komponentenhersteller im Mittelpunkt. Für Betreiber:innen industrieller Produktionsanlagen sind Sicherheitsrisikoanalysen jedoch ebenfalls relevant.
Das grundsätzliche Ziel des Projekts bleibt dabei bestehen: Künstliche Intelligenz soll Anwender:innen bei Sicherheitsrisikobeurteilungen entlasten und dazu beitragen, Ressourcen einzusparen.
Der neue System-Use-Case erweitert dafür die Informationsgrundlage. Statt ausschließlich eine Komponente zu betrachten, soll SUSI künftig auch deren technisches Umfeld in die Analyse einbeziehen. Die kommenden Tests sollen nun zeigen, ob und in welchem Umfang ein Large Language Model diesen zusätzlichen Kontext bei der Risikobeurteilung tatsächlich berücksichtigt.
Kontakt
