KI in der digitalen Leittechnik: Wie lassen sich neue Anwendungen sicherheitstechnisch bewerten?

Digitale Leittechnik übernimmt in kerntechnischen Anlagen zentrale Aufgaben. Sie erfasst Messwerte, verarbeitet Informationen, steuert Prozesse und stellt sicherheitsrelevante Funktionen bereit. Ihre Zuverlässigkeit ist deshalb von grundlegender Bedeutung für die Sicherheit einer Anlage. Entsprechend sorgfältig müssen neue Technologien geprüft werden, die in diesem Umfeld zum Einsatz kommen könnten. 

Zu diesen Technologien zählen auch Anwendungen der Künstlichen Intelligenz (KI). International wird seit Jahren untersucht, ob KI-Verfahren beispielsweise bei der Zustandsüberwachung von Komponenten, der Erkennung von Anomalien oder der Unterstützung von Diagnoseprozessen einen Mehrwert bieten können. Bereits in den 1990er-Jahren kamen in den USA neuronale Netze zur Online-Überwachung von Sensorsignalen in Kernkraftwerken zum Einsatz.

Aktuelle Forschungs- und Entwicklungsarbeiten befassen sich unter anderem mit Anomalieerkennung, digitalen Zwillingen oder automatisierten Betriebsabläufen. Einige Hersteller und Dienstleister bieten bereits heute kommerzielle KI-basierte Anwendungen für den kerntechnischen Bereich an, etwa zur vorausschauenden Instandhaltung, zur Analyse großer Datenmengen oder zur Unterstützung von Betriebs- und Wartungsprozessen. Teilweise kommen entsprechende Systeme bereits in der Praxis zum Einsatz. (Mehr zum Thema Künstliche Intelligenz in der Kerntechnik lesen Sie hier.)  

Nicht die Anwendung steht im Mittelpunkt, sondern ihre Bewertung

Das zentrale Ziel von AnTeS-AI ist die Entwicklung und Validierung einer systematischen Bewertungsmethode für KI-Verfahren in der digitalen Leittechnik kerntechnischer Anlagen. Dazu soll untersucht werden, wie sich die Leistungsfähigkeit, Robustheit und Nachvollziehbarkeit solcher Systeme unter realistischen Bedingungen beurteilen lassen. 

Denn für sicherheitsrelevante Anwendungen reicht es nicht aus, dass ein KI-Modell unter erwartbaren Bedingungen gute Ergebnisse erzielt. Entscheidend ist, wie zuverlässig es auch bei Abweichungen vom erwarteten Verhalten arbeitet. Wie robust ist es gegenüber fehlerhaften Sensordaten? Wie verhält es sich bei Störungen oder Manipulationen? Und wie nachvollziehbar sind die Entscheidungen, die das System trifft? Genau diese Fragestellungen stehen im Mittelpunkt von AnTeS-AI. 

AnTeS als Grundlage für realitätsnahe Untersuchungen

Mit ihrem Analyse- und Testsystem AnTeS verfügt die GRS über kontrollierte und realitätsnahe Testbedingungen, um solch eine Methode zu entwickeln und zu erproben. Die Plattform bündelt Leittechniksysteme, verfahrenstechnische Komponenten sowie etablierte Analysemethoden in einer gemeinsamen Umgebung. Dadurch können unterschiedliche Architekturen, Fehlerbilder und Betriebszustände gezielt untersucht werden. 

Im Projekt wird insbesondere das Testsystem TeSys genutzt, das unter anderem aus Ventilen, Pumpen, Sensoren und Tanks besteht. Gemeinsam mit den Leittechnikkomponenten von AnTeS entsteht so eine Testumgebung, in der sowohl reale als auch simulierte Untersuchungen durchgeführt werden können. 

Vom Stand der Technik bis zum trainierten KI-Modell

Das Projektteam analysiert zunächst verschiedene KI-Verfahren und bestehende Bewertungsansätze und wählt auf dieser Grundlage zwei Verfahren aus. Dabei berücksichtigt es, wie gut sich deren Entscheidungen nachvollziehen lassen.  Dazu entstehen Datensätze, die neben typischen Betriebssituationen auch Störungen, Leckagen, Messunsicherheiten und unterschiedlich häufig auftretende Ereignisse abbilden. Für beide Verfahren werden mehrere Modelle mit Daten aus dem realen Testsystem und aus Simulationen trainiert. Anschließend werden die Modelle als Überwachungswerkzeuge in AnTeS eingebunden und erprobt.

Entscheidend ist dabei, wie die Modelle mit Situationen umgehen, die sie aus ihren Trainingsdaten nicht kennen. So lässt sich untersuchen, ob sie auch bei unbekannten Störungen, fehlerhaften Sensorwerten oder veränderten Eingaben zuverlässige Ergebnisse liefern können.

Untersucht wird beispielsweise, wie zuverlässig ein Modell eine Leckage erkennt, wie häufig es Fehlalarm auslöst und unter welchen Bedingungen es ein Ereignis übersieht. Ebenso wichtig ist, wie es auf Abweichungen reagiert und ob sich seine Ergebnisse nachvollziehen lassen. Gerade bei Anwendungen, die künftig das Bedien- oder Wartungspersonal unterstützen könnten, muss erkennbar sein, auf welcher Grundlage ein System zu einem Ergebnis kommt und wie zuverlässig dieses ist.

Am Ende des Projekts soll eine konsistente Bewertungsmethodik stehen, die weit über klassische Leistungskennzahlen hinausgeht. 

Die Bewertungsmethode wird an einem konkreten Referenzfall erprobt. Sie soll der GRS künftig als Grundlage für Forschungsarbeiten und sicherheitstechnische Begutachtungen von KI-Anwendungen im Umfeld digitaler Leittechnik dienen.