Eine Person kann nur wirksam Aufsicht ausüben, wenn sie Abweichungen erkennt, ihre Bedeutung einschätzt und tatsächlich eingreifen kann. Die Übung beginnt deshalb mit einem konkreten Verantwortungsbereich, etwa der Prüfung automatisch vorgeschlagener Instandhaltungsmaßnahmen. Festgelegt werden zulässige Ergebnisse, Warnzeichen und die verfügbaren Eingriffe. Teilnehmende erhalten die Informationen, die ihnen auch im Betrieb zur Verfügung stehen. Die Aufgabe besteht darin, eine problematische Situation nachvollziehbar zu bearbeiten. Das bloße Wiedergeben von Verhaltensregeln belegt diese Handlungsfähigkeit noch nicht.
Störfallsimulationen zur Qualifizierung im KI-Einsatz
Geeignete Übungsfälle enthalten fehlende Daten, unplausible Begründungen, widersprüchliche Empfehlungen oder eine scheinbar sichere Antwort außerhalb des freigegebenen Einsatzbereichs. Auch manipulierte Dokumentinhalte und unerwartete Handlungsaufforderungen können berücksichtigt werden. Die Vorbereitung erfolgt in einer abgegrenzten Umgebung ohne unbeabsichtigte Wirkung auf Anlagen, Zahlungen oder Personaldaten. Verantwortliche legen fest, welche Fehler bewusst eingebaut sind und welches Verhalten fachlich angemessen wäre. Seltene, aber folgenreiche Situationen verdienen eigene Fälle. Die Schwierigkeit wird an Aufgabe, Erfahrung und mögliche Fehlerfolgen angepasst.
Übungsfall
Beobachtbare Handlung
Datenlücke
Fehlende Grundlage erkennen
Widerspruch
Empfehlung fachlich hinterfragen
Unzulässiger Auftrag
Handlung wirksam unterbrechen
Systemausfall
Geeigneten Ersatzweg nutzen
Eingreifen und Ersatzverfahren erproben
Die Teilnehmenden prüfen, ob sie eine Empfehlung zurückweisen, weitere Informationen anfordern und eine laufende Verarbeitung wirksam unterbrechen können. Anschließend bearbeiten sie den Vorgang über den vorgesehenen Ersatzweg. Dabei werden fehlende Berechtigungen, unklare Ansprechpartner oder nicht erreichbare Fachstellen sichtbar. Eine Übung ist erst aussagekräftig, wenn auch diese organisatorischen Voraussetzungen betrachtet werden. Zusätzlicher Zeitdruck kann kontrolliert erprobt werden, sofern dabei keine realen Gefährdungen entstehen und die Teilnehmenden anschließend eine angemessene Nachbesprechung erhalten. Für kritische Tätigkeiten müssen Vertretung und Erreichbarkeit funktionieren. Niemand soll eine Entscheidung nur deshalb bestätigen, weil das Verfahren keine praktikable Möglichkeit zum Widerspruch anbietet.
Fehler sachlich nachbesprechen
Die Auswertung rekonstruiert, welche Information erkennbar war, wie sie verstanden wurde und welche Handlung daraus folgte. Ein Fehlverhalten kann auf unzureichende Einweisung, eine irreführende Oberfläche oder widersprüchliche Arbeitsvorgaben zurückgehen. Diese Ursachen verlangen unterschiedliche Maßnahmen. Die Übung dient der Verbesserung von Handlungsfähigkeit und Arbeitsbedingungen; eine Verwendung für individuelle Leistungsentscheidungen benötigt einen gesondert geklärten Rahmen. Aufzeichnungen werden auf das erforderliche Maß begrenzt. Besonders hilfreich sind gemeinsam entwickelte Merkmale, an denen vergleichbare Abweichungen künftig früher erkannt werden können.
Fähigkeit unter Veränderungen erhalten
Nach wesentlichen Änderungen an Anwendung, Berechtigungen oder Arbeitsverfahren werden passende Übungsfälle erneut durchgeführt. Umfang und Häufigkeit richten sich nach den tatsächlichen Aufgaben und Risiken. Ein allgemeiner Schulungsnachweis ersetzt weder eine erforderliche fachliche Qualifikation noch die besondere Befähigung für wirksame Aufsicht. Dokumentiert werden Übungsziel, erkannte Lücken und umgesetzte Verbesserungen. Beobachtbar sind etwa die Qualität der Fehlererkennung, die Wahl des Ersatzwegs und die Zeit bis zur erreichbaren Unterstützung. Geschwindigkeit allein ist kein ausreichender Maßstab für eine angemessene Entscheidung.
