Fremde Inhalte als Informationsmaterial behandeln
Eine Assistenz verarbeitet im Facility Management zahlreiche Dokumente und Nachrichten von außen. Darin können neben fachlichen Angaben auch Anweisungen stehen, die das System zu unerwünschtem Verhalten bewegen sollen. Beispielsweise könnte ein Anhang die Weitergabe vertraulicher Daten verlangen oder eine Prüfung für angeblich entbehrlich erklären. Solche Inhalte dürfen den erteilten Auftrag und die festgelegten Rechte nicht verändern. Die Schutzgestaltung beginnt deshalb bei der Trennung zwischen einer berechtigten Anweisung und einem zu untersuchenden Dokument. Das gilt ebenso für Webseiten, Bildertexte und Antworten angebundener Werkzeuge.
Erkennung und Umgang mit fremden Anweisungen
Mögliche Folgen anhand der angebundenen Funktionen bestimmen
Das Risiko hängt davon ab, welche Informationen die Assistenz lesen und welche Aktionen sie ausführen kann. Ein reines Entwurfswerkzeug hat andere Folgen als ein Agent mit Versand- oder Schreibrechten. Für jede Anwendung wird untersucht, welche fremden Inhalte in den Ablauf gelangen und welche unerwünschten Handlungen daraus entstehen könnten. Besonders betrachtet werden Datenweitergabe, falsche Empfänger, manipulierte Ergebnisse und zusätzliche Systemaufrufe. Der Schutz stützt sich auf begrenzte Rechte und kontrollierte Ausgaben. Eine Aufforderung im Systemtext, fremde Anweisungen zu ignorieren, ist allein kein vollständiger technischer Schutz.
|
| Dokumenteninhalt | Keine Übernahme als berechtigte Anweisung |
| Werkzeugaufruf | Festgelegter Zweck und zulässiger Umfang |
| Datenweitergabe | Geprüfte Ziele und begrenzte Zugriffe |
| Ergebnisübernahme | Kontrolle vor einer wirksamen Änderung |
Verarbeitung und Aktionen gezielt voneinander trennen
Die Anwendung beschränkt Datenzugriffe und Werkzeugaufrufe auf den tatsächlich benötigten Umfang. Ergebnisse aus fremden Inhalten werden auf erwartete Struktur und zulässige Werte geprüft, bevor daraus eine weitere Aktion entsteht. Eine in einer Rechnung genannte Bankverbindung wird beispielsweise nicht ungeprüft in Stammdaten übernommen. Empfänger, Ziele und besonders folgenreiche Änderungen erhalten eigenständige Kontrollen. Wo möglich, bleibt die Verarbeitung zunächst lesend. Für automatische Aktionen gelten feste Geschäftsregeln außerhalb des Modells. Dadurch wird verhindert, dass ein überzeugender Text allein eine wirksame Berechtigung oder Freigabe erzeugt.
Manipulationsfälle unter Betriebsbedingungen erproben
Vor der Freigabe werden geeignete Testdokumente mit irreführenden Anweisungen und ungewöhnlichen Formaten verwendet. Die Tests prüfen, ob die Anwendung ihren Auftrag beibehält und ob vertrauliche Informationen oder unzulässige Aktionen tatsächlich geschützt sind. Einzelne erfolgreiche Tests belegen keine vollständige Unangreifbarkeit. Deshalb werden auch Protokollierung, Abbruch und sichere Weiterbearbeitung betrachtet. Auffällige Inhalte können zur fachlichen Prüfung zurückgestellt werden. Nutzer erhalten eine verständliche Meldung mit dem betroffenen Vorgang. Die Erkennung selbst wird nicht als Ersatz für begrenzte Rechte und sichere Aktionswege behandelt.
Neue Datenwege und Vorfälle gemeinsam auswerten
Ändern sich Dokumenttypen, Verbindungen oder Befugnisse, wird die betroffene Schutzgestaltung erneut überprüft. Vorfälle und Beinaheereignisse werden mit ihrem tatsächlichen Ablauf untersucht. Die Auswertung unterscheidet eine erfolgreiche Manipulation, einen abgefangenen Versuch und einen Fehlalarm. Daraus folgen gezielte Anpassungen an Verarbeitung und Berechtigungen. Kennzahlen betreffen unerwünschte Aktionen, blockierte Datenabflüsse und Aufwand zur Klärung. Ziel ist ein beherrschbarer Informationsprozess, der fremde Inhalte nutzen kann, ohne ihnen die Steuerung des eigenen Auftrags oder Zugriff auf weitergehende betriebliche Möglichkeiten zu überlassen.
