Konformitätsbewertung im Rahmen der KI-Verordnung

• Hersteller von KI-Systemen: Verantwortlich für die Durchführung der Bewertung und die Bereitstellung aller erforderlichen Unterlagen.

• Benannte Stellen (Notified Bodies): Unabhängige Organisationen, die von der EU-Kommission anerkannt sind und die Bewertung durchführen, insbesondere für hochrisiko-KI-Systeme.

• Nationale Aufsichtsbehörden: Zuständig für die Überwachung der Einhaltung der KI-Verordnung und die Benennung von Stellen.

• Nutzer von KI-Systemen: In spezifischen Fällen müssen Nutzer sicherstellen, dass die Systeme korrekt eingesetzt werden.

Die Bewertung umfasst mehrere Schritte, die je nach Art des KI-Systems variieren können. Für hochrisiko-KI-Systeme gelten besonders strenge Vorgaben.

Der Hersteller führt eine interne Bewertung des Systems durch, um potenzielle Risiken zu identifizieren und zu dokumentieren.

• Beschreibung der Funktionalität und der vorgesehenen Nutzung des KI-Systems.

• Analyse der potenziellen Risiken für Nutzer und Betroffene.

• Darstellung der Maßnahmen zur Risikominderung.

Die technische Dokumentation ist ein zentraler Bestandteil der Konformitätsbewertung.

• Systembeschreibung: Funktionen, Anwendungsbereich und Architektur.

• Datenmanagement: Herkunft, Qualität und Verarbeitung der Trainingsdaten.

• Algorithmische Transparenz: Beschreibung der Entscheidungsprozesse des Systems.

• Risikoanalyse: Darstellung aller potenziellen Risiken und Maßnahmen zur Risikominderung.

Für hochrisiko-KI-Systeme ist eine unabhängige Prüfung durch eine benannte Stelle erforderlich.

• Überprüfung der technischen Dokumentation.

• Validierung der Risikoanalysen und Sicherheitsmechanismen.

• Durchführung von Tests, um die Einhaltung der Vorschriften zu gewährleisten.

Nach erfolgreicher Bewertung stellt der Hersteller eine Konformitätserklärung aus, die bestätigt, dass das System den Anforderungen der KI-Verordnung entspricht.

• Name und Beschreibung des KI-Systems.

• Referenz zu den relevanten gesetzlichen Anforderungen.

• Bestätigung der Einhaltung aller Vorschriften.

Nach erfolgreicher Konformitätsbewertung erhält das System eine CE-Kennzeichnung, die zeigt, dass es sicher und rechtskonform in der EU genutzt werden darf.

• Risikomanagementsystem: Der Hersteller muss ein fortlaufendes System implementieren, um Risiken zu identifizieren, zu bewerten und zu minimieren.

• Transparenzanforderungen: Hochrisiko-Systeme müssen nachvollziehbar und erklärbar sein, sowohl für Nutzer als auch für Regulierungsbehörden.

• Qualität der Daten: Die verwendeten Trainingsdaten müssen frei von Verzerrungen und repräsentativ sein, um Diskriminierung zu vermeiden.

• Überwachung nach der Markteinführung: Der Hersteller ist verpflichtet, das System kontinuierlich zu überwachen und Berichte über seine Leistung und Sicherheit bereitzustellen.

Im Facility Management (FM) werden KI-Systeme in sicherheitskritischen und sensiblen Bereichen eingesetzt, z. B. in der Gebäudeautomation, im Energiemanagement oder bei Zugangskontrollsystemen. Die Konformitätsbewertung ist in diesem Kontext essenziell, um die Sicherheit und Effizienz der Systeme zu gewährleisten.

• Biometrische Zutrittskontrollen: Systeme, die Gesichtserkennung oder Fingerabdrücke verwenden, müssen strengen Datenschutz- und Sicherheitsstandards entsprechen.

• Sicherheitsüberwachung: KI-gestützte Kamerasysteme, die automatisch Bedrohungen erkennen, müssen auf Genauigkeit und Transparenz geprüft werden.

• Energiemanagementsysteme: KI-basierte Lösungen zur Optimierung von Energieflüssen erfordern die Validierung von Daten und Algorithmen, um Fehlentscheidungen zu vermeiden.

• Risikobewertung: Identifikation potenzieller Diskriminierung durch ungenaue Gesichtserkennung.

• Erstellung technischer Dokumentation: Beschreibung der eingesetzten Algorithmen und der Herkunft der Trainingsdaten.

• Prüfung durch eine benannte Stelle: Validierung der Sicherheits- und Datenschutzvorkehrungen.

• Erhalt der CE-Kennzeichnung: Nach erfolgreicher Prüfung darf das System in der EU vermarktet und eingesetzt werden.

• Hoher Aufwand: Die Erstellung technischer Dokumentationen und die Durchführung unabhängiger Prüfungen können kosten- und zeitintensiv sein.

• Technologische Komplexität: Die Transparenz und Erklärbarkeit von Algorithmen stellen oft eine Herausforderung dar.

• Dynamische Entwicklungen: Die schnelle Weiterentwicklung von KI-Technologien erfordert regelmäßige Aktualisierungen der Konformitätsbewertung.

Für das Facility Management bietet sie eine Grundlage, um innovative KI-Lösungen in sicherheitskritischen Bereichen wie Zutrittskontrollen oder Energiemanagement zu implementieren. Gleichzeitig stellt der Prozess sicher, dass die Systeme den hohen Anforderungen der KI-Verordnung entsprechen und Vertrauen bei Nutzern und Kunden schaffen. Die CE-Kennzeichnung signalisiert, dass ein KI-System alle gesetzlichen Anforderungen erfüllt und sicher im europäischen Markt eingesetzt werden kann.