Erklärbarkeit, Ressourceneffizienz und Exit-Fähigkeit zeigen, ob eine KI-Lösung nur beeindruckt oder langfristig verantwortbar bleibt. Technische Exzellenz zeigt sich nicht nur in Leistung, sondern in Beherrschbarkeit: Quellen, Versionen, Zugriffe, Abhängigkeiten und Rückfallwege müssen verständlich bleiben. Im Mittelpunkt steht: Nachvollziehbarkeit, Ressourcenverbrauch und Wechselbarkeit. Die Leitfrage lautet: Was muss auch dann funktionieren, wenn Modell, Anbieter oder Verbindung ausfallen?
Der entscheidende Perspektivwechsel besteht darin, das Thema nicht als isoliertes Architekturthema, sondern als zusammenhängende Gestaltungsaufgabe zu behandeln. Im Mittelpunkt steht: Nachvollziehbarkeit, Ressourcenverbrauch und Wechselbarkeit. Dafür müssen Entscheidungseinfluss, Zielgruppen, Rechenbedarf sowie Hosting früh miteinander verbunden werden. Steuerung entsteht durch adressatengerechte Erklärungen, Ressourcenkriterien, Portabilität sowie Exporttests. Black-Box-Vertrauen, unnötiger Rechenverbrauch sowie Greenwashing sind keine kleinen Nebenwirkungen, sondern Hinweise darauf, dass Zielbild und Realität auseinanderlaufen. Nicht alles, was technisch möglich ist, verbessert automatisch die Arbeit. Welche technische Leistung brauchen wir wirklich - und welche Komplexität können wir dauerhaft beherrschen?
Vertrauensarchitektur
Versprechen
Schutzgeländer
Glaubwürdiger Beleg
Nachvollziehbarkeit, Ressourcenverbrauch und Wechselbarkeit
adressatengerechte Erklärungen, Ressourcenkriterien sowie Portabilität
Erklärungskonzept, Energie- und Kostenbericht sowie Exportpaket
Menschen bleiben handlungsfähig
Aufsicht, Widerspruch und Eskalation
trainierte Eingriffs- und Rückfallwege
Innovation bleibt korrigierbar
Stoppsignale bei Black-Box-Vertrauen sowie unnötiger Rechenverbrauch
Incident- und Änderungsprotokolle
Wert wird sichtbar
Baseline und regelmäßiges Review
Erklärungsqualität, Energie je Vorgang, Modellkosten, Exportdauer sowie Wechselaufwand und Betriebsunterbrechung
Menschliche Kontrolle
Technische Systeme erkennen Muster, aber sie kennen nicht automatisch die Geschichte eines Gebäudes, die Gründe für einen provisorischen Umbau oder die Bedeutung einer ungewöhnlichen Nutzeranforderung. Dieses Kontextwissen bleibt menschlich. Fachkräfte müssen deshalb an Datenmodell, Testfällen und Grenzwerten mitarbeiten. IT und OT sichern Plattform und Schnittstellen, während die FM-Organisation bestimmt, welche Entscheidung im Betrieb überhaupt sinnvoll und zulässig ist.
Vom Labor zur Infrastruktur
Im Betrieb wird die Idee an einem konkreten Arbeitsfall überprüfbar: Eine Wissensassistenz weist Quellen aus und kann mit Daten, Prompts und Konfiguration zu einem anderen Anbieter wechseln. Die Lernschleife erhält klare Leitplanken durch adressatengerechte Erklärungen, Ressourcenkriterien, Portabilität sowie Exporttests. Beobachtbar bleibt sie über Erklärungskonzept, Energie- und Kostenbericht, Exportpaket, Exit-Test sowie Vertragsnachweis und Migrationsplan. Fachliche Orientierung geben ISO/IEC 42001, ISO/IEC 25059 sowie ISO 50001; welche Anforderungen tatsächlich gelten, hängt jedoch von Rechtsrolle, Schutzbedarf und konkretem Betriebsrisiko ab. So wird der Pilot nicht zur Show, sondern zum Lernraum: begrenzt genug für Sicherheit und real genug für belastbare Erkenntnisse.
Souverän bleiben
Tragfähigkeit zeigt sich an Erklärungsqualität, Energie je Vorgang, Modellkosten, Exportdauer sowie Wechselaufwand und Betriebsunterbrechung. Technik ist dann reif, wenn sie auch unter Veränderung verständlich, sicher und beherrschbar bleibt. So entsteht keine Abhängigkeit von einer Blackbox, sondern eine Infrastruktur, die menschliches Urteil verstärkt.
