Menschen müssen grundsätzlich erkennen können, dass sie unmittelbar mit einem KI-System kommunizieren, sofern dies nicht bereits offensichtlich ist. Der Hinweis muss spätestens bei der ersten Interaktion oder Wahrnehmung klar und unterscheidbar erfolgen. Er darf nicht in langen Datenschutztexten verborgen werden. Die Transparenzpflichten der KI-Verordnung gelten unabhängig davon, ob eine Anwendung als Chatbot, Assistent, digitaler Concierge oder automatisierter Service bezeichnet wird.
Service Desk und Chatbots mit KI-Transparenz steuern
Ein KI-gestützter Service Desk sollte zu Beginn erklären, dass Antworten automatisiert erzeugt werden, welche Aufgaben das System übernimmt und wo seine Grenzen liegen. Nutzer benötigen einen klaren Weg zu einer natürlichen Person. Für Notfälle, Personengefährdungen und sicherheitsrelevante Störungen muss eine direkte alternative Meldemöglichkeit bestehen. Die KI darf nicht den Eindruck erwecken, dass eine fachliche Prüfung erfolgt ist, wenn tatsächlich nur eine automatische Klassifizierung vorliegt.
Kommunikationskanal
Erforderliche Transparenz
Menschliche Alternative
Web-Chatbot
KI-Hinweis beim Start
Übergabe an Mitarbeitende
Service-Desk-Portal
Kennzeichnung automatischer Vorschläge
Manuelle Ticketprüfung
Telefonassistent
Gesprochener Hinweis
Direkte Tasten- oder Sprachwahl
E-Mail-Antwort
Kennzeichnung automatisierter Bearbeitung
Persönlicher Ansprechpartner
Digital Signage
Sichtbarer Hinweis bei generierten Inhalten
Kontakt- oder Informationsstelle
Nutzer-App
Hinweis vor automatisierter Bewertung
Korrektur- und Beschwerdefunktion
Öffentlicher Fachtext
Prüfung auf Kennzeichnungspflicht
Redaktionelle Verantwortung
Generierte Medien und Texte
Für Deepfakes und bestimmte KI-generierte oder manipulierte Bild-, Audio- und Videoinhalte bestehen besondere Offenlegungspflichten. Auch Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, können kennzeichnungspflichtig sein. Eine Ausnahme kann bestehen, wenn eine wirksame menschliche Prüfung stattgefunden hat und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.
Verständlich und barrierefrei
Transparenzhinweise müssen zur jeweiligen Zielgruppe und zum Kommunikationskanal passen. Ein kurzer gesprochener Hinweis ist für eine Telefonlösung geeigneter als ein umfangreicher Bildschirmtext. Hinweise müssen barrierefrei, sprachlich verständlich und bei Bedarf mehrsprachig bereitgestellt werden. Nutzer sollten außerdem erfahren, wie sie eine automatisierte Entscheidung korrigieren lassen, eine Beschwerde einreichen oder die weitere Verarbeitung ihrer Angaben klären können.
Nachweisbare Umsetzung
Für jeden Kommunikationskanal werden freigegebene Hinweisbausteine, Eskalationswege und Verantwortlichkeiten hinterlegt. Änderungen an Texten, Stimmen oder Benutzeroberflächen sind zu versionieren. Testnutzer sollten prüfen, ob der KI-Einsatz tatsächlich erkannt wird und der Wechsel zu menschlicher Unterstützung funktioniert. Beschwerden, Abbrüche und fehlgeleitete Notfallmeldungen liefern wichtige Hinweise auf eine unzureichende Transparenz.
