KI erkennbar machen
Menschen müssen grundsätzlich erkennen können, dass sie unmittelbar mit einem KI-System kommunizieren, sofern dies nicht bereits offensichtlich ist. Der Hinweis muss spätestens bei der ersten Interaktion oder Wahrnehmung klar und unterscheidbar erfolgen. Er darf nicht in langen Datenschutztexten verborgen werden. Die Transparenzpflichten der KI-Verordnung gelten unabhängig davon, ob eine Anwendung als Chatbot, Assistent, digitaler Concierge oder automatisierter Service bezeichnet wird.
Service Desk und Chatbots mit KI-Transparenz steuern
Service Desk und Nutzerportale
Ein KI-gestützter Service Desk sollte zu Beginn erklären, dass Antworten automatisiert erzeugt werden, welche Aufgaben das System übernimmt und wo seine Grenzen liegen. Nutzer benötigen einen klaren Weg zu einer natürlichen Person. Für Notfälle, Personengefährdungen und sicherheitsrelevante Störungen muss eine direkte alternative Meldemöglichkeit bestehen. Die KI darf nicht den Eindruck erwecken, dass eine fachliche Prüfung erfolgt ist, wenn tatsächlich nur eine automatische Klassifizierung vorliegt.
|
| Web-Chatbot | KI-Hinweis beim Start | Übergabe an Mitarbeitende |
| Service-Desk-Portal | Kennzeichnung automatischer Vorschläge | Manuelle Ticketprüfung |
| Telefonassistent | Gesprochener Hinweis | Direkte Tasten- oder Sprachwahl |
| E-Mail-Antwort | Kennzeichnung automatisierter Bearbeitung | Persönlicher Ansprechpartner |
| Digital Signage | Sichtbarer Hinweis bei generierten Inhalten | Kontakt- oder Informationsstelle |
| Nutzer-App | Hinweis vor automatisierter Bewertung | Korrektur- und Beschwerdefunktion |
| Öffentlicher Fachtext | Prüfung auf Kennzeichnungspflicht | Redaktionelle Verantwortung |
Generierte Medien und Texte
Für Deepfakes und bestimmte KI-generierte oder manipulierte Bild-, Audio- und Videoinhalte bestehen besondere Offenlegungspflichten. Auch Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, können kennzeichnungspflichtig sein. Eine Ausnahme kann bestehen, wenn eine wirksame menschliche Prüfung stattgefunden hat und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.
Verständlich und barrierefrei
Transparenzhinweise müssen zur jeweiligen Zielgruppe und zum Kommunikationskanal passen. Ein kurzer gesprochener Hinweis ist für eine Telefonlösung geeigneter als ein umfangreicher Bildschirmtext. Hinweise müssen barrierefrei, sprachlich verständlich und bei Bedarf mehrsprachig bereitgestellt werden. Nutzer sollten außerdem erfahren, wie sie eine automatisierte Entscheidung korrigieren lassen, eine Beschwerde einreichen oder die weitere Verarbeitung ihrer Angaben klären können.
Nachweisbare Umsetzung
Für jeden Kommunikationskanal werden freigegebene Hinweisbausteine, Eskalationswege und Verantwortlichkeiten hinterlegt. Änderungen an Texten, Stimmen oder Benutzeroberflächen sind zu versionieren. Testnutzer sollten prüfen, ob der KI-Einsatz tatsächlich erkannt wird und der Wechsel zu menschlicher Unterstützung funktioniert. Beschwerden, Abbrüche und fehlgeleitete Notfallmeldungen liefern wichtige Hinweise auf eine unzureichende Transparenz.
