KI im Kundenservice: Chatbots, Offenlegungspflichten und was schieflaufen kann
Chatbots und virtuelle Assistenten sind häufig der erste Kontaktpunkt für Kunden. Die Governance-Pflichten und Reputationsrisiken bei Ausfällen werden oft unterschätzt.
Key Takeaways
Der EU AI Act verbietet KI-Systeme, die Menschen täuschen, indem sie vorgeben, menschlich zu sein — die Offenlegung, dass ein Nutzer mit KI interagiert, ist rechtlich erforderlich.
Kundenservice-KI, die falsche Informationen zu Produkten, Diensten, Preisen oder Ansprüchen liefert, schafft vertragliche und verbraucherschutzrechtliche Exposition für die Organisation.
KI-Kundenservice-Systeme brauchen klare Grenzen dessen, was sie zusagen können und nicht — und Eskalationswege zu menschlicher Unterstützung.
"Nur zu Informationszwecken. Dieser Artikel stellt keine rechtliche, regulatorische, finanzielle oder professionelle Beratung dar. Konsultieren Sie einen qualifizierten Spezialisten für spezifische Beratung."
Die Offenlegungspflicht
Der EU AI Act verbietet KI-Systeme, die mit der Absicht eingesetzt werden, Nutzer zu täuschen, indem sie glauben lassen, sie kommunizierten mit einem Menschen. Für Consumer-KI-Kundenservice bedeutet das: Die Offenlegung, dass Nutzer mit KI interagieren, ist in der EU rechtlich erforderlich. Das ist keine Best Practice-Empfehlung — es ist eine gesetzliche Anforderung mit Durchsetzungsmechanismen.
Das Haftungsproblem
Wenn Kundenservice-KI falsche Informationen zu Produkten, Diensten, Preisen oder Ansprüchen liefert, ist die haftende Partei nicht der KI-Anbieter. Es ist die Organisation, die das KI-System eingesetzt hat. Nach Verbraucherrecht in Australien und den meisten vergleichbaren Jurisdiktionen können Aussagen des Kundenservice-Kanals einer Organisation — einschließlich KI — bindend sein. Ein Kunde, der auf der Grundlage einer falschen KI-Aussage handelt, hat einen potenziellen Anspruch gegen die Organisation, nicht gegen den KI-Anbieter.
Governance-Anforderungen für Kundenservice-KI
Wirksame Governance für Kundenservice-KI erfordert: klare Grenzen für was die KI zusagen kann (Preisversprechen, Rückerstattungsrichtlinien, Produktverfügbarkeit), obligatorische Eskalations-Wege zu menschlicher Unterstützung für komplexe oder streitbare Anfragen, Protokollierung von KI-Kundeninteraktionen für Compliance und Streitbeilegung, und regelmäßige Überprüfung von KI-Outputs auf Genauigkeit gegen aktuelle Produkt- und Richtlinieninformationen. Die KI-Wissensdatenbank muss auf dem Laufenden gehalten werden — veraltete Informationen in der KI erzeugen Haftung, wenn sie Kunden bereitgestellt werden.