Die Offenlegungspflicht
Der EU AI Act verbietet KI-Systeme, die mit der Absicht eingesetzt werden, Nutzer zu täuschen, indem sie glauben lassen, sie kommunizierten mit einem Menschen. Für Consumer-KI-Kundenservice bedeutet das: Die Offenlegung, dass Nutzer mit KI interagieren, ist in der EU rechtlich erforderlich. Das ist keine Best Practice-Empfehlung, es ist eine gesetzliche Anforderung mit Durchsetzungsmechanismen.
Das Haftungsproblem
Wenn Kundenservice-KI falsche Informationen zu Produkten, Diensten, Preisen oder Ansprüchen liefert, ist die haftende Partei nicht der KI-Anbieter. Es ist die Organisation, die das KI-System eingesetzt hat. Nach Verbraucherrecht in Australien und den meisten vergleichbaren Jurisdiktionen können Aussagen des Kundenservice-Kanals einer Organisation, einschließlich KI, bindend sein. Ein Kunde, der auf der Grundlage einer falschen KI-Aussage handelt, hat einen potenziellen Anspruch gegen die Organisation, nicht gegen den KI-Anbieter.
Governance-Anforderungen für Kundenservice-KI
Wirksame Governance für Kundenservice-KI erfordert: klare Grenzen für was die KI zusagen kann (Preisversprechen, Rückerstattungsrichtlinien, Produktverfügbarkeit), obligatorische Eskalations-Wege zu menschlicher Unterstützung für komplexe oder streitbare Anfragen, Protokollierung von KI-Kundeninteraktionen für Compliance und Streitbeilegung, und regelmäßige Überprüfung von KI-Outputs auf Genauigkeit gegen aktuelle Produkt- und Richtlinieninformationen. Die KI-Wissensdatenbank muss auf dem Laufenden gehalten werden, veraltete Informationen in der KI erzeugen Haftung, wenn sie Kunden bereitgestellt werden.