EU AI Act und KI-Telefonassistenten: Was unsere Kunden jetzt wissen sollten

Transparenz am Telefon ist der wichtigste Punkt

Anrufer sollten erkennen können, dass sie mit einem KI-System sprechen. Ein kurzer Hinweis reicht in der Regel aus. Zum Beispiel:

„Guten Tag. Sie sprechen mit dem digitalen Telefonassistenten von [Betriebsname]. Wie kann ich Ihnen helfen?“

Damit entsteht keine falsche Erwartung. Der Anrufer weiß, dass zunächst ein automatisiertes System zuhört und Informationen aufnimmt.

Unser KI-Telefonassistent kann zusätzlich auf Wunsch erklären, welche Aufgaben er übernimmt. Dazu gehören zum Beispiel die Aufnahme von Kontaktdaten, die Erfassung eines Anliegens oder die Weiterleitung an einen Rückruf durch das Team.

Welche Aufgaben sind meist unkritisch?

Ein Telefonassistent für einen Handwerks- oder Dienstleistungsbetrieb übernimmt typischerweise organisatorische Aufgaben. Dazu zählen:

• Anrufe außerhalb der Öffnungszeiten entgegennehmen
• Namen, Telefonnummern und Anliegen aufnehmen
• Termine oder Rückrufwünsche vormerken
• häufige Fragen zu Leistungen und Erreichbarkeit beantworten
• dringende Anliegen nach vorher festgelegten Regeln weiterleiten

Solche Anwendungen sind in der Regel nicht mit besonders sensiblen KI-Einsätzen gleichzusetzen. Ein Assistent entscheidet beispielsweise nicht über einen Kredit, eine Bewerbung oder einen Versicherungsanspruch. Er unterstützt die Kommunikation und ersetzt keine fachliche oder rechtliche Entscheidung.

Die konkrete rechtliche Einordnung hängt trotzdem vom Einsatz ab. Eine allgemeine Aussage ersetzt daher keine Prüfung des jeweiligen Systems und der verwendeten Daten.

Datenschutz bleibt unabhängig vom AI Act wichtig

Der EU AI Act ersetzt nicht die Datenschutz-Grundverordnung. Sobald ein Telefonassistent personenbezogene Daten verarbeitet, gelten weiterhin die bekannten Datenschutzanforderungen.

Unsere Kunden sollten deshalb vor dem Einsatz klären:

• Welche Daten werden im Gespräch erfasst?
• Werden Gespräche vollständig aufgezeichnet oder nur Gesprächsinhalte als Text verarbeitet?
• Wie lange werden Daten gespeichert?
• Wer kann auf Gesprächsnotizen und Rückruflisten zugreifen?
• Mit welchen Dienstleistern werden Daten verarbeitet?
• Gibt es eine Vereinbarung zur Auftragsverarbeitung?

Eine vollständige Gesprächsaufzeichnung ist nicht für jede Anwendung erforderlich. Oft genügt es, nur die Informationen zu speichern, die für einen Rückruf oder die Bearbeitung des Anliegens notwendig sind. Das reduziert Aufwand und Datenschutzrisiken.

Klare Grenzen für den Telefonassistenten festlegen

Ein KI-Telefonassistent sollte keine Aufgaben übernehmen, für die er nicht zuverlässig eingesetzt werden kann. Das gilt besonders bei Notfällen, Beschwerden oder verbindlichen Fachauskünften.

Sinnvolle Regeln sind zum Beispiel:

• In Notfällen verweist der Assistent auf die zuständigen Notrufnummern.
• Bei unklaren oder komplizierten Anliegen bietet er einen Rückruf an.
• Preiszusagen erfolgen nur, wenn sie eindeutig hinterlegt sind.
• Der Assistent gibt keine verbindliche technische, medizinische oder rechtliche Beratung.
• Anrufer können einen menschlichen Ansprechpartner verlangen.

Diese Grenzen helfen nicht nur bei der Einhaltung von Vorgaben. Sie verhindern auch Missverständnisse im Kundenkontakt. Gerade bei einem Heizungsnotdienst, einem Pflegedienst oder einem Reparaturbetrieb muss klar sein, wann ein Mensch übernehmen muss.

Was unsere Kunden jetzt umsetzen können

Für die meisten kleinen und mittleren Betriebe ist kein umfangreiches KI-Projekt erforderlich. Ein überschaubarer Prüfprozess reicht als erster Schritt:

1. Einsatz festlegen: Welche Anrufe soll der Assistent bearbeiten?
2. Daten beschränken: Welche Angaben sind für die Bearbeitung wirklich notwendig?
3. Hinweis vorbereiten: Anrufer werden zu Beginn über den Einsatz von KI informiert.
4. Übergaben definieren: Bei welchen Anliegen wird ein Mitarbeiter eingebunden?
5. Speicherung prüfen: Daten werden nur so lange gespeichert, wie sie benötigt werden.
6. Mitarbeiter informieren: Das Team kennt die Funktionsweise und die Grenzen des Systems.

Unser KI-Telefonassistent lässt sich auf solche Regeln und Abläufe ausrichten. Er soll unsere Kunden bei der Erreichbarkeit unterstützen. Er soll keine unklaren Entscheidungen treffen oder den persönlichen Kontakt dort ersetzen, wo dieser erforderlich ist.

Die Regulierung von KI wird weiterentwickelt. Für unsere Kunden bedeutet das vor allem: transparent informieren, personenbezogene Daten sparsam verarbeiten und klare Zuständigkeiten schaffen. Wer diese Grundlagen von Anfang an berücksichtigt, kann einen KI-Telefonassistenten in Städten wie Leipzig sowie in kleineren Orten der Region nachvollziehbar und verantwortungsvoll einsetzen.