Unternehmen sollten vor einem KI-Agenten-Projekt den Datenfluss dokumentieren und prüfen, ob die Verarbeitung rechtmäßig, zweckgebunden und auf das Erforderliche begrenzt ist. Dazu gehören passende Vereinbarungen mit Dienstleistern, Rollenrechte, Löschregeln, Sicherheitstests und menschliche Freigaben. Welche zusätzlichen Vorgaben gelten, hängt vom Einsatzfall und den anwendbaren Gesetzen ab.
Das Wichtigste in Kürze
- Datenschutz ist bereits bei der Auswahl des KI-Prozesses relevant: Welche personenbezogenen Daten werden benötigt, an wen gehen sie und wie lange bleiben sie gespeichert?
- Für externe KI-Dienste, technische Schnittstellen und interne Zugriffe sind Verantwortlichkeiten, rechtliche Grundlagen, technische Schutzmaßnahmen und gegebenenfalls Vertragsunterlagen zu prüfen.
- Ein KI-Agent muss außerdem gegen unerlaubte Aktionen, vertrauliche Datenausgaben und fehlerhafte Ergebnisse abgesichert werden.
Für wen: Geschäftsführung, IT und Datenschutzverantwortliche in Unternehmen
Welche Daten verarbeitet der KI-Agent?
Ein Agent für Kundenanfragen kann Namen, Kontaktinformationen und Nachrichtentexte verarbeiten. Ein Dokumentenassistent sieht unter Umständen interne Geschäftsunterlagen. Welche Daten tatsächlich erforderlich sind, hängt vom definierten Zweck ab.
Besonders sensible oder unnötige Inhalte sollten von Anfang an ausgeschlossen oder angemessen geschützt werden. Testdaten sollten nach Möglichkeit erfunden oder wirksam anonymisiert sein.
Datenschutz-Checkliste vor einem Pilot
- 1Verarbeitungszweck und konkrete Datenkategorien festlegen.
- 2Rechtsgrundlage, Verantwortlichkeiten und erforderliche Informationen an betroffene Personen prüfen.
- 3Eingesetzte KI-, Hosting- und Integrationsdienstleister sowie Datenflüsse erfassen.
- 4Notwendige Vereinbarungen, Übermittlungen und Löschfristen mit Fachleuten klären.
- 5Zugriffsrechte minimieren, Testdaten trennen und technische Schutzmaßnahmen einrichten.
- 6Risiken bewerten und bei Bedarf eine Datenschutz-Folgenabschätzung durchführen.
- 7Ergebnisse, Sicherheitsvorfälle und Freigaben dokumentieren und regelmäßig kontrollieren.
Wie verhindern wir unerlaubte KI-Aktionen?
- KI-Werkzeuge nur mit den für den Prozess notwendigen Rechten ausstatten
- Schreibende Aktionen und externe Nachrichten durch verlässliche Freigaben absichern
- Anweisungen aus E-Mails oder Dokumenten niemals automatisch als Systembefehle behandeln
- Quellen, Datenzugriffe, Fehler und Entscheidungen angemessen protokollieren
- Geheimnisse und API-Schlüssel sicher verwahren und nicht in Dokumente oder Prompts kopieren
- Für Ausfälle und kritische Fehlentscheidungen einen manuellen Rückfallprozess bereitstellen
DSGVO und EU-KI-Verordnung: Was ist der Unterschied?
Die Datenschutz-Grundverordnung (DSGVO) regelt unter anderem die rechtmäßige Verarbeitung personenbezogener Daten. Die EU-KI-Verordnung enthält daneben risikobezogene Anforderungen an bestimmte KI-Systeme und deren Einsatz.
Nicht jeder interne KI-Assistent ist automatisch ein Hochrisiko-KI-System. Die Einstufung, geltenden Pflichten und Übergangsfristen müssen für die konkrete Anwendung anhand aktueller offizieller Informationen geprüft werden.
Beispiel: ein sicherer E-Mail-Agent
Unnötige Kundendaten
- Mögliche Schutzmaßnahme
- Nur definierte Felder übertragen
- Kontrolle
- Datenfluss überprüfen
Falscher E-Mail-Empfänger
- Mögliche Schutzmaßnahme
- Versand zunächst nur als Entwurf
- Kontrolle
- Freigabe und Empfängerprüfung
Unbefugter Dokumentzugriff
- Mögliche Schutzmaßnahme
- Rollenrechte pro Datenquelle
- Kontrolle
- Zugriffstest
Erfundene Antwort
- Mögliche Schutzmaßnahme
- Quellen prüfen, Unsicherheit anzeigen
- Kontrolle
- Mitarbeiterkontrolle
| Risiko | Mögliche Schutzmaßnahme | Kontrolle |
|---|---|---|
| Unnötige Kundendaten | Nur definierte Felder übertragen | Datenfluss überprüfen |
| Falscher E-Mail-Empfänger | Versand zunächst nur als Entwurf | Freigabe und Empfängerprüfung |
| Unbefugter Dokumentzugriff | Rollenrechte pro Datenquelle | Zugriffstest |
| Erfundene Antwort | Quellen prüfen, Unsicherheit anzeigen | Mitarbeiterkontrolle |
Was sollte vertraglich und organisatorisch geklärt sein?
Vor einer produktiven Integration sollten Verantwortliche und Auftragsverarbeiter, Dienstleistervereinbarungen, erlaubte Unterauftragnehmer, Rechtekonzept, Lösch- und Notfallabläufe sowie Wartungszuständigkeiten geklärt sein.
Die Beispiele ersetzen keine datenschutzrechtliche Einzelfallprüfung. Entscheidungen sollten mit der zuständigen IT und Datenschutzberatung abgestimmt werden.
Quellen

Alexander Bauer, Inhaber. Schreibt hier, was Betriebe in Handwerk, Industrie und Mittelstand vor der Entscheidung wissen sollten – mit Zahlen statt Versprechen.