Zum Inhalt springen

Ratgeber · KI & Automatisierung

KI-Agenten und Datenschutz: Was Unternehmen vor dem Start prüfen müssen

Eine praktische Datenschutz- und Sicherheitscheckliste für KI-Agenten mit Kundendaten, Dokumenten und Schnittstellen.

Von Alexander Bauer, BetriebsagenturAktualisiert am 8 Minuten Lesezeit

Unternehmen sollten vor einem KI-Agenten-Projekt den Datenfluss dokumentieren und prüfen, ob die Verarbeitung rechtmäßig, zweckgebunden und auf das Erforderliche begrenzt ist. Dazu gehören passende Vereinbarungen mit Dienstleistern, Rollenrechte, Löschregeln, Sicherheitstests und menschliche Freigaben. Welche zusätzlichen Vorgaben gelten, hängt vom Einsatzfall und den anwendbaren Gesetzen ab.

Das Wichtigste in Kürze

  • Datenschutz ist bereits bei der Auswahl des KI-Prozesses relevant: Welche personenbezogenen Daten werden benötigt, an wen gehen sie und wie lange bleiben sie gespeichert?
  • Für externe KI-Dienste, technische Schnittstellen und interne Zugriffe sind Verantwortlichkeiten, rechtliche Grundlagen, technische Schutzmaßnahmen und gegebenenfalls Vertragsunterlagen zu prüfen.
  • Ein KI-Agent muss außerdem gegen unerlaubte Aktionen, vertrauliche Datenausgaben und fehlerhafte Ergebnisse abgesichert werden.

Für wen: Geschäftsführung, IT und Datenschutzverantwortliche in Unternehmen

Welche Daten verarbeitet der KI-Agent?

Ein Agent für Kundenanfragen kann Namen, Kontaktinformationen und Nachrichtentexte verarbeiten. Ein Dokumentenassistent sieht unter Umständen interne Geschäftsunterlagen. Welche Daten tatsächlich erforderlich sind, hängt vom definierten Zweck ab.

Besonders sensible oder unnötige Inhalte sollten von Anfang an ausgeschlossen oder angemessen geschützt werden. Testdaten sollten nach Möglichkeit erfunden oder wirksam anonymisiert sein.

Datenschutz-Checkliste vor einem Pilot

  1. 1Verarbeitungszweck und konkrete Datenkategorien festlegen.
  2. 2Rechtsgrundlage, Verantwortlichkeiten und erforderliche Informationen an betroffene Personen prüfen.
  3. 3Eingesetzte KI-, Hosting- und Integrationsdienstleister sowie Datenflüsse erfassen.
  4. 4Notwendige Vereinbarungen, Übermittlungen und Löschfristen mit Fachleuten klären.
  5. 5Zugriffsrechte minimieren, Testdaten trennen und technische Schutzmaßnahmen einrichten.
  6. 6Risiken bewerten und bei Bedarf eine Datenschutz-Folgenabschätzung durchführen.
  7. 7Ergebnisse, Sicherheitsvorfälle und Freigaben dokumentieren und regelmäßig kontrollieren.

Wie verhindern wir unerlaubte KI-Aktionen?

  • KI-Werkzeuge nur mit den für den Prozess notwendigen Rechten ausstatten
  • Schreibende Aktionen und externe Nachrichten durch verlässliche Freigaben absichern
  • Anweisungen aus E-Mails oder Dokumenten niemals automatisch als Systembefehle behandeln
  • Quellen, Datenzugriffe, Fehler und Entscheidungen angemessen protokollieren
  • Geheimnisse und API-Schlüssel sicher verwahren und nicht in Dokumente oder Prompts kopieren
  • Für Ausfälle und kritische Fehlentscheidungen einen manuellen Rückfallprozess bereitstellen

DSGVO und EU-KI-Verordnung: Was ist der Unterschied?

Die Datenschutz-Grundverordnung (DSGVO) regelt unter anderem die rechtmäßige Verarbeitung personenbezogener Daten. Die EU-KI-Verordnung enthält daneben risikobezogene Anforderungen an bestimmte KI-Systeme und deren Einsatz.

Nicht jeder interne KI-Assistent ist automatisch ein Hochrisiko-KI-System. Die Einstufung, geltenden Pflichten und Übergangsfristen müssen für die konkrete Anwendung anhand aktueller offizieller Informationen geprüft werden.

Beispiel: ein sicherer E-Mail-Agent

  • Unnötige Kundendaten

    Mögliche Schutzmaßnahme
    Nur definierte Felder übertragen
    Kontrolle
    Datenfluss überprüfen
  • Falscher E-Mail-Empfänger

    Mögliche Schutzmaßnahme
    Versand zunächst nur als Entwurf
    Kontrolle
    Freigabe und Empfängerprüfung
  • Unbefugter Dokumentzugriff

    Mögliche Schutzmaßnahme
    Rollenrechte pro Datenquelle
    Kontrolle
    Zugriffstest
  • Erfundene Antwort

    Mögliche Schutzmaßnahme
    Quellen prüfen, Unsicherheit anzeigen
    Kontrolle
    Mitarbeiterkontrolle

Was sollte vertraglich und organisatorisch geklärt sein?

Vor einer produktiven Integration sollten Verantwortliche und Auftragsverarbeiter, Dienstleistervereinbarungen, erlaubte Unterauftragnehmer, Rechtekonzept, Lösch- und Notfallabläufe sowie Wartungszuständigkeiten geklärt sein.

Die Beispiele ersetzen keine datenschutzrechtliche Einzelfallprüfung. Entscheidungen sollten mit der zuständigen IT und Datenschutzberatung abgestimmt werden.

Quellen

Alexander Bauer, Inhaber von Betriebsagentur, an seinem Arbeitsplatz

Alexander Bauer, Inhaber. Schreibt hier, was Betriebe in Handwerk, Industrie und Mittelstand vor der Entscheidung wissen sollten – mit Zahlen statt Versprechen.

Häufige Fragen

Was Betriebe dazu am häufigsten fragen.

Grundsätzlich kann das unter geeigneten rechtlichen und technischen Voraussetzungen möglich sein. Entscheidend sind Zweck, Rechtsgrundlage, erforderliche Daten, betroffene Personen und eingesetzte Dienstleister.

Nein. Datenschutzkonformität ergibt sich aus der konkreten Verarbeitung und ihren Schutzmaßnahmen, nicht allein aus dem verwendeten KI-Modell oder Anbieter.

Nicht pauschal für jedes Projekt. Ob sie erforderlich ist, richtet sich insbesondere nach dem Risiko der konkreten personenbezogenen Datenverarbeitung.

KI-Projekt sicher planen

Wir besprechen erforderliche Daten, Zugriffsrechte, Freigaben und welche IT- und Datenschutzprüfung notwendig ist. Kostenlos und unverbindlich.