Zum Inhalt springen

Betrieb · Monitoring · Verantwortung

KI-Agenten zuverlässig betreiben – und Grenzen ernst nehmen

Wir besprechen vor einem Projekt, was überwacht, freigegeben und dokumentiert werden muss. Die konkreten Maßnahmen hängen vom System, Datenzugang und gebuchten Betreuungsumfang ab.

Die technische Einrichtung ist nur der Anfang. Gerade im B2B-Betrieb müssen Zuständigkeiten, Reaktionen auf Fehler, menschliche Kontrolle, laufende Modellkosten und Änderungen an Wissensdaten klar vereinbart werden. Wir versprechen keine fehlerfreie KI.

Fehlantworten oder unklare Daten

Auslöser: Unklare Kundenangabe, widersprüchliche Information oder fehlende Quelle

  • Automatische Antwort bei kritischen Vorgängen verhindern
  • Unsichere Fälle kennzeichnen und an zuständige Personen geben
  • Fehlerfälle dokumentieren, korrigieren und in neue Tests aufnehmen

Grenze: KI bleibt fehleranfällig; ein System ist nicht automatisch fachlich oder rechtlich verbindlich.

API-Ausfall oder unterbrochene Verbindung

Auslöser: KI-Dienst, CRM, Mailserver oder Telefonanbieter antwortet nicht

  • Technische Fehlermeldung und Zuständigkeit festlegen
  • Wiederholungsversuche begrenzen; doppelte Vorgänge verhindern
  • Je nach Schnittstelle auf manuellen Eingang oder Rückrufliste umstellen

Grenze: Fallbacks sind vom jeweils freigegebenen Kundenprozess und den Schnittstellen abhängig.

Geänderte Unterlagen und Wissensstände

Auslöser: Neue Preise, Produktdaten, Anleitungen, Vorschriften oder interne Vorgaben

  • Dokumentenstand und Quelle nachvollziehbar machen
  • Änderungen vor Aufnahme ins Wissenssystem prüfen und freigeben
  • Veraltete Quellen sperren; Testfragen nach Aktualisierung wiederholen

Grenze: Nicht geprüfte Informationen dürfen nicht als verbindliche Auskunft ausgegeben werden.

Unerwartet hohe Modell- und Betriebskosten

Auslöser: Mehr Anfragen, längere Texte, neue Funktionen oder ungewöhnliche Nutzung

  • Nutzung und Grenzwerte vorab vereinbaren
  • Kostenwarnungen und technische Schutzlimits nach Machbarkeit einrichten
  • Ursachen mit dem Kunden prüfen, Anpassungen nur nach Freigabe

Grenze: Ein fixes Monatsbudget kann nur mit geeigneten technischen Begrenzungen und Preisvereinbarungen zugesichert werden.

Datenschutz und Zugriffsberechtigungen

Auslöser: Personenbezogene Daten, Rollenwechsel, neue Integrationen oder Datenweitergabe

  • Datenminimierung und zulässige Rechtsgrundlagen mit Verantwortlichen klären
  • Rollen, Berechtigungen und Löschfristen dokumentieren
  • AV-Verträge, Hosting und Drittanbietertransfers vor dem Betrieb prüfen

Grenze: Datenschutzkonformität ist projektabhängig und benötigt geeignete technische, organisatorische und rechtliche Prüfung.

Wie Betreuung vereinbart wird

Vor Produktivstart legen wir fest: Was wird protokolliert? Wer erhält Warnungen? Wie schnell und über welchen Kanal reagieren wir? Welche Änderungen sind inklusive? Wer gibt kostenauslösende Aktionen frei? Welche Daten dürfen gespeichert werden? Ohne ausdrückliche Vereinbarung gibt es keine zugesicherte 24/7-Überwachung oder garantierte Reaktionszeit.