← Alle Beiträge
November 2024·Johannes Adler·5 Min. Lesezeit

KI-Agenten sicher einsetzen: Datenschutz, Freigaben, Protokoll

Ein Agent, der Mails liest und Daten verarbeitet, arbeitet mit sensiblen Informationen. Bevor er produktiv läuft, gehören vier Punkte geklärt. Das ist keine Raketenwissenschaft, aber es muss bewusst entschieden werden.

1. Datenschutz und Speicherort

Das revidierte Schweizer Datenschutzgesetz (nDSG) gilt auch für KI-Anwendungen. Klären Sie, welche Daten der Agent sieht, wo sie verarbeitet werden und ob der Anbieter Ihre Daten zum Training verwendet. Wo es möglich ist, sollten Verarbeitung und Speicherung in der Schweiz oder in der EU liegen. Für sensible Daten kommen auch lokal betriebene Modelle in Frage. Ein Auftragsbearbeitungsvertrag gehört zum Standard.

2. Minimale Zugriffsrechte

Ein Agent erhält nur die Rechte, die er für seine Aufgabe braucht. Ein Agent, der Offerten vorbereitet, muss weder auf die Lohnbuchhaltung noch auf alle Ordner zugreifen. Eigene Zugänge pro Agent machen ausserdem nachvollziehbar, wer was getan hat.

3. Mensch gibt kritische Schritte frei

Alles, was sich nicht einfach rückgängig machen lässt, braucht eine Freigabe: Zahlungen, Verträge, Nachrichten an Kunden, das Löschen von Daten. Der Agent bereitet vor und zeigt, was er tun würde. Sie entscheiden. Bei unkritischen Schritten kann er selbstständig arbeiten.

4. Protokoll und Nachvollziehbarkeit

Jeder Durchlauf wird festgehalten: Was kam herein, was hat der Agent entschieden, welche Werkzeuge wurden genutzt, wer hat freigegeben. So lassen sich Fehler finden, Abläufe verbessern und Fragen von Kunden oder Prüfern beantworten.

Und wenn der Agent sich irrt?

Das wird passieren. Entscheidend ist, dass ein Fehler abgefangen wird, bevor er Folgen hat: durch Freigaben, Plausibilitätsprüfungen und ein Protokoll. Ein sauber aufgesetzter Agent ist deshalb nicht fehlerfrei, aber kontrolliert.

Fazit

Sicherheit ist bei KI-Agenten keine Zusatzaufgabe am Ende, sondern Teil des Entwurfs. Wer Zugriffe, Freigaben und Protokoll von Anfang an einplant, kann Agenten mit gutem Gefühl einsetzen.

Ein Beispiel aus der Praxis

Ein Agent soll Rechnungen vorbereiten. Er erhält Lesezugriff auf den Rechnungseingang und Schreibzugriff auf einen Entwurfsordner, mehr nicht. Er kann keine Zahlungen auslösen und nichts löschen. Jede Rechnung, die er verarbeitet, erscheint mit seinem Vorschlag in einer Liste. Eine Person bestätigt oder korrigiert. Das Protokoll hält fest, wer wann was freigegeben hat. Wenn der Agent sich irrt, ist der Schaden begrenzt und der Fehler nachvollziehbar.

Häufige Fehler und wie Sie sie vermeiden

Zu weitreichende Zugriffe

Ein Agent mit Vollzugriff auf alles ist ein unnötiges Risiko. Rechte nach dem Prinzip «so wenig wie möglich».

Daten ohne Klärung ins Ausland

Prüfen Sie Speicherort, Anbieter und Auftragsbearbeitung, bevor Personendaten verarbeitet werden.

Kein Notausschalter

Sie müssen einen Agenten jederzeit stoppen können, ohne Spezialwissen.

Prompt-Injection ignorieren

Externe Texte können versteckte Anweisungen enthalten. Agenten dürfen Inhalte aus Mails oder Webseiten nie als Befehle behandeln.

Checkliste vor dem Start

So gehen wir vor

Vor dem Start klären wir gemeinsam Datenarten, Speicherorte und Rollen und halten sie in einer kurzen Übersicht fest. Zugriffe werden minimal vergeben, kritische Aktionen mit Freigabe versehen und alle Schritte protokolliert. Danach testen wir mit Beispieldaten, bevor echte Daten fliessen.

Häufige Fragen

Ist der Einsatz mit dem nDSG vereinbar?

Ja, wenn Zweck, Speicherort, Auftragsbearbeitung und Information der Betroffenen geklärt sind. Wir unterstützen bei der Dokumentation, ersetzen aber keine Rechtsberatung.

Sehen Anbieter unsere Daten?

Das hängt vom Anbieter und Vertrag ab. Wir wählen Anbieter und Einstellungen so, dass Ihre Daten nicht zum Training verwendet werden.

Wie erkennen wir Fehlverhalten?

Über Protokolle und Stichproben. Auffälligkeiten werden gemeldet, und kritische Schritte laufen ohnehin über eine Freigabe.

Weiterlesen

Soll ein Agent auf Ihre Daten zugreifen?

Wir klären mit Ihnen Datenschutz, Zugriffe und Freigaben, bevor etwas live geht.

Potenzialgespräch anfragen →