Enterprise-GenAI und Ransomware: Wo das reale Risiko entsteht

Die richtige Reaktion ist kein pauschales KI-Verbot. Agenten, Connectoren und ihre Berechtigungen gehören wie privilegierte Softwarekonten behandelt: kleinste Rechte, getrennte Lese- und Schreibpfade, Bestätigung für folgenreiche Aktionen, vollständige Protokolle und getestete Wiederherstellung.

Wie der Schaden tatsächlich entsteht

Ein realistischer Pfad hat mehrere Schritte: Ein Angreifer erlangt Zugang zu einem Konto, Token oder Endgerät. Danach nutzt er vorhandene Rechte, um Daten zu finden, zu exportieren, zu verändern oder zu löschen. Ein KI-Agent kann Suche und Ausführung vereinfachen, wenn er viele Systeme verbindet. Er ersetzt aber weder den ursprünglichen Zugang noch die nötigen Rechte.

Eine zweite Gefahr ist indirekte Prompt Injection. OWASP beschreibt, dass manipulierte Anweisungen in Webseiten, E-Mails oder Dokumenten von einem Assistenten als Befehl missverstanden werden können. Besonders riskant wird das, wenn derselbe Assistent danach Werkzeuge oder APIs aufrufen darf.

Sechs Kontrollen mit unmittelbarem Nutzen

Agenten inventarisieren: Dokumentieren, welcher Assistent auf welche Daten und Aktionen zugreifen kann.

Rechte begrenzen: Lesen, Schreiben, Export und Administration trennen. Kurzlebige Tokens und enge Scopes verkleinern den möglichen Schaden.

Folgenreiche Aktionen bestätigen: Massenexport, Löschung, Rechteänderung oder externe Freigabe nicht allein aus fremdem Inhalt heraus ausführen lassen.

Eingaben und Aktionen prüfen: Fremde Inhalte als Daten behandeln und Tool-Aufrufe gegen die ursprüngliche Nutzerabsicht validieren.

Kill Switch und Alarmierung vorsehen: Ungewöhnliche Datenmengen, neue Connectoren und Serienänderungen sichtbar machen.

Restore unabhängig testen: CISA empfiehlt geschützte Sicherungen und regelmäßige Wiederherstellungstests. Ein erreichbarer Cloud-Dienst beweist nicht, dass der richtige Datenstand zurückkommt.

Der richtige Startpunkt

Beginnen Sie mit den drei Agenten oder Automationen mit den weitesten Rechten. Erfassen Sie Datenquellen, Tools, Identität, Token-Laufzeit, erlaubte Aktionen und Notfallabschaltung. Entfernen Sie anschließend jede Berechtigung, die für den konkreten Zweck nicht nötig ist.

NIST ordnet diese Arbeit als fortlaufendes Risikomanagement ein: Risiken werden gesteuert, gemessen und nach Änderungen erneut bewertet. Das ist wichtiger als eine einmalige Sicherheitsfreigabe, weil Modelle, Connectoren und Berechtigungen laufend verändert werden.