Ein Mitarbeiter fügt einen Auszug aus der Kundendatenbank in einen KI-Assistenten ein, um eine Erinnerungs-E-Mail zu verfassen. In wenigen Sekunden werden Namen, Adressen und Kaufhistorien über einen Drittserver übertragen, ohne Verschlüsselung oder Nachverfolgbarkeit. Dieses Szenario, das seit der Verbreitung generativer KI-Tools alltäglich ist, veranschaulicht ein konkretes Risiko: den Verlust sensibler Daten durch die Eingaben.
Datenlecks durch generative KI: ein unterschätztes Risiko in Sicherheitsrichtlinien
Starke Passwörter, Updates und Backups schützen den technischen Bereich. Keine dieser Maßnahmen deckt die Daten ab, die ein Mitarbeiter freiwillig an ein im Alltag verwendetes KI-Chat-Tool überträgt.
Die CNIL empfiehlt, die Zwecke genau zu definieren, bevor Daten an ein KI-System übermittelt werden, das Volumen der geteilten Informationen zu begrenzen und Datensätze zu anonymisieren oder zu pseudonymisieren. Wenn ein Projekt eine großangelegte Verarbeitung umfasst, wird eine Datenschutz-Folgenabschätzung vor der Bereitstellung empfohlen.
Man kann seine sensiblen Daten mit Jeune et Actif schützen, indem man zunächst die Flüsse kartiert: Welche Mitarbeiter nutzen welche Tools, mit welchen Informationskategorien. Ohne diesen Schritt bleibt jede Datenschutzrichtlinie theoretisch.
Der Reflex, den man einüben sollte: Bevor man einen Text in einen Chatbot einfügt, sollte man sich fragen, ob man bereit wäre, ihn in der Empfangshalle des Unternehmens anzuzeigen. Wenn die Antwort nein ist, muss die Eingabe umformuliert oder verworfen werden.
Pflichtschulung zur KI: Was die europäische Verordnung seit Februar 2025 vorschreibt
Seit dem 2. Februar 2025 verpflichtet die europäische Verordnung über Künstliche Intelligenz Anbieter und Betreiber von KI-Systemen, ein ausreichendes Maß an KI-Kompetenz bei ihrem Personal zu gewährleisten. Der Unterschied ist wichtig: Es geht nicht mehr um allgemeine Sensibilisierung für Cybersicherheit, sondern um eine gezielte regulatorische Anforderung.
Für eine Organisation bedeutet dies, drei Dinge zu dokumentieren:
- Die Liste der intern erlaubten KI-Tools mit ihren Nutzungsbedingungen (akzeptierte Datentypen, ausdrückliche Verbote).
- Ein datiertes und namentliches Schulungsprogramm, das nachweist, dass jeder Benutzer über die Risiken im Zusammenhang mit sensiblen Daten in den Eingaben geschult wurde.
- Ein Verfahren zur Aktualisierung dieser Schulung, wenn ein neues Tool bereitgestellt wird oder sich die Nutzung ändert.
Die Rückmeldungen variieren in diesem Punkt je nach Größe der Struktur: Ein KMU mit zehn Personen kann in einem halben Tag schulen, während eine Behörde mit mehreren Hundert Mitarbeitern einen Plan benötigt, der sich über mehrere Monate erstreckt. Die Verpflichtung bleibt jedoch dieselbe.
Backups und Verschlüsselung gegen doppelte Erpressung
Die jüngsten Angriffe kombinieren zunehmend Verschlüsselung der Systeme, Datendiebstahl und Androhung der Offenlegung. Ein Backup wiederherzustellen reicht nicht mehr aus, wenn die Angreifer eine nutzbare Kopie der sensiblen Dateien besitzen.
Diese Entwicklung verändert die Hierarchie der Prioritäten. Bevor man an Backups denkt, sollte man an Segmentierung denken: Ein Buchhalter muss keinen Zugang zu den Akten der Rechtsabteilung haben und umgekehrt. Jeder nicht gerechtfertigte Zugang ist ein potenzieller Weg zur Exfiltration.
Konkrete Maßnahmen zur Segmentierung und Verschlüsselung
Die Verschlüsselung der gespeicherten (at rest) und übertragenden Daten schützt vor direkter Ausnutzung im Falle eines Diebstahls. In Kombination mit einer strengen Netzwerksegmentierung verringert sie die Angriffsfläche für einen Angreifer, der den Sicherheitsbereich überwunden hat.
Die Zugriffsrechte auf das unbedingt Notwendige zu beschränken, bleibt die effektivste und kostengünstigste Maßnahme. Ein vierteljährliches Audit der aktiven Konten ermöglicht es, verwaiste Zugänge (ehemalige Mitarbeiter, Dienstleister, deren Auftrag beendet ist) zu identifizieren.
Lieferantenabhängigkeiten und die NIS 2-Richtlinie: Die gesamte Kette sichern
Das Risiko endet nicht an der internen Grenze. Die ENISA hebt hervor, dass Abhängigkeiten von Lieferanten und Subunternehmern ein wachsender Angriffsvektor sind. Ein kompromittierter Lohnabrechnungsdienstleister setzt die persönlichen Daten aller seiner Kunden dem Risiko aus.
Die NIS 2-Richtlinie, die derzeit in Frankreich umgesetzt wird, erweitert die Sicherheitsanforderungen auf viele Organisationen, die zuvor nicht von dem vorherigen Rahmen betroffen waren. Die sogenannten “wichtigen” Einrichtungen müssen insbesondere:
- Die Sicherheit ihrer kritischen Lieferanten formell bewerten, bevor sie Verträge abschließen.
- Benachrichtigungsklauseln in die Verträge mit Subunternehmern aufnehmen.
- Ein Risikomanagement für die digitale Lieferkette einrichten, das dokumentiert und prüfbar ist.
Vor Ort beginnt dies mit einem Inventar: Wer hostet unsere Daten, wo sind sie gespeichert und welche vertraglichen Verpflichtungen regeln ihren Schutz? Ohne diese Kartierung bleibt die Einhaltung der DSGVO und der NIS 2 ein bloßes Lippenbekenntnis.
Eine Nutzungsrichtlinie erstellen, anstatt Verbote zu stapeln
Eine Nutzungsrichtlinie für digitale Werkzeuge und KI, die gemeinsam mit den Teams erstellt wird, hat eine höhere Wahrscheinlichkeit, respektiert zu werden, als eine von oben herab erlassene Dienstanweisung. Darin werden die erlaubten Werkzeuge, die Datentypen, die niemals das interne Informationssystem verlassen dürfen, und das Vorgehen im Zweifelsfall festgelegt.
Diese Richtlinie ersetzt nicht die technischen Maßnahmen (Verschlüsselung, Segmentierung, Mehrfaktor-Authentifizierung). Sie macht sie operational, indem sie jedem Mitarbeiter einen klaren Rahmen für seine täglichen Entscheidungen gibt.
Der Schutz sensibler Daten beschränkt sich nicht mehr auf ein aktuelles Antivirenprogramm und ein komplexes Passwort. Das Aufkommen generativer KI in alltäglichen Anwendungen, die Anforderungen der europäischen KI-Verordnung und die Erweiterung des NIS 2-Rahmens verschieben den Fokus auf Governance, dokumentierte Schulung und Kontrolle der ausgehenden Flüsse. Ein aktuelles Inventar der Speicherorte und Zugriffsrechte bleibt der Ausgangspunkt jeder strukturierten Vorgehensweise.
