KI und DSGVO: Wie setzt man KI datenschutzgerecht ein?

Wie setzt man KI datenschutzgerecht ein?

Datenschutzgerechter KI-Einsatz beginnt mit der Frage, ob überhaupt personenbezogene Daten verarbeitet werden. Wenn ja, braucht es einen festgelegten Zweck, eine Rechtsgrundlage nach Art. 6 DSGVO, einen geeigneten Vertrag mit dem Anbieter, Informationen für Betroffene und technische Schutzmaßnahmen.

Die deutschen Datenschutzaufsichtsbehörden haben dazu im Mai 2024 die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ veröffentlicht (Pressemitteilung der DSK vom 06.05.2024). Sie ist als Checkliste für Auswahl, Einführung und Nutzung von KI-Anwendungen aufgebaut, mit Schwerpunkt auf großen Sprachmodellen. Die folgenden Abschnitte orientieren sich an den Grundsätzen der DSGVO (Verordnung (EU) 2016/679).

Die Prüfpunkte im Überblick

Welche Rechtsgrundlage braucht der KI-Einsatz?

Für jede Verarbeitung personenbezogener Daten muss eine der Rechtsgrundlagen aus Art. 6 Abs. 1 DSGVO greifen. In Unternehmen sind das meist die Erfüllung eines Vertrags, eine rechtliche Pflicht oder ein berechtigtes Interesse, das gegen die Interessen der Betroffenen abgewogen wird.

Ein Beispiel: Ein Betrieb lässt eingehende Kundenanfragen von einer KI vorsortieren, damit sie schneller beim richtigen Ansprechpartner landen. Das kann auf die Vertragsanbahnung oder ein berechtigtes Interesse gestützt werden. Sollen dieselben Daten dagegen genutzt werden, um ein eigenes Modell zu trainieren, ist das ein neuer Zweck, der gesondert zu prüfen ist (Art. 6 Abs. 4 DSGVO).

Besondere Vorsicht gilt bei Daten nach Art. 9 DSGVO, etwa Gesundheitsdaten, und bei Daten, die einem Berufsgeheimnis unterliegen, zum Beispiel in Arztpraxen, Kanzleien oder Steuerberatungen. Hier kommen neben der DSGVO berufsrechtliche Pflichten hinzu.

Brauche ich einen Auftragsverarbeitungsvertrag mit dem KI-Anbieter?

In den meisten Fällen ja. Wenn ein externer KI-Dienst personenbezogene Daten in Ihrem Auftrag verarbeitet, ist er Auftragsverarbeiter, und Art. 28 DSGVO verlangt einen schriftlichen oder elektronischen Vertrag mit festgelegten Mindestinhalten.

Bei Verbraucherangeboten von KI-Chats fehlt ein solcher Vertrag oft, und Eingaben können je nach Einstellung zur Verbesserung der Modelle verwendet werden. Für den geschäftlichen Einsatz sollten Sie daher auf Folgendes achten:

• Business- oder API-Zugang statt privatem Konto,
• Auftragsverarbeitungsvertrag (häufig „Data Processing Addendum“ genannt) abgeschlossen und abgelegt,
• kein Training mit Ihren Daten, vertraglich zugesichert,
• Speicherdauer von Eingaben und Ausgaben bekannt und möglichst kurz,
• Unterauftragsverarbeiter aufgelistet.

Mehr zu den Inhalten eines solchen Vertrags finden Sie im Glossar unter Auftragsverarbeitungsvertrag.

Dürfen Daten an KI-Anbieter außerhalb der EU fließen?

Ja, aber nur mit einer Absicherung nach Kapitel V DSGVO. Für die USA hat die EU-Kommission am 10. Juli 2023 einen Angemessenheitsbeschluss zum EU-US Data Privacy Framework erlassen, der für zertifizierte US-Unternehmen gilt.

Ob ein Anbieter zertifiziert ist, lässt sich in der offiziellen Data-Privacy-Framework-Liste prüfen. Ist er nicht zertifiziert, kommen Standardvertragsklauseln in Betracht, verbunden mit einer Bewertung der Rechtslage im Empfängerland. Viele große Anbieter bieten inzwischen an, Daten in Rechenzentren innerhalb der EU zu verarbeiten. Das vereinfacht die Bewertung, ersetzt aber nicht den Blick in den Vertrag, denn auch ein EU-Rechenzentrum kann einem Unternehmen mit Sitz außerhalb der EU gehören.

Eine Alternative für besonders sensible Daten sind Modelle, die auf eigener Hardware oder in einer selbst kontrollierten Umgebung laufen. Sie sind meist weniger leistungsfähig als die großen Cloud-Modelle, halten die Daten aber im eigenen Haus.

Was gilt, wenn KI Entscheidungen über Menschen trifft?

Art. 22 DSGVO gibt Betroffenen das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Das betrifft etwa Kreditentscheidungen, Bewerberauswahl oder Vertragsablehnungen.

Für die Praxis heißt das: KI darf vorbereiten, sortieren und vorschlagen. Die Entscheidung über Menschen sollte eine Person treffen, die den Vorschlag tatsächlich prüft und abweichen kann. Nach den Leitlinien der europäischen Datenschutzbehörden zu automatisierten Entscheidungen (WP 251) muss die menschliche Beteiligung echt sein, ein bloßes Abnicken reicht nicht. Das deckt sich mit einem Grundsatz, der ohnehin für KI gilt: Sprachmodelle können sich irren, deshalb gehört eine menschliche Kontrolle in jeden Ablauf mit Folgen.

Welche Rolle spielt der EU AI Act beim Datenschutz?

Der AI Act (Verordnung (EU) 2024/1689) ersetzt die DSGVO nicht, sondern gilt zusätzlich. Er regelt die Sicherheit und Transparenz von KI-Systemen, während die DSGVO den Umgang mit personenbezogenen Daten regelt.

Für die meisten Unternehmen, die KI nutzen, sind derzeit zwei Pflichten besonders relevant:

• KI-Kompetenz (Art. 4): Seit dem 2. Februar 2025 müssen Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, damit ihr Personal über ausreichende KI-Kompetenz verfügt. Details im Ratgeber KI-Kompetenz nach Artikel 4.
• Transparenz (Art. 50): Seit dem 2. August 2026 müssen Menschen erkennen können, dass sie mit einem KI-System interagieren, etwa mit einem Chatbot, sofern das nicht offensichtlich ist. Mehr dazu unter KI-Kennzeichnungspflicht.

Die 2026 beschlossenen Änderungen durch den sogenannten Digital-Omnibus haben vor allem die Fristen für Hochrisiko-Systeme verschoben. Die Transparenzpflichten aus Art. 50 gelten nach Darstellung von Fachveröffentlichungen unverändert seit dem 2. August 2026. Einen Überblick über alle Fristen gibt der Ratgeber EU AI Act im Überblick.

Wie sieht eine datenschutzfreundliche KI-Architektur aus?

Datenschutzfreundliche KI gibt dem Modell nur die Daten, die es für die konkrete Aufgabe braucht, und hält fest, was es wann getan hat. Technische Maßnahmen nach Art. 25 und 32 DSGVO sind dabei mindestens so wichtig wie Verträge.

Bewährte Bausteine sind:

1. Datenminimierung vor dem Modell: Namen, Adressen oder Kontonummern vor der Übergabe entfernen oder durch Platzhalter ersetzen, wenn sie für die Aufgabe nicht nötig sind.
2. Eng begrenzte Werkzeuge: Ein KI-Agent erhält nur Zugriff auf die Systeme und Datensätze, die er braucht, statt auf das ganze Netzlaufwerk.
3. Rollen und Rechte: Wer die KI nutzt, sieht nur, was er auch ohne KI sehen dürfte.
4. Protokollierung: Jede Abfrage und jede Aktion wird nachvollziehbar gespeichert, mit begrenzter Aufbewahrungsdauer.
5. Löschkonzept: Zwischenergebnisse, Uploads und Verläufe werden nach festgelegten Fristen gelöscht.
6. Menschliche Prüfung: Ergebnisse mit Wirkung nach außen gibt eine verantwortliche Person frei.

Welche Schritte sollten Unternehmen jetzt gehen?

Erfassen Sie zuerst, welche KI-Werkzeuge im Betrieb bereits genutzt werden, auch inoffiziell. Danach legen Sie fest, welche Werkzeuge mit welchen Daten erlaubt sind, und schließen die nötigen Verträge.

Eine kurze Reihenfolge für den Start:

1. Bestandsaufnahme: Welche KI-Dienste nutzen Mitarbeitende, mit welchen Konten und welchen Daten?
2. Nutzungsregel: Eine schriftliche Richtlinie, welche Daten in welche Werkzeuge dürfen.
3. Verträge: Auftragsverarbeitungsverträge abschließen, Drittlandtransfer prüfen, Trainingsnutzung ausschließen.
4. Verzeichnis: Neue Verarbeitungen in das Verzeichnis der Verarbeitungstätigkeiten (Art. 30 DSGVO) aufnehmen.
5. Information: Datenschutzerklärung und Informationen für Beschäftigte anpassen.
6. Schulung: KI-Kompetenz nach Art. 4 AI Act vermitteln und dokumentieren.
7. Risikoprüfung: Bei sensiblen oder umfangreichen Verarbeitungen eine Datenschutz-Folgenabschätzung prüfen.

Wer KI in bestehende Abläufe einbinden möchte, sollte diese Punkte bereits bei der Planung berücksichtigen, nicht erst nach der Einführung. Wie solche Projekte grundsätzlich aufgebaut sind, beschreibt die Seite KI-Automatisierung.