Durch den zunehmenden Einsatz von KI-Systemen besteht für Unternehmen eine zunehmende Gefahr durch Fehlverhalten von Mitarbeitenden meldepflichtige Datenschutzverstöße zu begehen, was, neben der genannten Folge auch eine Haftung oder gar Bußgelder auslösen kann. Wir möchten hier etwas mehr Aufmerksamkeit auf das Thema lenken.
Wie können solche Datenpannen in Zusammenhang mit KI entstehen? Hier ein paar Beipiele aus der Praxis:
- Mitarbeiter zeichnen Meetingprotokolle entgegen den internen Regeln auf, die dann mittels externer Kl transkribiert oder zusammengefasst werden.
- Fremdsprachliche Texte werden komplett mit personenbezogenen Daten mit Kl übersetzt.
- KI wird für die E-Mailkommunikation verwendet, man entwirft Antworten auf E-Mails von anderen Personen, wie zB Kunden oder anderen Mitarbeitern ohne die Daten zu anonymisieren.
- Mitarbeitende setzen Kl vorschriftswidrig bei der Bewerberauswahl, der Leistungserfassung der Mitarbeitenden oder der Erstellung von Dienstplänen ein.
Viele datenschutzrechtliche Fragen im Zusammenhang mit KI werden noch zu klären sein bzw. sind noch nicht gerichtlich entschieden. Wie z.B. die datenschutzrechtlich Qualität der Daten in KI-Systemen. Besteht z.B. ein Löschanspruch gegen einen KI-Systembetreiber und wie soll das umgesetzt werden (Stichwort: „Machine Unlearning“).
Grundsätzlich wird man aber davon ausgehen können, dass schon das Training eines KI-Systems eine Datenverarbeitung nach der DSGVO darstellt. Nach einer, wenn auch nicht einhelligen Ansicht, liegt beim Hochladen von personenbezogenen Daten in ein GPAl in den genannten Fällen eine „Verletzung des Schutzes personenbezogener Daten” vor, die der Verantwortliche unverzüglich und “möglichst” binnen 72 Stunden, nachdem ihm die Verletzung bekannt wurde, der Aufsichtsbehörde melden muss.
Für Unternehmen besteht hier das Problem, dass in vielen Fällen der nicht autorisierte Einsatz von Kl im Unternehmen nicht ans Tageslicht kommt und wenn, dann zumeist erst recht spät. Die Verlockung, bei einem Problem oder zur Arbeitserleichterung gerade auch KI (vielleicht sogar über einen persönlichen Account) zum Einsatz zu bringen, ist groß.
Bekannt werden kann so etwas aber eben doch und solche Fälle werden sich zukünftig vermutlich auch zunehmen. Durch Hinweisgeber kann eine solche Datenpanne im Sinn der Art. 33, 34 DSGVO schnell mal bekannt werden.
Eine Sachverhaltsaufklärung bzw. eine Risikoabschätzung dürfte in solchen Fälle dann schwierig werden, auch da die Verursacher nicht unbedingt immer kooperativ sein dürften. In vielen Fällen wird sich nicht abschließend klären lassen, was in die KI hochgeladen worden ist. Das gilt besonders, wenn Mitarbeitende „Shadow KI”, also eigene, nicht
genehmigten Kl-Account zur Arbeitserleichterung nutzen. Persönliche Account, deren Inhalt oder der Chat-Verlauf mit den Prompts werden dem Unternehmen dann nicht zugänglich sein.
Soweit es um mögliche arbeitsrechtliche Konsequenzen geht, kann sich das Unternehmen schnell dem Gegeneinwand ausgesetzt sehen, dass der Verursacher nicht ausreichend aufgeklärt und geschult worden sei und insofern in Unkenntnis der Risiken gehandelt habe. Noch schlimmer, wenn hinzukommt, dass es für den Einsatz von KI keine unternehmensverbindliche Regelungen in Form einer Unternehmensrichtlinie existieren.
Im Umgang mit KI hat sich der verantwortlicher Unternehmer aber auch zu vergewissern, dass seine Weisungen von seinen Arbeitnehmern korrekt ausgeführt werden. Daher kann sich der Verantwortliche nicht einfach, wie man meinen könnte, dadurch nach Art. 82 Abs. 3 DSGVO von seiner Haftung befreien, dass er sich auf Fahrlässigkeit oder Fehlverhalten einer ihm unterstellten Person beruft. Das Unternehmen muss seine eigenen Richtlinien zur KI-Nutzung auch intern umsetzen und die Mitarbeitenden schulen. Alleine mit einer KI-Richtlinie ist es daher auch nicht getan. Wie der EuGH Urt. 11.4.2024 – C 741721, ZD 2024, S. 381) ausgeführt hat: „Für eine mögliche Befreiung des Verantwortlichen – nach Art. 82 Abs. 3 DS-GVO – von seiner Haftung kann es daher nicht ausreichen, dass er nachweist, dass er den ihm iSv Art. 29 dieser Verordnung unterstellten Personen Weisungen erteilt hat und dass eine dieser Personen ihrer Verpflichtung, diese Weisungen zu befolgen, nicht nachgekommen ist und sie damit zum Eintritt des in Rede stehenden Schadens beigetragen hat.”
Mit der Frage der Meldepflicht nach Art. 33 DSGVO hat sich im Übrigen Spies, ZD 2025, S. 548 weiter auseinandergesetzt. Die Frage ist, ob der Unternehmen quasi gegen einen Meldepflicht argumentieren kann, dass die Verletzung des Schutzes personenbezogener Daten durch ein Kl-Training oder eine Kl-Abfrage voraussichtlich nicht
zu einem Risiko für die Rechte und Freiheiten natürlicher Personen führt?
Klare Aussagen gibt es aktuell diesbezüglich leider nicht. Besser steht man als Unternehmen auf jedem Fall dar, wenn es sich um ein Kl-Tool handeln, das über einen geschlossenen Unternehmenskreislauf Daten verarbeitet, da das Risiko für die personenbezogen Daten dann vermutlich viel geringer, als wenn der Mitarbeitenden die Daten in ein für alle Nutzer offenes GPAI-System hochgeladen hat. Bei so einem Multi-Tenant-Konzept bedient eine einzige Kl-Anwendung mehrere unterschiedliche Kunden. Jeder Kunde arbeitet aber in seiner eigenen isolierten Umgebung. Der Kunde greift nur auf die gemeinsam genutzte Anwendung zu.
Ob Meldung bei der Aufsichtsbehörde oder nicht. Auf jeden Fall muss das Unternehmen eine solchen Datenschutzvorfall sorgsam zu dokumentieren und solche Vorfälle sollten für Unternehmen auch ein generelle Warnsignal darstellen, “denn allzu häufig wirft das vorschriftswidrige Hochladen von Daten in die Kl ein grelles Schlaglicht auf das weitaus größere Problem, dass beim Unternehmen Lücken bei der Datensicherheit bestehen bzw. ein KI-Training nicht oder mehr schlecht als recht durchgeführt worden ist.” Da kann ich Spies, ZD 2025, S. 548 nur zustimmen.
