KI-SICHERHEIT / KATALOGVORSCHLAG

Elementare Gefährdungen
für den Datenschutz.

Einundzwanzig vorgeschlagene Gefährdungen, die den Missbrauch personenbezogener Daten genauer beschreiben.

DENIZ WETZ / / V1.021 GEFÄHRDUNGEN

KATALOG / 21

Gefährdungen im Überblick.

Öffne einen Eintrag, um mehr zu lesen. Mehrere Einträge können zum Vergleich gleichzeitig geöffnet bleiben.

G DP.01Offenlegung personenbezogener DatenInformationen über eine Person werden für Personen sichtbar, die sie nicht erhalten sollten.

Die Offenlegung kann durch Fehler, unsichere Einstellungen oder Angriffe in digitalen und papierbasierten Prozessen entstehen. Sie beeinträchtigt die Vertraulichkeit der betroffenen personenbezogenen Daten.

LINK ZU DIESER GEFÄHRDUNG
G DP.02Unbefugter Zugriff auf personenbezogene DatenEine Person oder ein System erhält personenbezogene Informationen ohne die erforderliche Berechtigung.

Schwache Zugriffskontrollen, kompromittierte Zugangsdaten oder Schwachstellen können einen Abruf außerhalb einer berechtigten Rolle ermöglichen. Der Zugriff ist ein eigenständiges Ereignis, auch wenn die Informationen anschließend nicht offengelegt werden.

LINK ZU DIESER GEFÄHRDUNG
G DP.03Unbefugte Veränderung personenbezogener DatenBestehende personenbezogene Datensätze werden so verändert, dass ihre Richtigkeit oder Verlässlichkeit beeinträchtigt wird.

Gezielte Manipulation, Softwarefehler oder Bedienfehler können Daten unbemerkt verfälschen. Entscheidungen auf Grundlage der veränderten Datensätze können die betroffene Person anschließend benachteiligen.

LINK ZU DIESER GEFÄHRDUNG
G DP.04Verlust oder Zerstörung personenbezogener DatenPersonenbezogene Informationen werden unzugänglich oder lassen sich nicht wiederherstellen.

Das Ereignis kann eine dauerhafte Zerstörung oder einen vorübergehenden Zugriffsverlust umfassen. Technische Ausfälle, Löschung, Schadsoftware oder physische Schäden können die Verarbeitung und die Ausübung von Betroffenenrechten unterbrechen.

LINK ZU DIESER GEFÄHRDUNG
G DP.05Missbrauch personenbezogener DatenRechtmäßig erlangte Daten werden beim Verantwortlichen für einen nicht erlaubten Zweck verwendet.

Ein erlaubter Zugriff rechtfertigt nicht jede anschließende Nutzung. Dieser Eintrag betrifft eine zweckwidrige Nutzung innerhalb des ursprünglichen Verarbeitungskontexts. Er betrifft nicht das Verlassen dieses Kontexts durch die Daten.

LINK ZU DIESER GEFÄHRDUNG
G DP.06Unrechtmäßige Weitergabe oder Zweckänderung bei der Verarbeitung personenbezogener DatenPersonenbezogene Daten werden ohne geeignete Rechtsgrundlage weitergegeben oder für einen anderen Zweck verwendet.

Hier geht es um das Verlassen des ursprünglichen Verarbeitungskontexts. Eine weitere Nutzung muss mit dem ursprünglichen Zweck vereinbar sein oder sich auf eine andere Rechtsgrundlage stützen.

LINK ZU DIESER GEFÄHRDUNG
G DP.07Verarbeitung ohne Kenntnis oder wirksame EinwilligungBetroffene Personen erfahren nichts von der Verarbeitung, oder eine erforderliche Einwilligung fehlt oder ist unwirksam.

Informationslücken und irreführende Einwilligungsverfahren können informierte Entscheidungen verhindern. Der Aspekt der Einwilligung betrifft Verarbeitungen, für die eine Einwilligung erforderlich ist.

LINK ZU DIESER GEFÄHRDUNG
G DP.08Speicherung personenbezogener Daten über die erforderliche Dauer hinausPersonenbezogene Datensätze bleiben gespeichert, obwohl die gerechtfertigte Aufbewahrungsdauer abgelaufen ist.

Fehlende Aufbewahrungsregeln oder unwirksame Löschprozesse können Daten länger als erforderlich oder zulässig verfügbar halten. Die weitere Speicherung erhöht das Risiko von Zugriffen, Zweckänderungen und Missbrauch.

LINK ZU DIESER GEFÄHRDUNG
G DP.09Kontrollverlust über personenbezogene DatenDer Verbleib, die Zugriffe und die weitere Nutzung personenbezogener Daten lassen sich nicht mehr nachvollziehen.

Nicht erfasste Kopien und komplexe Verarbeitungsketten können verschleiern, wer über die Informationen verfügt oder sie nutzt. Der Katalog behandelt diesen Kontrollverlust sowohl als Ereignis als auch als Schadensdimension.

LINK ZU DIESER GEFÄHRDUNG
G DP.10Intransparente Verarbeitung personenbezogener DatenMenschen können nicht verstehen, was mit ihren Daten geschieht oder warum sie verarbeitet werden.

Unklare Dokumentation und undurchsichtige Prozesse erschweren die Aufsicht und die Ausübung von Rechten. Ein formaler Hinweis kann vorhanden sein, während Art, Umfang und Zweck der Verarbeitung dennoch unverständlich bleiben.

LINK ZU DIESER GEFÄHRDUNG
G DP.11Einschränkung oder Verletzung von BetroffenenrechtenBetroffene Personen können ihre Rechte hinsichtlich ihrer personenbezogenen Daten nicht vollständig ausüben.

Fehlende Prozesse, unklare Zuständigkeiten oder Systembarrieren können Anfragen behindern. Dazu gehören Auskunft, Berichtigung, Löschung, Einschränkung, Widerspruch und Datenübertragbarkeit.

LINK ZU DIESER GEFÄHRDUNG
G DP.12Begrenzte Löschbarkeit oder technische UnveränderlichkeitEin System kann personenbezogene Informationen nicht vollständig entfernen oder berichtigen.

Unveränderliche Speicher oder von Modellen gespeicherte Daten können eine vollständige Entfernung technisch erschweren. Dies betrifft die Möglichkeit zu löschen oder zu berichtigen, nicht das Unterlassen einer technisch möglichen Löschung.

LINK ZU DIESER GEFÄHRDUNG
G DP.13Unzureichendes Datenschutzniveau bei Übermittlungen in DrittländerPersonenbezogene Daten werden ohne angemessenen Schutz in Staaten außerhalb des EWR übermittelt.

Der Bericht erfasst auch Verarbeitung und Supportzugriffe, bei denen wirksame Schutzvorkehrungen fehlen. Solche Übermittlungen können die Möglichkeit betroffener Personen beeinträchtigen, ihre Rechte durchzusetzen.

LINK ZU DIESER GEFÄHRDUNG
G DP.14Unrechtmäßiges Profiling oder unrechtmäßige VerhaltensanalysePersonenbezogene Informationen werden genutzt, um in die Privatsphäre eingreifende oder unzulässige Profile von Einzelpersonen zu erstellen.

Die Kombination gewöhnlicher Datensätze kann sensible Merkmale offenlegen oder umfangreiche Verhaltensprofile erzeugen. Hier geht es um unangemessenes Profiling und Ableitungen über einzelne Personen.

LINK ZU DIESER GEFÄHRDUNG
G DP.15Vollautomatisierte Entscheidungen mit erheblichen AuswirkungenEin System trifft folgenreiche Entscheidungen über Menschen, ohne dass der Einzelfall von einem Menschen geprüft wird.

Rechtliche oder ähnlich erhebliche Auswirkungen machen die fehlende menschliche Prüfung besonders bedeutsam. Mangelhafte Daten, fehlerhafte Modelle und geringe Möglichkeiten, die Entscheidung anzufechten, können das Risiko verstärken.

LINK ZU DIESER GEFÄHRDUNG
G DP.16Rekonstruktion personenbezogener Daten aus KI-SystemenPersonenbezogene Informationen werden aus einem KI-System abgeleitet und nicht als bestehender Datensatz offengelegt.

Modellabfragen und Angriffe auf den Datenschutz können identifizierbare Informationen offenlegen oder zeigen, ob die Daten einer Person im Training verwendet wurden. Dies umfasst auch sensible oder pseudonymisierte Informationen.

LINK ZU DIESER GEFÄHRDUNG
G DP.17Erzeugung falscher personenbezogener Daten durch KIKI erzeugt neue, unzutreffende Aussagen über eine identifizierbare Person.

Erfundene oder irreführende personenbezogene Aussagen können spätere Entscheidungen beeinflussen. Anders als bei der Verfälschung eines bestehenden Datensatzes erzeugt das System die falsche Behauptung hier selbst.

LINK ZU DIESER GEFÄHRDUNG
G DP.18Identitätsdiebstahl oder IdentitätsbetrugJemand nutzt personenbezogene Daten oder Identitätsmerkmale, um sich als eine andere Person auszugeben.

Kompromittierte Konten oder synthetische Nachahmungen können Täuschung und unbefugte Handlungen ermöglichen. Der Katalog behandelt das Vortäuschen einer fremden Identität sowohl als eigenständiges Ereignis als auch als Schaden für die betroffene Person.

LINK ZU DIESER GEFÄHRDUNG
G DP.19Diskriminierung oder Benachteiligung von EinzelpersonenDie Verarbeitung führt zu ungerechter Behandlung oder geringeren Chancen für bestimmte Menschen.

Scoring, verzerrte Datensätze oder die Wahl von Bewertungskriterien können Einzelpersonen benachteiligen. Dies kann durch die Gestaltung der Verarbeitung entstehen, auch ohne eine technische Verzerrung im Modell.

LINK ZU DIESER GEFÄHRDUNG
G DP.20Rufschädigung oder soziale BenachteiligungPersonenbezogene Informationen schaden dem Ruf einer Person, wenn sie offengelegt, falsch verstanden oder aus ihrem Kontext gerissen werden.

Selbst ein kleines Datenfragment kann die soziale Stellung beeinträchtigen, wenn es in einem neuen Zusammenhang weiterverbreitet wird. Bei der Bewertung der Schwere behandelt der Katalog Rufschädigung sowohl als Ereignis als auch als Folge.

LINK ZU DIESER GEFÄHRDUNG
G DP.21Wirtschaftliche oder gesellschaftliche BenachteiligungDie Verarbeitung personenbezogener Daten verursacht finanzielle Verluste oder verringert die Chancen einer Person.

Dieser Eintrag betrifft vor allem den Schaden, den die einzelne Person erfährt. Er wird nur dann als Ereignis behandelt, wenn die Benachteiligung unmittelbar aus der Verarbeitung entsteht.

LINK ZU DIESER GEFÄHRDUNG

QUELLEN / 05

Quellen und Grundlagen.

Ausgewählte Quellen aus meinem Bericht in Version 1.0. Die Gruppierung der Gefährdungen und die Arbeitskennungen sind mein eigener Vorschlag.

LINKS GEPRÜFT /

  1. EU — General Data Protection Regulation (öffnet in einem neuen Tab)

    Verordnung (EU) 2016/679 · 27. April 2016

    Rechtliche Grundlage für Verarbeitungsgrundsätze, Betroffenenrechte und Risiken für Rechte und Freiheiten (Erwägungsgrund 75 sowie Artikel 5, 13–22, 32–35 und 44–46).

  2. BayLfD — Risikoanalyse und Datenschutz-Folgenabschätzung (öffnet in einem neuen Tab)

    Systematik, Anforderungen, Beispiele · v1.0 · 1. Mai 2022

    Gewährleistungsziele und eine Methode zur Beurteilung von Risiken für Personen. Die Seiten 19–20 und 29–33 liefern den im Vorschlag verwendeten Rahmen der SDM-Gewährleistungsziele.

  3. Isabel Barberá — AI Privacy Risks & Mitigations: Large Language Models (öffnet in einem neuen Tab)

    EDPB Support Pool of Experts · Autorenbericht, aktualisiert im März 2025

    Datenschutzrisiken im gesamten LLM-Lebenszyklus, einschließlich Zweckänderungen und Hindernissen bei Betroffenenrechten (S. 25, 53–56 und 60). Dies ist ein Expertenbericht im SPE-Programm, keine vom EDPB verabschiedete Leitlinie.

  4. ISO/IEC — Guidelines for privacy impact assessment (öffnet in einem neuen Tab)

    ISO/IEC 29134:2017 · herangezogene Übernahmefassung: BS EN ISO/IEC 29134:2020

    Datenschutz-Folgenabschätzung sowie Szenarien unbefugten Zugriffs, unbefugter Veränderung und des Verlusts von Daten (S. 47–49 der verwendeten Ausgabe). Diese frühere Ausgabe wurde für den Bericht verwendet. ISO/IEC 29134:2023 hat sie ersetzt. Für den vollständigen Standard ist ein Zugang über den Herausgeber erforderlich.

  5. BSI — Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden (öffnet in einem neuen Tab)

    Version 2.0 · 17. Januar 2025

    Technische Angriffe auf den Datenschutz durch Rekonstruktion von Trainingsdaten und Inversion von Embeddings (R22 und R23). Ihre datenschutzrechtliche Einordnung habe ich selbst aus diesen Informationen abgeleitet.