← Zurück zum Blog
KI-BedrohungenMittel

Shadow AI: Vertrauliche Unternehmensdaten in nicht freigegebenen KI-Diensten

Nicht freigegebene KI-Nutzung erschwert die Kontrolle über Datenflüsse. Speicherung, Training und Vertragsbedingungen sind dabei unterschiedliche Fragen.

Redaktioneller Stand:

Hintergrund & Quellenbefund

Die Datenschutzkonferenz beschreibt in ihrer Orientierungshilfe vom Mai 2024 Kriterien für Auswahl, Einführung und Nutzung von KI-Anwendungen. Dazu gehört die Prüfung, welche personenbezogenen Daten verarbeitet werden und welche Bedingungen der Anbieter vorsieht. Eine öffentliche Eingabemaske beantwortet diese Fragen nicht von selbst. [1]

Für Unternehmen ist zu unterscheiden, ob Eingaben nur für eine Antwort verarbeitet, zusätzlich gespeichert oder für weitere Zwecke genutzt werden. Die Einordnung muss sich auf die konkrete Anwendung und Vereinbarung beziehen. Aus dem Begriff Cloud oder aus einer Produktkategorie allein ergibt sich noch keine belastbare Aussage über alle Datenverwendungen. [1]

Einordnung & Grenzen

Hier wird nicht behauptet, dass bestimmte intern eingegebene Daten eines bekannten Unternehmens nachweislich in einem Modelltraining gelandet seien. Dafür wäre ein gesonderter Beleg nötig.

Einfach erklärt

Ein hypothetischer Mitarbeiter lässt einen vertraulichen Vertrag zusammenfassen, ohne den Empfänger und die Nutzungsbedingungen geprüft zu haben. Das organisatorische Problem beginnt bereits beim unklaren Datenfluss, nicht erst bei einem späteren Leck.

Empfehlungen für die Praxis

Unsere Empfehlung: Erstellen Sie eine verständliche Liste freigegebener Werkzeuge und zulässiger Datenarten. Bieten Sie für häufige Aufgaben einen klaren Arbeitsweg an. Prüfen Sie Vertragszusagen konkret und dokumentieren Sie die einschlägigen Einstellungen. Ein kostenpflichtiger Tarif oder ein europäischer Markenname ersetzt diese Prüfung nicht. Erlauben Sie Mitarbeitenden, Unsicherheiten früh zu melden. So kann eine ungeklärte Nutzung untersucht werden, bevor weitere vertrauliche Unterlagen in denselben Ablauf geraten.

Primärquelle / Referenz

  1. [1] DSK (06.05.2024): Künstliche Intelligenz und Datenschutz, Version 1.0