Datenextraktion: Wie Chatbots private Trainingsdaten im Wortlaut ausplaudern
Validierte Fakten
Carlini et al. (Google DeepMind, USENIX Security). Durch gezielte Prompts brachten Forscher GPT-Modelle dazu, Original-Textfragmente aus Trainingsdaten (inklusive persönlicher Namen, E-Mails und Telefonnummern) wortgetreu preiszugeben.
Einfach erklärt
Das Elefantengedächtnis: Ein Chatbot fasst nicht nur zusammen, sondern hat manchmal ganze Buchseiten oder Telefonnummern auswendig gelernt und plappert sie bei den richtigen Fragen aus.
IT-Sicherheitsrelevanz & Praxistipp
Datenschutzrisiko: Was einmal im Internet stand und fürs Training genutzt wurde, kann prinzipiell von jedem abgefragt werden.
Primärquelle / Referenz
- USENIX Security Research