Web-Poisoning: Wie schon 0,01 Prozent manipulierte Webtexte ein KI-Modell korrumpieren
Validierte Fakten
Carlini et al. (arXiv:2302.10149). Zeigt, dass Angreifer durch den Kauf abgelaufener Domains oder Manipulation von Wikipedia-Artikeln mit winzigen Datenmengen gezielte Backdoors in globale Basismodelle einschleusen können.
Einfach erklärt
Ein Tropfen Tinte im Trinkwasser: Man muss nicht das ganze Internet fälschen; ein paar gezielte manipulierte Seiten genügen, um das Weltwissen einer KI zu verzerren.
IT-Sicherheitsrelevanz & Praxistipp
Hinterfragt das blinde Vertrauen in ungefilterte Web-Crawling-Datensätze großer Tech-Konzerne.