RAG Poisoning: Manipulierte Dokumente vergiften die Firmen-Wissensdatenbank
Validierte Fakten
Unternehmen nutzen Retrieval Augmented Generation (RAG), um KIs auf interne Handbücher und Intranets zuzugreifen. Angreifer schleusen manipulierte Textbausteine ein, die interne Suchergebnisse fälschen.
Einfach erklärt
Die manipulierte Buchseite in der Bibliothek: Jemand klebt eine gefälschte Seite ins Lexikon. Wenn der Bibliothekar nachschlägt, liest er die Lüge als Wahrheit vor.
IT-Sicherheitsrelevanz & Praxistipp
Suchindizes und RAG-Datenquellen müssen strengen Integritätsprüfungen unterliegen.