Many-Shot Jailbreaking: Wie gigantische Kontextfenster Filter austricksen
Validierte Fakten
Anthropic Research (April 2024, arXiv:2404.03094). Da moderne KIs hunderttausende Wörter Kontext verarbeiten können, füttern Angreifer hunderte fingierte Frage-Antwort-Dialoge ein, bis das Modell das Muster unkritisch fortsetzt.
Einfach erklärt
Die Gewöhnungstaktik: Wenn man einem Türsteher 99 harmlose Geschichten erzählt, nickt er beim 100. Mal auch das durch, was eigentlich verboten wäre.
IT-Sicherheitsrelevanz & Praxistipp
Neue KI-Fähigkeiten (größere Textfenster) erzeugen automatisch völlig neue Sicherheitslücken.