Indirect Prompt Injection: Das Grundlagen-Paper über ferngesteuerte KI-Assistenten
Validierte Fakten
Pionierarbeit von Greshake et al. (Feb. 2023, arXiv:2302.12173). Zeigt, wie bösartige Steuerbefehle in Webseiten, PDFs oder E-Mails versteckt werden können, um KI-Assistenten fernzusteuern, wenn diese Dokumente zusammenfassen.
Einfach erklärt
Ein Kuckucksei im Briefkasten: Die KI liest dir deine Post vor, findet im Text eine versteckte Notiz und überweist heimlich dein Taschengeld an Fremde.
IT-Sicherheitsrelevanz & Praxistipp
Die fundamentale Architekturschwäche von LLMs: Textdaten und Steuerbefehle werden im selben Kanal verarbeitet.