← Zurück zum Blog
KI-BedrohungenHoch

Slopsquatting: Wenn KI nicht existierende Softwarepakete empfiehlt

Paket-Halluzinationen können eine Lieferkette angreifbar machen. Zwischen erfundenem Namen und bestätigter Schadsoftware liegt jedoch ein zusätzlicher Schritt.

Redaktioneller Stand:

Hintergrund & Quellenbefund

Spracklen und Mitautoren untersuchten auf der USENIX Security 2025 Paket-Halluzinationen in generiertem Programmcode. Die Arbeit umfasst mehrere Sprachmodelle und die Sprachen Python und JavaScript. Dabei wurden Paketnamen gefunden, die in den jeweiligen Bezugsquellen nicht existierten. [1]

Solche Vorschläge können ein Angriffsszenario eröffnen: Wird ein wiederholt vorgeschlagener Name später von Dritten registriert, könnten unkritische Installationen auf ein fremdes Paket treffen. Eine Halluzination allein ist aber noch kein bestätigter Malware-Vorfall. Die Studie untersucht Entstehung, Häufigkeit und mögliche Gegenmaßnahmen im jeweiligen Versuchsaufbau. [1]

Einordnung & Grenzen

Die gemessenen Anteile sind keine allgemeine Fehlerquote jeder heutigen Programmierhilfe. Existenz und Vertrauenswürdigkeit eines Pakets sind außerdem unterschiedliche Eigenschaften. [1]

Einfach erklärt

Ein hypothetisches Navigationssystem erfindet eine Bezugsadresse. Wenn später jemand genau dort einen täuschend passenden Laden eröffnet, ist die scheinbare Empfehlung noch kein Nachweis einer vertrauenswürdigen Herkunft.

Empfehlungen für die Praxis

Unsere Empfehlung: Prüfen Sie vor neuen Abhängigkeiten den genauen Namen, das Projekt, die Maintainer und die tatsächliche Bezugsquelle. Übernehmen Sie Installationsbefehle nicht allein deshalb, weil der erzeugte Beispielcode plausibel wirkt. Halten Sie freigegebene Abhängigkeiten und Versionen nachvollziehbar fest. Bei bislang unbekannten Paketen sollte eine kurze fachliche Prüfung vor der Ausführung stehen. Ein Paket, das sich erfolgreich installieren lässt, kann trotzdem das falsche oder ein schädliches Paket sein.

Primärquelle / Referenz

  1. [1] Spracklen et al. (USENIX Security 2025): We Have a Package for You!