Slopsquatting: Wenn KI nicht existierende Softwarepakete empfiehlt
Paket-Halluzinationen können eine Lieferkette angreifbar machen. Zwischen erfundenem Namen und bestätigter Schadsoftware liegt jedoch ein zusätzlicher Schritt.
Redaktioneller Stand:
Hintergrund & Quellenbefund
Spracklen und Mitautoren untersuchten auf der USENIX Security 2025 Paket-Halluzinationen in generiertem Programmcode. Die Arbeit umfasst mehrere Sprachmodelle und die Sprachen Python und JavaScript. Dabei wurden Paketnamen gefunden, die in den jeweiligen Bezugsquellen nicht existierten. [1]
Solche Vorschläge können ein Angriffsszenario eröffnen: Wird ein wiederholt vorgeschlagener Name später von Dritten registriert, könnten unkritische Installationen auf ein fremdes Paket treffen. Eine Halluzination allein ist aber noch kein bestätigter Malware-Vorfall. Die Studie untersucht Entstehung, Häufigkeit und mögliche Gegenmaßnahmen im jeweiligen Versuchsaufbau. [1]
Einordnung & Grenzen
Die gemessenen Anteile sind keine allgemeine Fehlerquote jeder heutigen Programmierhilfe. Existenz und Vertrauenswürdigkeit eines Pakets sind außerdem unterschiedliche Eigenschaften. [1]
Einfach erklärt
Ein hypothetisches Navigationssystem erfindet eine Bezugsadresse. Wenn später jemand genau dort einen täuschend passenden Laden eröffnet, ist die scheinbare Empfehlung noch kein Nachweis einer vertrauenswürdigen Herkunft.
Empfehlungen für die Praxis
Unsere Empfehlung: Prüfen Sie vor neuen Abhängigkeiten den genauen Namen, das Projekt, die Maintainer und die tatsächliche Bezugsquelle. Übernehmen Sie Installationsbefehle nicht allein deshalb, weil der erzeugte Beispielcode plausibel wirkt. Halten Sie freigegebene Abhängigkeiten und Versionen nachvollziehbar fest. Bei bislang unbekannten Paketen sollte eine kurze fachliche Prüfung vor der Ausführung stehen. Ein Paket, das sich erfolgreich installieren lässt, kann trotzdem das falsche oder ein schädliches Paket sein.