MCP & Tool-Calling Schwachstellen: Wenn die KI unerlaubt die Festplatte löscht
Validierte Fakten
Mit Protokollen wie MCP (Model Context Protocol) oder OpenAI Function Calling erhalten KIs Zugriff auf Terminal, Datenbanken und Dateien. Durch Prompt Injection kann die KI dazu gebracht werden, Daten zu löschen oder zu exfiltrieren.
Einfach erklärt
Der Handwerker mit Generalschlüssel: Man gibt dem Handwerker den Schlüssel für den Wasserhahn, aber ein Betrüger flüstert ihm ein, er solle die Wertsachen aus dem Schlafzimmer mitnehmen.
IT-Sicherheitsrelevanz & Praxistipp
Prinzip der minimalen Rechte (Least Privilege): KI-Tools dürfen niemals unkontrollierten Schreibzugriff auf sensible Systeme haben.
Primärquelle / Referenz
- OWASP Top 10 for LLM Applications