Validierte Themen aus Forschung, Bedrohungsanalyse, Recht und Rechtsprechung – kompakt erklärt für Praxis und Entscheidungsträger.
Fall Arup in Hongkong (Jan./Feb. 2024). Ein Finanzmitarbeiter überwies 25 Mio. USD nach einer Videokonferenz, bei der der Finanzvorstand und mehrere Kollegen live anwesend…
Betrüger nutzen KI-Tools (ElevenLabs u. a.), um mit wenigen Sekunden Audiomaterial aus Social Media die exakte Stimme von Kindern oder Verwandten zu klonen und Notlagen…
Sicherheitsanalysen von Protect AI und Wiz deckten hunderte Open-Source-Modelle auf Hugging Face auf, die manipulierte Python-Pickle-Dateien enthielten. Beim Laden des Modells…
Bekannt geworden durch Vorfälle wie bei Samsung 2023, wo Entwickler vertraulichen Quellcode zur Fehleranalyse in öffentliche Chatbots kopierten, der dann in Cloud-Logs und…
Entwickler nutzen KI-Coding-Assistenten. KIs erfinden manchmal plausible, aber nicht existierende Paketnamen (z. B. auf npm oder PyPI). Kriminelle registrieren genau diese…
Angreifer kombinieren KI-generierte emotionale Anschreiben mit QR-Codes. Da Mail-Sicherheitsfilter Text scannen, aber keine QR-Codes dekodieren, landen die Mails im Posteingang.
Mit Protokollen wie MCP (Model Context Protocol) oder OpenAI Function Calling erhalten KIs Zugriff auf Terminal, Datenbanken und Dateien. Durch Prompt Injection kann die KI dazu…
Kriminelle nutzen KI-Gesichtsgeneratoren und virtuelle Webcams, um Online-Kontoeröffnungen bei Neobanken und Krypto-Börsen mit gestohlenen Ausweisdaten erfolgreich abzuschließen.
Wird ein Chatbot durch Prompt Injection manipuliert, kann er sensible Daten im Link eines unsichtbaren Bildes kodieren (``). Beim Rendern der…
Unternehmen nutzen Retrieval Augmented Generation (RAG), um KIs auf interne Handbücher und Intranets zuzugreifen. Angreifer schleusen manipulierte Textbausteine ein, die interne…
Modelle wie GPT-4 Vision lösen komplexe Bild- und Logik-CAPTCHAs ('Finde alle Ampeln') mit über 90 Prozent Trefferquote und schlagen Menschen in Geschwindigkeit und Genauigkeit.
Konzepte wie BlackMamba demonstrieren, wie Malware via KI-API ihren Code zur Laufzeit ständig umschreibt. Funktion und Payload bleiben gleich, aber der Hash und die Signatur…
Betrüger senden Mitarbeitern kurze Sprachnachrichten im Messenger: 'Bin gerade im Flugzeug, bitte gib dringend die Rechnung frei!'. Die Stimme stammt aus YouTube-Interviews des…
Machine Unlearning ist mathematisch ungelöst. Ist eine Telefonnummer oder Adresse einmal in den Milliarden Parametern eines Modells eingebrannt, kann man sie nicht wie in einer…
Sicherheitsforscher (u. a. DARPA AI Cyber Challenge) zeigen, dass KI-Systeme Software-Repositories automatisiert scannen, Logikfehler finden und funktionierende Exploits in…