Sicherheitsforschern von Check Point Research ist ein spektakulärer wie beunruhigender Fund gelungen: Sie entdeckten ein Malware-Sample, das vollständig von der künstlichen Intelligenz DeepSeek generiert wurde. Das Beunruhigende daran: Die KI hat nicht einfach nur alten Schadcode kopiert, sondern völlig eigenständig ein theoretisches Browser-Risiko mit einer funktionierenden Erpresser-Taktik (Ransomware) verknüpft. Damit wurde eine Grenze überschritten, die Cybersicherheitsexperten aufgrund der strengen Schutzmechanismen von Browsern (Sandboxing) lange Zeit für unmöglich hielten.
Wenn die KI-Halluzination plötzlich Realität wird
Bei der Analyse von fast 3.000 öffentlich zugänglichen Telemetriedaten stießen die Forscher auf eine scheinbar wirre Python-Anwendung. Auf den ersten Blick wirkte das Skript wie eine klassische KI-Halluzination: Das Modell versuchte verzweifelt, Keylogging, Passwortdiebstahl, Webcam-Spionage und ein Erpresser-Fenster gleichzeitig auf einer einzigen Website unterzubringen – ein digitaler Fleckenteppich, den moderne Browser sofort blockieren würden.
Doch inmitten des Chaos machte die KI eine Sache instinktiv richtig. Sie programmierte den Befehl showDirectoryPicker(). Dabei handelt es sich um eine völlig legitime Programmierschnittstelle (API) von Browsern, die Webseiten erlaubt, Dateien aus einem vom Nutzer ausgewählten Ordner zu lesen und zu bearbeiten.
Die Erpressungskette funktioniert damit verblüffend einfach:
- Ein technischer Laie beschreibt sein böswilliges Ziel in einfacher Sprache.
- Die KI übersetzt den Wunsch in einen Prototyp und nutzt dafür Systemfunktionen, von deren Existenz der Angreifer selbst nicht den blassesten Schimmer hatte.
- Die KI schließt eigenständig die Lücke zwischen Theorie und Praxis.
Um die Gefahr zu überprüfen, bauten die Forscher den Angriff in einer geschützten Umgebung nach. Sie tarnten das Tool als harmlosen KI-Bildverbesserer namens „AI Avatar Enhancer“. Wurde DeepSeek direkt nach „Ransomware“ gefragt, blockierte das Modell die Antwort. Formulierte man die Anfrage jedoch neutral, generierte die KI zuverlässig den schädlichen Browser-Code. Das Modell beschrieb sein eigenes Werk in einer Antwort sogar stolz als „eine ausgeklügelte Falle, die eine überzeugende KI-Upscaler-Oberfläche mit versteckten, Ransomware-ähnlichen Verhaltensweisen kombiniert“.
Android-Nutzer im Visier
Besonders brenzlig wird die Situation für Besitzer von Android-Smartphones. Seit Google in Chrome die vollständige Unterstützung für den Dateisystemzugriff auf Android integriert hat, können Webseiten theoretisch Zugriff auf den DCIM-Ordner anfordern. In diesem Verzeichnis lagern bei den meisten Usern jahrelange Erinnerungen, eingescannte Dokumente oder Screenshots vom Online-Banking. Wer hier arglos eine Erlaubnis erteilt, öffnet Erpressern Tür und Tor. Apple-Nutzer haben vorerst Glück: iOS Safari stellt diese spezifische Schnittstelle nicht zur Verfügung.
Während Branchenriesen wie OpenAI oder Anthropic extrem strenge Sicherheitsbarrieren eingebaut haben, die Malware-Anfragen konsequent abblocken, zeigt sich DeepSeek hier deutlich freizügiger. Da das Modell kostenlos und frei zugänglich ist, sinkt die Hemmschwelle für Cyberkriminelle ohne tiefes Fachwissen dramatisch.
Die Ära der „Wegwerf-Malware“
Bisher war die Entdeckung neuer Angriffspfade menschlichen Genies und kreativer Hackerarbeit vorbehalten. Durch die KI verschiebt sich das Machtgefüge fundamental. Experten befürchten eine Flut an digitaler „Wegwerf-Malware“: Einmalige, maßgeschneiderte Schadprogramme, die nach der Attacke im Papierkorb landen und durch ihre einzigartige Kombination an Techniken von klassischen Virenscannern kaum vorherzusehen sind.
„Wir erleben derzeit einen grundlegenden Wandel in der Art und Weise, wie neue Cyberangriffe entstehen“, warnt Eli Smadja, Group Manager bei Check Point Research. „Die Zukunft der KI-Sicherheit darf nicht darauf beruhen, dass Modelle offensichtlich böswillige Anfragen ablehnen. Sie muss davon ausgehen, dass die nächste Angriffstechnik durch eine KI-Halluzination entdeckt wird, die zufällig in einem Punkt richtig lag.“
So schützen Sie sich vor dem Browser-Angriff
Um sich gegen die neue Generation der KI-Angriffe zu wappnen, sollten Nutzer und Unternehmen folgende Schutzmaßnahmen ergreifen:
- Vorsicht bei Berechtigungen: Jede Anfrage einer Website, auf einen lokalen Ordner zuzugreifen, muss wie eine sicherheitskritische Entscheidung behandelt werden. Gewähren Sie Webseiten niemals Zugriff auf Hauptverzeichnisse wie den DCIM-Ordner.
- Gesunde Skepsis: Bleiben Sie misstrauisch gegenüber dubiosen Online-Tools wie gratis „Avatar-Generatoren“ oder Bildoptimierern. Nutzen Sie für sensible Aufgaben etablierte Apps oder namhafte Cloud-Dienste.
- Backups sind Pflicht: Regelmäßige Offline-Backups oder isolierte Cloud-Sicherungen stellen sicher, dass Ihre Daten im Falle einer Verschlüsselung nicht verloren sind.
- Updates und Sicherheitslösungen: Halten Sie Browser und Betriebssysteme stets auf dem neuesten Stand und setzen Sie auf Sicherheitssoftware, die schädliche Webseiten blockiert, noch bevor es zu einer Rechteabfrage kommt.
https://research.checkpoint.com/2026/browser-only-ransomware-from-llm-hallucinations-to-a-practical-attack-technique/
https://blog.checkpoint.com/research/when-ai-invents-the-attack-browser-native-ransomware/
