Die EU treibt die Regulierung von Künstlicher Intelligenz weiter voran. Mit neuen Testplattformen, Leitfäden und Tools sollen KI-Systeme künftig umfassend auf Sicherheit und die Einhaltung von Vorgaben wie dem EU-KI-Gesetz und NIS2 geprüft werden. Doch technische Sicherheit und Compliance allein machen eine KI noch nicht sicher.
Ein häufig unterschätzter Faktor sind die Daten, mit denen KI-Modelle arbeiten. Unternehmen verfügen über riesige Mengen unstrukturierter Informationen, darunter zahlreiche redundante, veraltete oder bedeutungslose Daten – sogenannte ROT-Daten. Werden solche Bestände für KI-Anwendungen genutzt, können selbst technisch sichere Modelle falsche oder verzerrte Ergebnisse liefern, Halluzinationen erzeugen und fehlerhafte Entscheidungen treffen.
Hinzu kommt ein wachsendes operatives Risiko: In modernen Unternehmensumgebungen kommen auf einen Mitarbeiter durchschnittlich 82 nicht-menschliche Identitäten und autonome Agenten. Fehler solcher Systeme können sich mit hoher Geschwindigkeit auswirken und bleiben möglicherweise unbemerkt.
Deshalb müssen Unternehmen neben der Absicherung ihrer KI-Modelle auch ihre Datenbestände in den Blick nehmen. Dazu gehören eine systematische Prüfung und Klassifizierung der vorhandenen Daten sowie die konsequente Bereinigung von ROT-Daten. Nur eine nachvollziehbare und kontinuierlich gepflegte Datenbasis ermöglicht einen verlässlichen und langfristig sicheren KI-Betrieb.
Die EU-Sandboxen und Compliance-Prüfungen bleiben wichtig, lösen das grundlegende Datenproblem jedoch nicht. Entscheidend ist letztlich die Frage, ob nicht nur das KI-Modell sicher ist, sondern auch, ob die verwendeten Daten korrekt, verifiziert und sauber sind. Echte KI-Sicherheit entsteht damit nicht allein durch Zertifikate und Tests, sondern durch eine dauerhaft zuverlässige Datenpipeline.
http://www.veeam.com
