Angeführt vom Branchenpionier ChatGPT hält gerade generative KI – also künstliche Intelligenz, die im weitesten Sinne Inhalte, wie Texte jeder Art, Bilder, wissenschaftliche Formeln oder Programmier-Code, bereitstellen kann – in rasantem Tempo Einzug in die Gesellschaft. Für Verbraucher wie Experten gleichermaßen stellen sich jedoch noch viele Fragen, wenn es darum geht zu beurteilen, wie ein sicherer Rahmen für den Einsatz dieser Technologie aussehen kann. Ein internationaler Anbieter von Trainingskursen zu Cyber Security Awareness und Phishing-Simulationen hat nun eine Verbraucherumfrage zum Bedrohungspotential von generativer KI durchgeführt.
Beinahe die Hälfte der Befragten sehen laut dem Security-Trainingsanbieter KnowBe4 mit Hauptsitz in Tampa, USA, in ChatGPT eine Bedrohung. Die größte Sorge der Nutzer gilt der Zunahme von Cyber-Attacken, dicht gefolgt von der Angst vor dem Verlust des Arbeitsplatzes. Dabei bewerten mehr als drei Viertel der Befragten die Qualität der Antworten des Chatbots als gut – eine Einschätzung, die mit den Befürchtungen korreliert, Hacker könnten die Technik für ihre Zwecke ausnutzen oder die weitere Entwicklung könnte zum Verlust des Arbeitsplatzes führen. Auch Experten mahnen, die Verfügbarkeit von KI-Tools bedeute, dass Kriminelle leicht auf etablierte Cyber-Angriffstechniken zugreifen können und sich so neue Bedrohungspotentiale ergeben. Da KI bereits erfolgreich zur Erstellung von Phishing-E-Mails für Betrugskampagnen und bösartigem Code für Cyber-Crime-Angriffe eingesetzt wird, zeigt sich, dass die Angst vor einer Zunahme von Cyber-Angriffen nicht unbegründet ist.
Die Ergebnisse der KnowBe4-Umfrage zeigen auch, dass die Mehrheit der Befragten die KI-Entwickler in der Verantwortung sieht, in puncto Sicherheit bei ihren Tools nachzujustieren. Ein Drittel der Verbraucher wünscht sich ein Eingreifen der Politik und sieht den Gesetzgeber in der Pflicht, denn auch aus Sicht des Datenschutzes stellt die Technologie eine Herausforderung dar. In Italien sind die obersten Datenschützer so weit gegangen, den Chat-Bot bis auf weiteres aufgrund gravierender Bedenken zu sperren. Obwohl in Deutschland bisher keine formellen Beschwerden eingegangen sind, untersuchen die Datenschutzbehörden mögliche Verstöße von ChatGPT gegen deutsches Recht, insbesondere die DSGVO. Während noch über die Frage diskutiert wird, wer die Verantwortung für die Regulierung übernehmen sollte, sind die realen Risiken bereits jetzt vorhanden – eine Situation, auf die Unternehmen wie private Nutzer reagieren müssen, wollen sie nicht morgen zu den Opfern aktueller und kommender Gefahren gehören.
„Es ist zu erwarten, dass die Diskussionen um die Regulierung von KI, insbesondere auch von generativer KI, weiterhin kontrovers geführt werden,“ so die Einschätzung von Dr. Martin Krämer, Security Awareness Advocate bei KnowBe4. „Schnelle und weitreichende Entscheidungen sind derzeit nicht in Sicht. Daher liegt es gerade auch in der Verantwortung der Unternehmen, aber auch der Bürgerinnen und Bürger, sich auf eine Welt mit generativer KI vorzubereiten. Die Öffentlichkeit muss über die Technologie und ihre Einsatzmöglichkeiten aufgeklärt werden. Dazu gehört vor allem auch die Antizipation möglicher Zukunftsszenarien, die sich aus dem Einsatz generativer KI ergeben.“
