Wie unregulierte KI-Technologie Cyberkriminalität fördern könnte

KI in den falschen Händen

Das Potenzial von KI als Bedrohung für die Cybersicherheit wird inmitten regulatorischer Debatten und Innovationshypes übersehen. Während KI immer stärker in Geschäftsprozesse integriert wird, entstehen gleichzeitig neue Schwachstellen, die bestehende Sicherheitsmassnahmen möglicherweise nicht ausreichend abdecken können.

Von Aras Nazarovas, Sicherheitsforscher bei Cybernews | Aus dem Englischen übersetzt

Der jüngste KI-Gipfel in Paris zeichnete eine optimistische Zukunftsvision der Technologie und konzentrierte sich darauf, wie KI grosse Probleme in der Medizin, der Klimaforschung und anderen Bereichen lösen kann – statt den Sicherheitsaspekt in den Vordergrund zu stellen. Doch die Welt darf sich nicht nur über die Chancen von KI freuen. Es ist entscheidend, sich bewusst zu machen, dass KI auch ein mächtiges Werkzeug für kriminelle Akteure ist – eines, das bereits in Cyberangriffen eingesetzt wird und sich zu einer noch grösseren Bedrohung entwickeln könnte.

KI-gestützte Angriffe werden immer raffinierter

KI wird heute bereits genutzt, um Cyberangriffe effizienter zu gestalten. Eine Studie der Universität Cambridge zeigt, dass KI-gestützte Angriffe immer raffinierter werden. Angreifer setzen zunehmend auf maschinelles Lernen, um Phishing-Angriffe zu automatisieren und dabei Einzelpersonen sowie Unternehmen mit hochgradig personalisierten Inhalten ins Visier zu nehmen. Diese KI-Systeme können riesige Datenmengen analysieren – von Social-Media-Profilen über den Browserverlauf bis hin zu E-Mail-Mustern – und so täuschend echte Angriffe entwickeln, die schwerer zu erkennen sind als herkömmliche Phishing-Versuche.

Zudem senken KI-Tools die Einstiegshürde für Cyberkriminalität erheblich, da selbst unerfahrene Akteure Angriffe ausführen können, für die sie zuvor die technischen Fähigkeiten nicht besassen. Personen ohne Programmierkenntnisse können beispielsweise einfach KI-Modelle wie ChatGPT nutzen, um Bots zu erstellen, die Serverangriffe automatisieren. Auch wenn diese Angriffe nicht unbedingt neu sind, steigt dadurch die Anzahl der potenziellen Bedrohungen, mit denen Unternehmen konfrontiert sind – und das auf Kosten bereits unterfinanzierter Sicherheitsteams.

Zwischen Regulierung und Innovationsfreiheit: Ein Balanceakt

Da KI-Tools zunehmend in Geschäftsprozesse eingebunden werden, steigen die Risiken weiter. So ergab eine aktuelle KPMG-Umfrage unter Führungskräften im Finanzsektor, dass 84 % ihre Investitionen in generative KI (GenAI) erhöhen wollen.

Während Unternehmen den Einsatz von KI-Technologien vorantreiben, berichtet das Weltwirtschaftsforum, dass fast 47 % der befragten Organisationen bereits von durch GenAI ermöglichten Angriffen betroffen waren. Trotz dieser Bedrohungen haben lediglich 37 % der Unternehmen Sicherheitsmassnahmen implementiert, um KI-Tools vor ihrer Einführung zu überprüfen.

Gleichzeitig wird das KI-Gesetz der EU, das Hochrisiko-KI-Systeme regulieren soll, erst schrittweise umgesetzt – mit vollständiger Implementierung frühestens 2027. Die Debatte in Europa dreht sich daher um die Frage, wie eine Regulierung mit der Förderung von Innovation in Einklang gebracht werden kann. Während des Pariser KI-Gipfels deutete Frankreichs Präsident Emmanuel Macron an, dass Europa die regulatorische Belastung verringern könnte, um KI-Wachstum in der Region zu ermöglichen.

Dies birgt jedoch ein erhebliches Risiko: Während Europa mit übermässiger Regulierung ringt, könnte ein abwartender Ansatz dazu führen, dass es den technologischen Anschluss verpasst. Bis das KI-Gesetz vollständig in Kraft tritt, könnte sich eine völlig neue Generation KI-gestützter Cyberangriffe entwickelt haben – mit Bedrohungen, die über die aktuelle Gesetzgebung hinausgehen.

Was bedeutet das für die Cybersicherheit, wenn KI in einem kaum regulierten Umfeld agiert? Während Innovation unerlässlich ist, bedeutet das Fehlen sicherheitsorientierter Vorschriften, dass KI-Tools bereits von Cyberkriminellen genutzt werden – mit minimaler Kontrolle.

KI-Angriffe könnten weitreichendere Folgen haben als Phishing

Heute sind KI-gestützte Angriffe nicht mehr auf Phishing beschränkt. KI kann Sicherheitslücken in kritischen Infrastrukturen ausnutzen, grössere Distributed Denial of Service (DDoS)-Angriffe durchführen oder sogar Finanzmärkte manipulieren.

Im Jahr 2023 warnte das US-Heimatschutzministerium, dass KI-Systeme bald in der Lage sein könnten, autonome Cyberangriffe zu starten, die mit herkömmlichen Abwehrmechanismen kaum abzuwehren sind. Solche Angriffe könnten eine ernsthafte Sicherheitskrise auslösen, die politische Entscheidungsträger nicht ignorieren dürfen.

Sollte sich KI soweit entwickeln, dass sie autonom digitale Infrastrukturen kompromittieren kann, könnte dies zu einer dramatischen Eskalation von Cyberangriffen führen – mit verheerenden globalen Folgen.

Cybersicherheit muss sich jetzt weiterentwickeln

Unabhängig davon, ob KI stark reguliert wird oder nicht, müssen Unternehmen ihre Cybersicherheitsmassnahmen intensivieren.

Zusätzliche KI-Sicherheitstools einsetzen:
Unternehmen sollten KI-gestützte Sicherheitslösungen nicht als Ersatz für bestehende Tools nutzen, sondern als Ergänzung. KI kann Netzwerkverkehr analysieren und Anomalien erkennen, die auf eine Bedrohung hinweisen. Da Angriffe immer stärker automatisiert werden, hilft KI dabei, Bedrohungen schneller und effizienter zu identifizieren – und ermöglicht es Sicherheitsteams, mit begrenzten Ressourcen mehr zu erreichen.
KI für Bedrohungsanalysen nutzen:
KI kann nicht nur Angriffe abwehren, sondern auch simulieren. Sicherheitsteams sollten sich in die Denkweise von Angreifern versetzen und KI nutzen, um ihre eigenen Systeme auf Schwachstellen zu testen – und diese zu beheben, bevor sie ausgenutzt werden können.
Sicherheitsmitarbeiter kontinuierlich schulen:
Da sich KI-gestützte Angriffe stetig weiterentwickeln, reichen traditionelle Firewalls und Antivirensoftware nicht mehr aus. IT-Sicherheitsfachleute müssen neue Angriffstechniken verstehen und sich laufend über aktuelle Bedrohungen informieren, um rechtzeitig reagieren zu können.

Sicherheitsverantwortliche müssen jetzt handeln

Zweifellos wird KI die Cybersicherheit – ebenso wie viele andere Branchen – revolutionieren. Doch sie bringt auch neue Risiken mit sich. Während politische Entscheidungsträger noch über Regulierung diskutieren, müssen Sicherheitsverantwortliche jetzt handeln. KI kann sowohl ein Verbündeter als auch ein Gegner in der Cyberabwehr sein. Je mehr sie sich weiterentwickelt, desto wichtiger wird es, Systeme gegen ihre potenziell gefährliche Seite abzusichern.

Über den Autor

Aras Nazarovas ist Sicherheitsforscher bei Cybernews, einer forschungsorientierten Online-Publikation. Sein Fachgebiet umfasst Cybersicherheit und Bedrohungsanalysen. Er untersucht Online-Dienste, bösartige Kampagnen und Sicherheitslücken in Hardware und sammelt Daten zu den aktuellsten Cyberbedrohungen. Gemeinsam mit dem Cybernews-Research-Team hat er bedeutende Datenschutz- und Sicherheitsprobleme bei Organisationen und Plattformen wie NASA, Google Play und PayPal aufgedeckt. Jährlich führt das Team über 7'000 Untersuchungen durch und veröffentlicht mehr als 600 Studien, um Unternehmen und Verbraucher bei der Verbesserung ihrer IT-Sicherheit zu unterstützen.

Passend zu diesem Artikel

Cybersecurity für die Industrie

Die Schweiz, Sinnbild von Präzision und Stabilität, steht unter digitalem Dauerbeschuss. Während CEOs über Innovationsstrategien beraten, kompromittieren Hacker ihre Produktionslinien. Hier gibt es Informationen rund um die Cybersicherheit.