Mit KI gegen Cyberangriffe: Die Abwehr der Firma stärken

Von Josef Stelzer, IHK-Magazin 10/2025

Tibor Konya, Geschäftsführer und Miteigentümer der 9int9 GmbH, kennt die Gefahrenquellen genau. Das Münchner Unternehmen bietet unter anderem Security-Scans, die die betriebliche IT-Sicherheit auf Herz und Nieren testen. Es simuliert Cyberattacken und spürt auf diese Weise die Schwachstellen in Unternehmensnetzwerken auf.

Eine wichtige Rolle spielt dabei generative KI, die unterschiedliche Inhalte wie beispielsweise technische Beschreibungen anfertigt oder zusammenfasst, aber auch Bilder, Videoclips oder Software erzeugen kann. Doch die generative KI ist nicht nur ein wirksamer Helfer gegen Cyberattacken. Sie kann – in der Hand von Cyberkriminellen – für Unternehmen äußerst gefährlich werden. „Künstliche Intelligenz wirkt wie ein Katalysator, der Cyberangriffe automatisiert und noch bedrohlicher macht“, warnt Konya.

Einfallstor und Abwehr zugleich

Angesichts dieser Situation lohnt es sich für Unternehmen, sich mit 2 grundlegenden Fragen zu beschäftigen: Welche Gefahren kann der intelligente Schadcode auf der einen Seite für den eigenen Betrieb bedeuten? Und wie kann das Unternehmen andererseits künstliche Intelligenz so einsetzen, dass sie die Abwehr gegen solche Cyberangriffe stärkt?

Die Methoden der KI-gestützten Angriffe umfassen eine denkbar große Bandbreite, wie die wissenschaftliche Arbeitsgruppe des Nationalen Cyber-Sicherheitsrats (NCSR) feststellt. Dieses Expertengremium berät den NCSR, in dem auch die IHK-Organisation vertreten ist. Zu den Mitgliedern zählt unter anderem Claudia Eckert, Professorin für Informatik an der TU München und Leiterin des Fraunhofer-Instituts für Angewandte und Integrierte Sicherheit AISEC in Garching.

Schad-KI manipuliert Trainingsdaten

Das Spektrum der Attacken reicht von automatisiert generierten Angriffen bis hin zu ausgefeiltem Social Engineering, mit dem Cyberkriminelle ihre Opfer dazu verleiten, zum Beispiel vertrauliche Informationen preiszugeben oder Schadprogramme wie etwa Ransomware in Firmennetzwerken einzuschleusen und auszuführen.

KI-gestützte Angriffsmethoden visieren etwa interne Chatbots an. Mit gezielten Fragen entlocken sie der Unternehmens-KI vertrauliche Daten und andere sensible Informationen. Zu den diversen Spielarten KI-generierter Cyberangriffe gehören „Poisoning-Attacken“, welche die Trainingsdaten der Unternehmens-KI so manipulieren, dass diese falsche Antworten liefert.

Stimme des Chefs imitiert

KI lässt sich ebenfalls einsetzen, um Schadprogramme automatisch zu generieren, Schwachstellen in IT-Netzwerken schneller aufzuspüren oder menschliche Stimmen nachzuahmen. „Die Stimme eines Unternehmers zum Beispiel kann von der KI so imitiert werden, dass sie vom Original nicht mehr zu unterscheiden ist“, sagt 9int9-Geschäftsführer Konya. Damit lassen sich per Telefon zum Beispiel betrügerische Zahlungsanweisungen initiieren oder Passwörter ausspionieren.

Cyberangriffe durch KI effizienter

Philip Sperl, Leiter der Fraunhofer AISEC-Abteilung Cognitive Security Technologies, unterstreicht: „Genau wie herkömmliche IT-Systeme können auch Künstliche-Intelligenz-Lösungen angegriffen werden.“ Gesichtserkennungs-KI etwa sei so manipulierbar, dass der unerlaubte Zugang zu kritischen Systemen möglich werde. „Durch den Einsatz von KI können Cyberangriffe viel effizienter als bisher gefahren werden“, warnt der promovierte Informatiker.

Künstliche Intelligenz ermöglicht es beispielsweise, mit ausgeklügelten, glaubhaft wirkenden und personalisierten Phishing-Mails eine praktisch beliebig große Zahl von Adressaten gleichzeitig zu attackieren. Damit steigt die Wahrscheinlichkeit, dass sich einzelne Adressaten täuschen lassen und die Cyberkriminellen dadurch zum Beispiel an Passwörter gelangen.

KI spürt Schwachstellen auf„Zudem können KI-Agenten dabei unterstützen, unzureichend abgesicherte oder fehlerhaft konfigurierte Teile von Firmennetzwerken ausfindig zu machen, um diese gezielt als Einfallstor etwa für Ransomware-Angriffe zu nutzen“, erläutert Sperl. Außerdem lasse sich künstliche Intelligenz für einen „Einstieg“ in die Cyberkriminalität missbrauchen, womöglich sogar von Laien.

Was tun angesichts dieser Bedrohungslage? KI-Werkzeuge können den Schutz von Unternehmen auch deutlich verbessern. Nach Einschätzung der wissenschaftlichen Arbeitsgruppe des Nationalen Cyber-Sicherheitsrats erkennen sie die für Attacken nutzbaren Schwachstellen in den Firmennetzwerken, ermöglichen tiefe Einblicke in laufende Angriffe und zeigen schnell wirksame Gegenmaßnahmen auf.

Angriffswege durch KI prognostizierbar

Mehr noch: Durch die kontinuierliche Datenanalyse per KI lassen sich mögliche Angriffswege prognostizieren und vorbeugende Schutzmaßnahmen gerade an jenen Stellen im Netzwerk verbessern, wo mit hoher Wahrscheinlichkeit Angriffe zu erwarten sind (Predictive Security AI). „KI kann große Datenmengen durchforsten, Auffälligkeiten erkennen, Softwareanalysen durchführen und potenzielle Schlupflöcher für Hacker oder Schadsoftware aufspüren“, sagt Sperl.

Künstliche-Intelligenz-Systeme bemerken auch Unregelmäßigkeiten oder verdächtige Muster in den sogenannten Logdateien. Solche Logdateien protokollieren Ereignisse, Aktivitäten samt Zeitstempel mit Log-ins und Seitenaufrufen und sind zentral für Überwachung, Analysen sowie Fehlerbehebungen in Netzwerken.

Profis mit Gespür erforderlich

Ganz einfach ist dieser Weg allerdings nicht. Jedes KI-System, das für die Verteidigung gegen Cyberattacken zum Einsatz kommen soll, muss dafür speziell trainiert werden. „Um die KI-Modelle trainieren zu können und die betriebliche Cybersicherheit zu stärken, braucht man unbedingt Profis“, betont Sperl. „Diese erfahrenen Experten haben auch ein Gespür dafür, wenn die KI falsche Resultate liefert, also halluziniert.“