Manipulationssichere KI-Systeme
Die Fraunhofer-Experten nehmen solche Gefahrenquellen ins Visier. „Zu den aktuellen Schwerpunkten gehören teilautomatisiert einsetzbare Lösungen, um Schwachstellen in Hard- und Software zu erkennen und diese gezielt zu beheben“, erklärt die Informatikerin.
Andere AISEC-Forschungsfelder beschäftigen sich mit Lösungen für eine zuverlässige, vertrauenswürdige Elektronik, die in Alltagsgegenständen wie Smartphones oder in industriellen Fertigungsverfahren zum Einsatz kommt, sowie auf möglichst manipulationssicheren KI-Systemen. „Die Gefahren durch KI-generierte Angriffe, die automatisch nahezu von jedermann erzeugt werden können, steigen wegen des einfachen Zugangs zu generativer KI rasant“, warnt Eckert.
So entwickelt der Bereich „Post-Quanten-Kryptografie“ neuartige Verschlüsselungstechniken. Denn in Zukunft können extrem leistungsfähige Quantencomputer die derzeit verwendeten Verschlüsselungsmethoden womöglich knacken. Dies würde Datendiebstähle und Manipulationen gravierend erleichtern, die angegriffenen Unternehmen wären massiv bedroht.