Der Freistaat Bayern unterstützt die anwendungsnahe Forschung an der Schnittstelle zwischen IT-Sicherheit und künstlicher Intelligenz (KI) am Fraunhofer-Institut für Angewandte und Integrierte Sicherheit AISEC mit 5 Mio. EUR. Hubert Aiwanger, stv. Bayerischer Ministerpräsident und bayerischer Staatsminister für Wirtschaft, Landesentwicklung und Energie, übergab heute den Zuwendungsbescheid für das Forschungsvorhaben »Cognitive Security« an Institutsleiterin Prof. Claudia Eckert.

Künstliche Intelligenz (KI) hält Einzug in immer mehr Lebensbereiche und bietet vielfältige Chancen: Wir nutzen Sprachassistenzsysteme, fahren autonome Autos und werden frühzeitig vor Gefahren gewarnt, indem riesige Datensätze analysiert werden, die wir selbst nicht überblicken können. Die Bedeutung dieser intelligenten Systeme wird in Zukunft noch weiter zunehmen, z. B. in den Bereichen Medizin und Mobilität. Wir können jedoch nur dann von KI profitieren, wenn wir die Systeme nachvollziehbar, sicher und robust entwickeln sowie vertrauenswürdig einsetzen.

KI schützen und für IT-Sicherheit nutzen

Um den Herausforderungen der zunehmenden Vernetzung und Digitalisierung geeignet zu begegnen, arbeiten am Fraunhofer-Institut für Angewandte und Integrierte Sicherheit AISEC Cyber-Security-Expertinnen und -Experten an KI-Systemen und Maschinellen Lernverfahren (ML), die robust gegenüber Angriffen sind. Dazu untersuchen sie Angriffe auf KI-Systeme, z. B. bei der Gesichtserkennung, Sprachverarbeitung oder beim autonomen Fahren, analysieren die Schwachstellen und entwickeln »gehärtete« Lösungen, die diesen Angriffen standhalten. Gleichzeitig nutzen sie gezielt KI-Methoden, um verbesserte IT-Sicherheitslösungen zu entwickeln. Etwa, um mit KI-basierten Sicherheitslösungen immer komplexere IT-Systeme automatisiert und datenschutzbewahrend zu überwachen – z. B. um Identitätsmissbrauch aufzudecken oder im Internet-der-Dinge manipulierte Geräte frühzeitig zu identifizieren. Weiterhin können damit auch sogenannte Deep Fakes, wie manipulierte Texte, Bilder oder Sprachnachrichten, erkannt werden.

»Bayern setzt konsequent auf Künstliche Intelligenz (KI). Das verschafft uns Gestaltungsspielraum in wichtigen Anwendungsfeldern wie IT-Sicherheit und autonomes Fahren. Mit dem Fraunhofer AISEC ist Bayern bei dieser technologischen Entwicklung auf der Überholspur. Was hier erforscht und getestet wird, kommt in Zukunft in den Unternehmen, ihren Produkten und Dienstleistungen zum Einsatz. Unsere Forschungsförderung von heute ist eine Investition in die Technologieführerschaft von morgen«, sagt Wirtschaftsminister Hubert Aiwanger.

»Systeme der Künstlichen Intelligenz werden uns immer mehr Aufgaben abnehmen – ob in der Fabrik, im Büro oder im Alltag. Damit spielen sie eine entscheidende Rolle bei der Transformation von Wirtschaft und Gesellschaft und leiten einen grundlegenden Strukturwandel in der Wirtschaft und in den industriellen Wertschöpfungsketten ein«, sagt Prof. Reimund Neugebauer, Präsident der Fraunhofer-Gesellschaft, anlässlich der Übergabe des Förderbescheids. »Doch um das große Potential KI-basierter Technologien voll auszuschöpfen bedarf es zuvorderst einer breiten gesellschaftlichen Akzeptanz. Das Forschungsvorhaben ›Cognitive Security‹ setzt an dieser Stelle an und wird einen wichtigen Beitrag leisten, sicherheitsrelevante Fragestellungen zu klären und damit auch über Bayern hinaus den Innovations- und Technologiestandort Deutschland stärken.«

»Unsere Entscheidungen basieren zunehmend auf Ergebnissen von KI-Systemen. Immer wichtiger wird dadurch auch die Korrektheit und Vertrauenswürdigkeit dieser Systeme. Cyber-Sicherheitsforschung leistet einen wichtigen Beitrag, KI vertrauenswürdig zu gestalten. Das Fraunhofer AISEC entwickelt sichere KI-basierte Lösungen, aber auch Prüf- und Zertifizierungsmethoden und konkrete Werkzeuge, um Unternehmen darin zu unterstützen, KI-Verfahren in Bezug auf deren Angreifbarkeit zu beurteilen und gezielt zu härten«, erklärt Prof. Claudia Eckert, Institutsleiterin am Fraunhofer AISEC. »Unsere Arbeit am Fraunhofer AISEC zielt stets darauf ab, die Welt ein wenig sicherer zu machen. Die Forschung und Entwicklung für sichere KI-Systeme und zur verbesserten Angriffserkennung und -abwehr leistet hierzu einen wichtigen Beitrag. Wir freuen uns deshalb außerordentlich, dass wir durch die Förderung des Freistaats Bayern unsere Kapazitäten im Bereich ›Cognitive Security Technologies‹ weiter ausbauen und die Innovationsfähigkeit Bayerns und Deutschlands damit noch besser unterstützen können.«

Angewandte Forschung zum Nutzen der Gesellschaft

Insgesamt wird das Forschungsvorhaben »Cognitive Security« über die nächsten fünf Jahre mit 5 Mio. EUR vom Bayerischen Staatsministerium für Wirtschaft, Landesentwicklung und Energie gefördert. Das Vorhaben ist Teil des Kompetenznetzwerks »Künstliche maschinelle Intelligenz« im Rahmen der High-Tech-Agenda der bayerischen Staatsregierung. Im Förderprojekt »Cognitive Security« verantwortet das Fraunhofer AISEC grundlegende Forschungsarbeiten an der Schnittstelle zwischen IT-Sicherheit und künstlicher Intelligenz. Die Ergebnisse werden der Öffentlichkeit zur Verfügung gestellt.