SuKI - Sicherheit für und mit Künstlicher Intelligenz

Ziel des Projektes ist der Auf- und Ausbau von Kompetenzfeldern an der Schnittstelle zwischen IT-Sicherheit und künstlicher Intelligenz am Fraunhofer AISEC. Zahlreiche Abteilungen des Fraunhofer AISEC sind in dieses Projekt involviert. Unterstützt wird das Vorhaben über fünf Jahre mit fünf Millionen Euro durch den Freistaat Bayern.

Das Projekt gliedert sich in vier Grundlagenprojekte:

• Adversarial Machine Learning und Deepfakes,
• Anomalieerkennung,
• Eingebettete KI und Privacy sowie
• KI-gestützte Sicherheitstechnologien.

Gemeinsam mit Industriepartnern sollen konkrete Anwendungen entwickelt werden, z.B. in den Bereichen Lagebilderstellung, Sicherheit in der Mobilität und künstliche Intelligenz zur Sicherheitsüberprüfung.

Bereits im Sommer 2018 wurde von der Bundesregierung eine KI-Strategie verabschiedet, die eine Basis dafür schaffen soll, Deutschland und Europa an die Spitze der Erforschung von künstlicher Intelligenz zu bringen.

Zu den definierten Zielen zählen unter anderem:

• Wir wollen Deutschland und Europa zu einem führenden KI-Standort machen und so zur Sicherung der künftigen Wettbewerbsfähigkeit Deutschlands beitragen.
• Die Potenziale von KI sollen Lebens- und Arbeitsbereiche sicherer, effizienter und nachhaltiger gestalten.
• KI in Deutschland soll von einem hohen Niveau an IT-Sicherheit flankiert werden.

SuKI bündelt unter der Leitung der Abteilung Cognitive Security Technologies das Fachwissen und die Expertise im Bereich Künstliche Intelligenz mit den Kompetenzen und Vorarbeiten aus den Bereichen Hardware Security, Service und Application Security, Product Protection and Industrial Security sowie Secure Operating Systems. Hieraus entstehen vielfältige Werkzeuge, beispielsweise zur Analyse der Robustheit von Modellen, zur automatischen Erkennung von Deepfake-Inhalten, zur Anomalieerkennung bei heterogenen Daten, zur Analyse von Privatheit bei Modellen der KI sowie zur teil-automatisierten Erkennung und Behebung von Sicherheitsschwachstellen.

Für interessierte Unternehmen gibt es mehrere Möglichkeiten, mit uns zu kooperieren:

• Bei der Anpassung und Integration unserer Lösung in die teils sehr spezifischen Einsatzumgebungen.
• Bei der Sicherheitsbewertung von KI-Modellen.
• Bei der Erstellung von KI-Modellen und ihrer Einbettung in sicherheitskritische Infrastrukturen.
• Bei der gemeinsamen Erarbeitung verschiedener Einsatzbereiche für KI-Modelle: Beratung von der Erstellung des Datensatzes bis zum Robustheitstest im Einsatz.