Maschinelle Lernverfahren und Systeme der Künstlichen Intelligenz (KI) werden bereits heute in zahlreichen IT-Infrastrukturen und vernetzten Endgeräten als zentraler Baustein zur Analyse, Prognose und Steuerung eingesetzt, gleichzeitig wird in Deutschland zunehmend die Forderung nach mehr Sicherheit beim Einsatz Künstlicher Intelligenz (KI) laut. Das zeigt eine nun veröffentlichte repräsentative Umfrage des TÜV-Verbands. Dieser zufolge wünschen sich 78 Prozent der Bevölkerung Gesetze und Vorschriften zur Regulierung von KI. 85 Prozent sind gar der Meinung, dass KI-Produkte erst auf den Markt gebracht werden sollten, wenn ihre Sicherheit von unabhängigen Stellen überprüft wurde. Vor diesem Hintergrund erarbeitet das Fraunhofer AISEC gemeinsam mit TÜViT aktuell Verfahren, die die Vertrauenswürdigkeit von KI-Anwendungen mess- und überprüfbar machen sollen, da diese für Unternehmen aller Branchen, aber auch für staatliche Institutionen von höchster Wichtigkeit ist.

»Da KI für Firmen viel Potential mit sich bringt und zunehmend auch in sicherheitskritischen Bereichen eingesetzt wird, möchten wir Unternehmen bei der Entwicklung von KI-Lösungen unterstützen. Daher befindet sich TÜViT gemeinsam mit dem Fraunhofer AISEC aktuell in einem Forschungsprojekt zur Prüfung Künstlicher Intelligenz«, so Dirk Kretzschmar, Geschäftsführer der TÜV Informationstechnik GmbH. »Ziel ist es, ein umfangreiches Framework zu entwickeln, welches die Robustheit von KI-Anwendungen gegen mögliche Angriffe mittels speziell entwickelter Tests messbar macht.«

Mithilfe des innovativen Prüfverfahrens, das in Zukunft eine valide Risikobewertung ermöglicht, werden KI-Lösungen transparenter, vergleichbarer und somit zertifizierbar. Im Fokus steht dabei der Aspekt der IT-Sicherheit und damit die Frage, wie sich die Robustheit eines KI-Algorithmus gegenüber Hackerangriffen ermitteln lässt. Auch wenn KI heute bereits in einigen Bereichen teilweise besser ist als der Mensch, können schon kleinste Manipulationen verheerende Auswirkungen haben. »Daten können so verändert werden, dass der Algorithmus ein Stoppschild plötzlich als Vorfahrtsschild erkennt«, erklärt Vasilios Danos, Berater für IT-Security bei der TÜV Informationstechnik GmbH. »Für das menschliche Auge wäre diese Manipulation kaum wahrnehmbar.«

Im gemeinsamen Projekt mit dem Fraunhofer AISEC entstehen Prüfverfahren, die eine quantitative Bewertung der Robustheit und Stabilität des KI-Algorithmus und dessen Einbettung in das Gesamtsystem erlauben. Mit Hilfe der in der Abteilung Cognitive Security Technologies entwickelten Verfahren lässt sich eine quantitative Risikobewertung der KI-Kernkomponenten unter Berücksichtigung der Einsatzumgebung durchführen. Ob eine KI-Anwendung verlässlich ist, wird zukünftig transparent durch eine KI-Zertifizierung sichtbar sein.

»Allein den KI-Entwicklern zu vertrauen oder gar Herstellereigenerklärungen zuzulassen, halten wir für keine belastbare Basis. Aus unserer Sicht ist es erforderlich, KI-Prüfungen in einem zertifizierten und unabhängigen Labor durchzuführen. Denn hier sind kompetentes Expertenwissen und eine entsprechende Ausstattung gefragt. Das Fraunhofer AISEC forscht bereits seit Jahren an Verfahren, um KI-Anwendungen robuster zu machen und gegen Manipulationen abzusichern und ist damit ein idealer Projektpartner«, fügt Dirk Kretzschmar hinzu.

Sobald das Grundgerüst des Frameworks fertiggestellt ist, können Pilotprojekte mit Herstellern und Entwicklern von KI-Lösungen durchgeführt werden. Erste Prüfungen und Zertifizierungen sind für Mitte 2020 geplant.

Über das Fraunhofer AISEC

Das Fraunhofer-Institut für Angewandte und Integrierte Sicherheit AISEC ist eine der international führenden Einrichtungen für angewandte Forschung im Bereich Cybersicherheit. Mehr als 100 hochqualifizierte Mitarbeiterinnen und Mitarbeiter arbeiten an maßgeschneiderten Sicherheitskonzepten und Lösungen für Wirtschaftsunternehmen und den öffentlichen Sektor, mit dem Ziel, die Wettbewerbsfähigkeit von Kunden und Partnern zu verbessern. Dazu zählen Lösungen für eine höhere Datensicherheit sowie für einen wirksamen Schutz vor Cyberkriminalität wie Wirtschaftsspionage und Sabotageangriffe. Das Kompetenzspektrum erstreckt sich von Embedded und Hardware Security über Automotive und Mobile Security bis hin zu Sicherheitslösungen für Industrie und Automation. Zudem bietet das Fraunhofer AISEC in seinen modernen Testlaboren die Möglichkeit zur Evaluation der Sicherheit von vernetzten und eingebetteten Systemen, von Hard- und Software-Produkten sowie von Web-basierten Diensten und Cloud-Angeboten.

Über TÜViT

Die TÜV Informationstechnik GmbH ist auf die Prüfung und Zertifizierung der Sicherheit in der Informationstechnik ausgerichtet. Als unabhängiger Prüfdienstleister für IT-Sicherheit ist die TÜV Informationstechnik GmbH international führend. Zahlreiche Kunden profitieren bereits von der geprüften Sicherheit des Unternehmens. Zum Portfolio gehören Cyber Security, Evaluierung von Software und Hardware, IoT/Industrie 4.0, Datenschutz, ISMS, Smart Energy, Mobile Security, Automotive Security, eID und Vertrauensdienste sowie die Prüfung und Zertifizierung von Rechenzentren hinsichtlich ihrer physischen Sicherheit und Hochverfügbarkeit. Die 1995 gegründete TÜV Informationstechnik GmbH mit Sitz in Essen ist ein Unternehmen der TÜV NORD GROUP, die mit über 10.000 Mitarbeitern und Geschäftsaktivitäten in weltweit 70 Ländern als einer der größten Technologie-Dienstleister agiert.

TÜViT ist die Dachmarke des Geschäftsbereiches IT, einem der sechs weltweit aufgestellten Geschäftsbereiche in der TÜV NORD GROUP. Der Geschäftsbereich IT wird vertreten durch die Gesellschaften TÜV Informationstechnik GmbH und der im Januar 2018 neu gegründeten Beratungsgesellschaft TÜV NORD IT Secure Communications GmbH & Co. KG mit Sitz in Berlin.