Katalog für mehr Sicherheit von KI-Systemen

Künstliche Intelligenz kommt in immer mehr Bereichen zum Einsatz. (Foto: Daniil Peshkov/123rf.com)

Im Gesundheitsbereich beeinflusst Künstliche Intelligenz (KI) bereits heute viele kritische Prozesse und Entscheidungen. Gleichzeitig sind auf KI basierende Systeme neuen Sicherheitsbedrohungen ausgesetzt, die von etablierten IT-Sicherheitsstandards nicht abgedeckt werden. Diesen Zustand will das BSI ändern.

Der Einsatz von Künstlicher Intelligenz (KI) eröffnet neue Möglichkeiten und Anwendungen in der Wirtschaft und im Gesundheitsbereich. Mit dem neuen Kriterienkatalog für KI-basierte Cloud-Dienste (Artificial Intelligence Cloud Services Compliance Criteria Catalogue, AIC4) schafft das Bundesamt für Sicherheit in der Informationstechnik (BSI) eine wichtige Grundlage, um die Sicherheit von KI-Systemen bewerten zu können.

Basisniveau an Sicherheit

Der AIC4 definiert erstmals ein Basisniveau an Sicherheit für KI-basierte Dienste, die in Cloud-Infrastrukturen entwickelt und betrieben werden. Ein vergleichbarer einsetzbarer Prüfstandard für sichere KI-Systeme existiert derzeit nicht.  Der Katalog umfasst KI-spezifische Kriterien, die eine unabhängige Prüfung der Sicherheit eines KI-Service über dessen gesamten Lebenszyklus hinweg ermöglichen. 

„Wir unterstützen die Bundesregierung dabei, den technologisch und wirtschaftlich erfolgreichen sowie gesellschaftlich akzeptierten Einsatz von KI-Lösungen in Deutschland voranzutreiben“, sagt BSI-Präsident Arne Schönbohm. Noch in diesem Jahr will das BSI einen Stützpunkt mit dem fachlichen Schwerpunkt KI im Saarland ansiedeln. 

KI-Zertifizierung „Made in Germany“

Bereits im November 2020 ist das BSI im Rahmen der vom Land Nordrhein-Westfalen geförderten Kompetenzplattform KI.NRW eine strategische Kooperation mit Fraunhofer IAIS eingegangen, um die Entwicklung einer KI-Zertifizierung „Made in Germany“ voranzubringen. Ziel der Zusammenarbeit ist es, Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz zu entwickeln, die als Basis für technische Standards und Normen dienen können. Bei der Weiterentwicklung der Prüfverfahren wollen die Partner Praxistauglichkeit und Marktfähigkeit in enger Abstimmung mit der Wirtschaft weiter verbessern. Weitere Informationen des BSI zum Thema Künstliche Intelligenz lassen sich hier abrufen.