Test-, Validierungs- und Zertifizierungsverfahren von Produkten und Anwendungen mit Künstlicher Intelligenz (KI) im Gesundheitswesen zu entwickeln, ist das Ziel eines EU-Projektes, bei dem nun auch der TÜV-Verband als Partner mitwirkt.
Das „EU TEF-Health Projekt” (Testing and Experimentation Facility for Health AI and Robotics) wird mit 60 Millionen Euro gefördert. „Der TÜV-Verband und das TÜV AI Lab arbeiten bei TEF-Health gemeinsam mit Institutionen der europäischen Spitzenforschung an einem der wichtigsten Zukunftsprojekte unserer Zeit”, sagt Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands. Er betont, dass Medizinprodukte mit Künstlicher Intelligenz eine bessere Diagnostik und effektivere Behandlungsmethoden ermöglichen. „Mit entsprechenden Prüfverfahren gewährleisten wir die Sicherheit für die PatientInnen, helfen das Risiko von Fehldiagnosen oder Benachteiligung bestimmter Bevölkerungsgruppen zu reduzieren und bringen so medizinische KI-Anwendungen schneller aus dem Labor ans Bett.“ Damit das funktioniert, müssen technische Verfahren entwickelt und Zulassungsverfahren verbessert werden. Geplant ist, dass Parameter wie Funktionsfähigkeit, Cybersicherheit und Zuverlässigkeit von Hard- und Software-Produkten mit Künstlicher Intelligenz in realen Testumgebungen geprüft werden.
KI-Projekt: Neun EU-Länder machen mit
Am TEF-Health Projekt sind 51 Partner aus neun EU-Ländern beteiligt, darunter renommierte Universitätskliniken wie die Berliner Charité oder das Karolinska-Institut aus Schweden, Behörden des Messwesens wie die Physikalisch-Technische Bundesanstalt (PTB) und amtlich anerkannte Prüforganisationen. Koordiniert wird das internationale Projektkonsortium vom Berlin Institute of Health in der Charité (BIH) unter der Leitung von Prof. Petra Ritter. Die Expertinnen und Experten der TÜV-Organisationen steuern ihre Expertise bei der Prüfung und Zertifizierung von Medizinprodukten bei, für die sie als „Benannte Stellen“ zuständig sind. Für die Prüfung von KI-Systemen in der Medizin haben die Benannten Stellen in Deutschland bereits erste Leitfäden entwickelt, mit denen unter anderem die Qualität der Trainingsdaten und die Cybersicherheit bewertet werden kann. Darauf aufbauend will der TÜV nun die Schwerpunkte bei Entwicklung von agilen Zertifizierungsverfahren von KI-Systemen im Medizingerätebereich sowie eine enge Zusammenarbeit mit anderen Projektpartnern bei der Definition und Messbarmachung von Qualitätsstandards setzen.
Vertrauenswürdige KI entwickeln
Das Projekt startet im Januar 2023. Zeitgleich finden die europäischen Abstimmungen über die Gestaltung des „AI Acts“ statt. Mit der EU-Verordnung sollen die Risiken von Produkten und Anwendungen mit Künstlicher Intelligenz eingedämmt und ein einheitlicher Rechtsrahmen für die Entwicklung vertrauenswürdiger KI-Systeme geschaffen werden.
Der TÜV-Verband setzt sich dafür ein, dass Künstliche Intelligenz nicht nur im Bereich Medizin, sondern auch in anderen Anwendungsgebieten geprüft wird, sofern Risiken für die Nutzenden bestehen. Dazu zählt der Verband Fahrzeugtechnik im Bereich des automatisierten Fahrens, industrielle KI-Anwendungen in der Robotik wie so genannte Cobots oder KI-Systeme in kritischen Infrastrukturen wie der Energie- und Wasserversorgung.