Eine europaweite Testinfrastruktur für Künstliche Intelligenz (KI) und Robotik im Gesundheitswesen soll im Rahmen des EU-Projekts TEF-Health (Testing and Experimentation Facility for Health AI and Robotics) entstehen. Sie soll innovative Ansätze umfassend und schnell prüfen und sie zur Marktreife bringen.
Unter der Leitung des Berlin Institute of Health (BIH) der Charité Berlin sind 51 Partner aus neun europäischen Ländern an dem Projekt beteiligt, das noch Dezember 2027 für insgesamt fünf Jahre läuft. Die Europäische Union und die im Projekt vertretenen Mitgliedsländer fördern das Projekt mit 60 Millionen Euro. Davon erhält das Fraunhofer HHI 1,2 Million Euro.
Um neue Technologien im Gesundheitssystem einzuführen, müssen ihre Sicherheit, Robustheit, und Zuverlässigkeit ausführlich geprüft werden. Zwar gibt es für Bereiche KI und Robotik gibt es in der Europäischen Union hohe Qualitätsanforderungen. Eine Testinfrastruktur, mit der sich Standards entwickeln, Innovationen prüfen und neue Produkte zertifizieren lassen, fehlt jedoch bislang.
Das TEF-Health-Konsortium möchte diesen Prozess verbessern und die Validierung und Zertifizierung von KI und Robotik in medizinischen Geräten beschleunigen. Dafür entwickelt das Team eine (virtuelle und physische) Testinfrastruktur, die verschiedenen Technologien in realitätsgetreuen Umgebungen evaluieren kann. Das sollen zum Beispiel Krankenhäuser und Labore sein. Anwender können dann zum Beispiel sowohl Software zur Betreuung von Patientinnen und Patienten oder zur Diagnostik als auch Operations- oder Pflegeroboter testen.
Für die Testinfrastruktur erarbeiten die Projektpartner neue regulatorische und ethische Anforderungen wie standardisierte Testprotokolle und Zertifizierungen für KI-basierte Technologien oder einen bestimmten Verhaltenskodex bei der Anwendung. Zusätzlich müssen die notwendigen technischen und administrativen Verfahren entwickelt werden. Mit an Bord bei TEF-Health sind daher neben Krankenhäusern, Universitäten und klinischen Forschungseinrichtungen,auch staatliche Prüforganisationen wie der TÜV, die deutsche Physikalisch-Technische Bundesanstalt und ihr französisches Pendant, das “Laboratoire national de métrologie et d’essais“.
Das Fraunhofer Heinrich-Hertz-Institut (HHI) ist mit seinen Forschungsgruppen „Erklärbare Künstliche Intelligenz“ und „Angewandtes Maschinelles Lernen“ aus der Abteilung für Künstliche Intelligenz am Projekt beteiligt. Die Forschenden wollen Methoden und Instrumente zur Qualitätssicherung von KI-Technologien entwickeln. Zusätzlich arbeiten sie bei der Konzeption und Entwicklung der virtuelleren Testinfrastruktur mit. Hier werden die Expertinnen und Experten ihr Know-how beispielsweise im Bereich der Zeitreihenanalyse, Anwendung erklärbarer KI-Methoden und in der Normung und Standardisierung einbringen.
Gebührenpflichtige Dienste für die Industrie
Nach Abschluss des Projekts sollen die dort Die entwickelten Evaluierungsressourcen und Infrastrukturen werden der Industrie in Form von gebührenpflichtigen Diensten zur Verfügung stehen. Darüber hinaus sollen die umfangreichen Test- und Bewertungswerkzeuge das Vertrauen der Menschen in KI und Robotik stärken.