Krankenhäuser ine strukturierte Orientierung für die sichere, menschenzentrierte und verantwortungsvolle Entwicklung bieten will ein neuer Leitfaden.
KI bietet erhebliche Potenziale für Effizienzsteigerung und Qualitätsverbesserung in der klinischen Versorgung. In der Praxis zeigt sich jedoch, dass viele KI-Systeme nur eingeschränkt in den Krankenhausalltag integriert werden können. Häufig entstehen zusätzliche Belastungen für medizinisches Fachpersonal, etwa durch unzureichende Einbindung in bestehende Arbeitsprozesse oder mangelnde Berücksichtigung klinischer Anforderungen während der Entwicklungsphase. Vor diesem Hintergrund gewinnt die Frage an Bedeutung, wie KI-Systeme so entwickelt und implementiert werden können, dass sie Versorgung tatsächlich verbessern und gleichzeitig regulatorischen und ethischen Anforderungen genügen.
Mit EURAID – European Responsible AI Development liegt ein praxisnaher Leitfaden vor, der Krankenhäuser bei genau dieser Herausforderung unterstützt. Entwickelt wurde EURAID unter der gemeinsamen Leitung von Prof. Stephen Gilbert vom Else Kröner Fresenius Zentrum für Digitale Gesundheit an der Medizinischen Fakultät der Technische Universität Dresden sowie dem Universitätsklinikum Carl Gustav Carus Dresden und Dr. Anke Diehl von der Universitätsmedizin Essen. Ziel des Leitfadens ist es, eine strukturierte Orientierung für die sichere, menschenzentrierte und verantwortungsvolle Entwicklung von KI-Systemen im Krankenhaus zu bieten.
Warum KI trotz technologischer Reife im Klinikalltag stockt
Obwohl KI-Technologien rasch voranschreiten, bleibt ihre Einführung in Krankenhäusern bislang begrenzt. Ein wesentlicher Grund dafür liegt in der häufig technologiegetriebenen Entwicklung vieler Systeme. Klinische Arbeitsabläufe, standortspezifische Anforderungen und die tatsächlichen Bedürfnisse von Ärztinnen, Pflegekräften und weiteren Berufsgruppen werden oft erst spät oder unzureichend berücksichtigt. Dies erschwert die Integration in die Routineversorgung und beeinträchtigt die Akzeptanz. Hinzu kommen komplexe regulatorische Rahmenbedingungen. Fragen der Einordnung als Medizinprodukt, der Haftung, der Transparenz algorithmischer Entscheidungen sowie der notwendigen menschlichen Aufsicht stellen Krankenhäuser vor erhebliche organisatorische und rechtliche Herausforderungen. Auch wenn auf europäischer Ebene Anpassungen der regulatorischen Vorgaben für „in-house“ entwickelte KI-Systeme diskutiert werden, bleibt die praktische Umsetzung anspruchsvoll. EURAID setzt an dieser Schnittstelle an und verbindet technische, organisatorische und regulatorische Perspektiven in einem konsistenten Ansatz.
Menschenzentrierte KI als Organisationsaufgabe
Der Leitfaden versteht KI-Entwicklung nicht als isoliertes IT-Projekt, sondern als organisationsweite Transformationsaufgabe. Im Mittelpunkt steht die systematische Einbindung aller relevanten Stakeholder entlang des gesamten Lebenszyklus eines KI-Systems. Medizinische Fachkräfte werden dabei nicht nur als Anwenderinnen und Anwender gesehen, sondern als aktive Mitgestaltende, Implementierende und Überwachende.
Ein besonderer Fokus liegt auf der „in-house“ Entwicklung von KI-Systemen, die es Krankenhäusern ermöglicht, eigene Daten zu nutzen und Anwendungen passgenau auf ihre Versorgungsprozesse zuzuschneiden. EURAID beschreibt Methoden für iteratives Design, klinische Tests und strukturierte Bewertung sowie Wege zur Konsensbildung zwischen unterschiedlichen Interessengruppen. Gleichzeitig sind europäische Werte wie Schutz von Grundrechten, Transparenz, Fairness und Nichtdiskriminierung fest im Ansatz verankert.
EURAID will Krankenhäusern damit eine praxisorientierte Orientierung bieten, um KI-Systeme sicher, regulatorisch anschlussfähig und nachhaltig in den Klinikalltag zu integrieren. Der Leitfaden zeigt, dass erfolgreiche digitale Transformation nur dann gelingt, wenn technologische Innovation konsequent mit organisatorischem Wandel und menschlicher Beteiligung zusammengedacht wird.
