KI als Sicherheitsrisiko in der Radiologie

Der Einsatz von künstlicher Intelligenz (KI) bietet in der Radiologie ein großes Potenzial. Gleichzeitig erhöht sich dadurch jedoch auch das Sicherheitsrisiko. Forscher des UniversitätsSpitals Zürich (USZ) haben jetzt im Rahmen einer Studie erstmals gezeigt, dass Cyberkriminelle in Zukunft auch versuchen könnten, radiologische Bilder zu manipulieren. Sie fordern Hersteller auf, die Gefahr bereits heute bei der Entwicklung von neuer Hard- und Software zu berücksichtigen.

Für die Studie haben die Forscher ein Programm mit 680 Mammographien von 334 Patientinnen trainiert. Das Programm sollte lernen, Bilder, die Krebs zeigen, in gesunde Aufnahmen umzuwandeln und umgekehrt. Auf diese Weise wollten die Forscher herausfinden, ob man mithilfe von künstlicher Intelligenz krebsspezifische Merkmale realistisch in Mammographien einbringen oder entfernen kann.

Manipulierte Bilder bleiben unentdeckt

Die so manipulierten Bilder wurden drei Radiologen zur Begutachtung vorgelegt. Sie sollten beurteilen, ob die Bilder echt oder manipuliert waren. Mit klarem Ergebnis: Keiner der Radiologen konnte eine zuverlässige Unterscheidung vornehmen. „Künstliche Intelligenz ist in der Lage zu lernen, wie Brustkrebs aussieht. Das hilft uns in der Diagnostik“, sagt Dr. Anton S. Becker, Radiologe am USZ und Erstautor der Studie. „Nun haben wir gezeigt, dass sie auch in der Lage ist, Krebs in Mammographien gesunder Patienten einzubringen oder zu entfernen und durch normal aussehendes Gewebe im Bild zu ersetzen.“

Problem frühzeitig angehen

Eine solche Cyberattacke zur Manipulation von Röntgenbildern wird nach Einschätzung von Dr. Becker jedoch in naher Zukunft noch nicht durchführbar sein. Ein Grund zur Sorge bestehe daher aktuell noch nicht. Der Forscher ist jedoch davon überzeugt, dass sich das ändern kann. Er unterstreicht daher die Wichtigkeit, dass die medizinische Fachwelt sowie Hard- und Softwareanbieter das Bewusstsein für Cyberattacken entwickeln und die notwendigen Anpassungen vornehmen. Das Problem müsse angegangen werden, solange es noch theoretisch sein.

Generell betont der Forscher das große Potenzial, dass künstliche Intelligenz für die Radiologie bietet. Bereits heute wird KI in begrenztem Maße eingesetzt, etwa für die Beurteilung der Dichte des Brustgewebes. Das Programm schlägt eine von vier möglichen Kategorien vor, die der Radiologe im Einzelfall bestätigt oder verwirft. Eine weitere Einsatzmöglichkeit hat nun die Studie gezeigt: „Neuronale Netze sind in der Lage, Bildmerkmale bestimmter Krebsarten noch viel genauer zu erfassen“, so Dr. Becker und ergänzt: „Davon können wir möglicherweise lernen und zu besseren Ärzten werden.“