Künstliche Intelligenz kann Diagnostik, Therapie und administrative Prozesse in der psychiatrischen Versorgung unterstützen. Die DGPPN fordert dafür jedoch verbindliche Qualitäts- und Sicherheitsstandards – und warnt vor dem unkontrollierten Einsatz allgemeiner KI-Chatbots.
Künstliche Intelligenz (KI) soll in Psychiatrie und Psychotherapie nur dann eingesetzt werden, wenn Wirksamkeit, Sicherheit und Nutzen wissenschaftlich belegt sind. Das fordert die Deutsche Gesellschaft für Psychiatrie und Psychotherapie, Psychosomatik und Nervenheilkunde (DGPPN) in einem neuen Positionspapier. Die Fachgesellschaft sieht Einsatzmöglichkeiten unter anderem bei Diagnostik und Verlaufsbeobachtung, in der Therapie sowie bei administrativen Aufgaben. KI könne beispielsweise große und heterogene Datensätze analysieren oder Daten von Smartphones und Wearables für das Monitoring nutzen. Für den routinemäßigen Einsatz solcher passiv erhobenen Daten sei der Nutzen allerdings noch nicht ausreichend belegt.
Chatbots können Versorgung ergänzen
Auch KI-basierte Chatbots könnten perspektivisch die Versorgung ergänzen. Studien weisen laut DGPPN darauf hin, dass entsprechende Systeme insbesondere bei leichten bis moderaten psychischen Belastungen depressive Symptome oder Stress reduzieren und das Selbstmanagement unterstützen können. Die bisherige Evidenz sei jedoch begrenzt. Unter anderem fehlten ausreichend Langzeitdaten, zudem seien viele Untersuchungen noch vor dem Aufkommen moderner Large Language Models (LLM) entstanden. Von allgemeinen Sprachmodellen wie ChatGPT oder Claude grenzt die Fachgesellschaft klinisch entwickelte Anwendungen deutlich ab. Frei verfügbare LLM seien nicht speziell für psychiatrische oder psychotherapeutische Zwecke entwickelt und verfügten beispielsweise nicht zwangsläufig über geeignete Mechanismen für Krisensituationen. Risiken sieht die DGPPN unter anderem bei Suizidalität, psychotischen Symptomen sowie schweren depressiven, bipolaren oder Persönlichkeitsstörungen.
Wir sollten in Psychiatrie und Psychotherapie nur Systeme einsetzen, die […] auf Sicherheit, Wirksamkeit und ihren Nutzen für die Betroffenen überprüft wurden
Prof. Dr. Peter Zwanzger, Leiter des DGPPN-Referats Digitale Psychiatrie und Psychotherapie und federführender Autor des Positionspapiers
Die DGPPN fordert ein Human-in-the-Loop-Prinzip: KI soll Fachkräfte unterstützen, die persönliche therapeutische Beziehung und die klinische Verantwortung aber nicht ohne entsprechenden Evidenznachweis ersetzen. Patientinnen und Patienten müssten zudem jederzeit erkennen können, wann sie mit einem KI-System interagieren. Weitere Anforderungen betreffen Datenschutz und Datensicherheit sowie transparente Informationen über Möglichkeiten und Grenzen der Systeme. Für den therapeutischen Einsatz fordert die Fachgesellschaft einen unabhängigen wissenschaftlichen Nachweis von Wirksamkeit und Sicherheit. Die regulatorischen Standards sollten den EU AI Act berücksichtigen und sich an etablierten Prinzipien der Medizinprodukteregulierung orientieren. Als sinnvolle Einsatzfelder nennt die DGPPN unter anderem die Überbrückung von Wartezeiten, Psychoedukation, Symptommonitoring sowie administrative Prozesse wie Terminvereinbarungen. Gerade bei knappen psychotherapeutischen Ressourcen könnten geprüfte KI-Systeme so dazu beitragen, Fachpersonal zu entlasten und Versorgungskapazitäten gezielter einzusetzen.
