©Deutscher Ethikrat/Reiner Zensen
„Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern. KI darf den Menschen nicht ersetzen. Das sind grundlegende Regeln für die ethische Bewertung“, sagt Professor Alena Buyx, Vorsitzende des Deutschen Ethikrates. „KI-gestützte digitale Produkte kommen zunehmend im Gesundheitssystem zum Einsatz. Insbesondere in der medizinischen Forschung kann der Einsatz von KI vorteilhaft sein, so bei der Durchsuchung großer Datenbanken, um treffsichere Vorhersagen über individuelle Krankheiten, die Ausbreitung eines Virus oder zur Struktur komplexer Moleküle zu machen“, so Professor Buyx. In der medizinischen Versorgung würden KI-Instrumente zunehmend auch für die Diagnostik und Therapie entwickelt, beispielsweise bei Brust- und Prostatakrebs.
Einer der wenigen medizinischen Handlungsbereiche, in denen KI-basierte Systeme die weitgehende oder sogar vollständige Ersetzung von ärztlichem oder anderem Gesundheitspersonal zumindest suggerieren, sei die Psychotherapie.
Vermeidung von Deskilling
Um sicher zu stellen, dass menschliche Entfaltung und Handlungsmöglichkeiten erweitert und nicht vermindert werden, hat der Deutsche Ethikrat im Frühjahr dieses Jahres in einer 287-seitigen Stellungnahme zum Thema „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“1 eine Reihe von Empfehlungen formuliert, die sich unter anderem auf die Qualitätssicherung bei der Entwicklung und Nutzung von KI-Produkten beziehen. „Wir unterstreichen die Vermeidung ärztlicher Kompetenzverluste – das sogenannte Deskilling – und das Ziel, die Privatsphäre von Patient:innen mit gleichzeitig intensiver Datennutzung in der medizinischen Forschung in Einklang zu bringen“, betont das Mitglied der Nationalen Akademie der Wissenschaften Leopoldina. KI-Anwendungen, die nachweislich herkömmlichen Behandlungsmethoden überlegen seien, sollten allen einschlägigen Patient:innengruppen zur Verfügung stehen. Dabei gelte es, das Vertrauensverhältnis zwischen allen beteiligten Personen zu schützen. Eine vollständige Ersetzung der ärztlichen Fachkraft durch ein KI-System gefährde das Patient:innenwohl, und sei auch nicht dadurch zu rechtfertigen, dass schon heute in bestimmten Versorgungsbereichen ein akuter Personalmangel besteht, betont Alena Buyx. Gerade in komplexen Behandlungssituationen bedarf es eines personalen Gegenübers, das durch technische Komponenten zwar immer stärker unterstützt werden könne, dadurch selbst als Verantwortungsträger für Planung, Durchführung und Überwachung des Behandlungsprozesses aber nicht überflüssig werden dürfe, so die Medizinethikerin. Bereichsübergreifend identifiziert der Deutsche Ethikrat zehn Querschnittsthemen und Empfehlungen, die nicht nur für die ethische Einordnung von KI-Anwendungen in der Medizin bedeutsam sind. Darin geht es unter anderem darum, „KI zur Entscheidungsunterstützung und nicht zur Entscheidungsersetzung zu verwenden, die Diffusion von Verantwortung zu verhindern, menschliche Kontrolloptionen nicht zu beeinträchtigen und den Zugang zu den Entscheidungsgrundlagen insbesondere in Bereichen mit hoher Eingriffstiefe zu gewährleisten.“ Weitere Forderungen zielen darauf ab, Verzerrungen, Abhängigkeiten und Missbrauch von Technik sowie unerwünschte Verluste menschlicher Fertigkeiten zu vermeiden. Über alle Anwendungsbereiche hinweg gelte es, so das Plädoyer des Deutschen Ethikrates, die Interessen der Menschen, von denen die in KI-Anwendungen verwendeten Daten stammten, in den Mittelpunkt zu stellen, übermäßige Eingriffe in die Privatsphäre mithilfe effektiver rechtlicher und technischer Vorkehrungen zu verhindern und gleichzeitig eine gemeinwohlorientierte Datennutzung zu ermöglichen.
