© Silke Wernet

Lebenslinie (LL): Der Einsatz von VR, KI oder auch ChatGPT1 in der Medizin kann vorteilhaft sein und kann „Grenzen verschieben“, womöglich Horizonte erweitern. Aber keine Wirkung ohne Nebenwirkung. Wo lauern die Gefahren, wo sind die Grenzen für die Grenz­erweiterung?

Professor Giovanni Maio: (GM): „Der Einsatz der KI in der Medizin ist nicht per se ein Problem. Im Gegenteil gehört es zur Sorgfalt dazu, alle Möglichkeiten auszuschöpfen, um Diagnosen, Therapien und Prognosen sicherer zu machen. Hierfür kann der Rückgriff auf Daten der KI sehr hilfreich sein. Das Problem beginnt erst dort, wo die KI nicht mehr als Hilfsmittel für eine bessere ärztliche Entscheidungsfindung genommen wird, sondern vielmehr als deren Ersatz gilt.“

LL: Wo muss man Ihrer Meinung nach dem Machbaren Grenzen setzen?

GM: „Die Grenze der KI ist dort auszumachen, wo man den Reduktionismus, der über die Sammlung von Daten implementiert wird, nicht mehr sieht, sondern meint, man würde über die Daten schon alles wissen. Die KI hantiert mit vielen Daten, aber zwischen der Wirklichkeit und diesen Daten besteht eine Kluft. Und dieser muss man sich bewusst bleiben, denn sonst berechnet die KI Lösungen, die an den Problemen der Menschen komplett vorbeigehen. Denn ihre Probleme sind nicht in Daten zu erfassen, sondern im Gespräch, im Zuhören, im Verstehen, im Zwischenmenschlichen zu begreifen.“

LL: Eine Studie der Universität Oxford sieht in der KI eine existenzielle Bedrohung für die Menschheit. Wie ist Ihre Meinung dazu? 

GM: „Ich halte nichts von Superlativen, weder im Positiven noch im Negativen. Genauso wenig wie die KI alle Probleme lösen wird, wird sie auch den Niedergang unserer Kultur bedeuten. Beide Szenarien sind unseriös. Wenn man die KI als Bedrohung etikettiert, so hat man übersehen, dass die KI lediglich eine Technik darstellt, und es kommt ganz auf uns an, wie wir mit ihr umgehen. Wir müssen uns darüber verständigen, wie man einen besonnenen Umgang mit dieser Technik finden kann, und aus meiner Sicht besteht dieser darin, dass wir die KI nicht alleine entscheiden lassen dürfen, sondern wir müssen überall eine Plausibilitätsprüfung vornehmen und uns davon fernhalten, automatisierte Entscheidungen für normal anzusehen. Entscheidungen müssen reflektiert sein, sie müssen den Einzelfall in den Blick nehmen und sie müssen verstehensbasiert ausfallen. Wir brauchen eine menschliche Kontrolle der KI und das Bewusstsein, dass es gerade in der Medizin ein Recht auf eine menschliche Entscheidungshoheit gibt.“

LL: Wie kann man Manipulationen durch KI Einhalt gebieten und so ein „Eigenleben“ derselben ausschließen?

GM: „Wir brauchen eine stärkere Anstrengung, die Entscheidungswege der KI über ihre Algorithmisierung transparenter zu machen. Solange die Algorithmen nicht nachvollziehbar sind und wir es mit einer Black Box zu tun haben, bleibt alles intransparent und extrem störanfällig. Wir sind es den Patientinnen und Patienten schuldig, genau erklären zu können, warum so und nicht anders entschieden worden ist. Da dürfen wir keine Intransparenz zulassen, und so müssen die algorithmischen Entscheidungswege einfach durchsichtig werden. Hierin muss man viel mehr investieren, im Sinne der Autonomie der Patientinnen und Patienten – aber auch der Autonomie der Ärztinnen und Ärzte.“

LL: Wie sieht ein ethisch verantwortlicher Umgang mit KI in der Medizin aus?

GM: „Ärztinnen und Ärzte werden dazu ausgebildet, den ganzen Menschen zu sehen, sich für seinen Befund genauso zu interessieren wie für sein Befinden, und sie lernen, die KI dort einzusetzen, wo mit ihr mehr Sicherheit und Klarheit hergestellt werden kann. Am Ende muss es aber immer die Ärztin oder der Arzt sein, die oder der die Daten der KI einem Plausibilitätscheck unterziehen. Ein verantwortlicher Umgang hieße, dass alle Patientinnen und Patienten wissen, Ärztinnen und Ärzte nutzen das Potenzial der Künstlichen Intelligenz, aber sie fühlen sich persönlich verantwortlich für die Entscheidungen und sind bereit, sich verantwortungsbewusst um ihre Patientinnen und Patienten zu kümmern. Die KI kann den Ärztinnen und Ärzten bestimmte Dinge abnehmen und Teilfunktionen übernehmen. Die ärztliche Entscheidung selbst erfordert aber mehr als KI; sie erfordert ärztliches Beurteilungsvermögen – und dieses wird durch die KI nicht obsolet, sondern wichtiger denn je.“

Das Interview mit Medizinethiker Prof. Giovanni Maio führte Lebenslinie-Chefredakteurin Susanna Khoury

Quelle: 1VR =Virtuelle Realität; KI = Künstliche Intelligenz und ChatGPT = ist ein Chatbot, der  künstliche Intelligenz nutzt, um menschliche Sprache zu verstehen und so eine der menschlichen Sprache ähnelnde Antwort zu erzeugen.

Quelle: 1www.europarl.europa.eu/news/de/headlines/society/20230601STO93804/ki-gesetz-erste-regulierung-der-kunstlichen-intelligenz

©Daniel Peter/UKW

Roboter und Computer, die selbstständig denken und handeln können, kannten wir bis vor Kurzem nur aus Science-Fiction-Filmen. Mit mannigfachen Anwendungen Künstlicher Intelligenz (KI)¹ wie etwa Large Language Models (ChatGPT), virtuellen Assistenten und Chatbots oder auch Robotik sind sie längst in der realen Welt angekommen. Und dass diese selbstlernenden Systeme ein Eigenleben entwickeln können, liegt im Bereich des Möglichen. Studienergebnisse von Wissenschaftler:innen der Universität Oxford sehen in der nächsten KI-Generation eine existenzielle Bedrohung der Menschheit.² Laut dem Hauptautor der Studie, Professor Michael Cohen, ist eine „existenzielle Katastrophe nicht nur möglich, sondern wahrscheinlich“. Wie es scheint, haben wir die Büchse der Pandora geöffnet, ohne zu wissen, wie die Geister, die wir riefen, in Schach zu halten sind. Mit Alexander Hann und seiner neu eingerichteten Professur für Digitale Transformation in der Gastroenterologie am Uniklinikum Würzburg (UKW) haben wir einen Gastroenterologen mit Programmierkenntnissen zu Rate gezogen, um die Chancen, aber auch die Gefahren der neuen Technologien zu beleuchten, vor allem in so sensiblen Bereichen wie der Medizin. „Wenn man ein Zukunftsszenario sich ausdenken würde, bei dem KI-gesteuerte Systeme einen voll automatisierten Zugriff auf medizinisch-therapeutische Verfahren hätten, könnten diese sicherlich auch Schaden anrichten“, so der 42-Jährige. „Vor allem deswegen, weil sie noch Blackboxen sind. Ihre Entscheidungen können wir bislang nur bruchstückhaft nachvollziehen.“ Und so bedürfe es beim Einsatz von KI in der Medizin stets der menschlichen Kontrolle, so Professor Hann. Aber die neuen technischen Möglichkeiten bergen auch Chancen, die bei den „Baustellen“ im Gesundheitssystem Abhilfe schaffen könnten. „Derzeit benötige ich etwa 20 Klicks am Computer, um die Laborwerte eines:einer Patienten:in abzurufen. Hier würde der Einsatz von KI-gesteuerten Systemen eine enorme Zeitersparnis bedeuten. Zeit, die für meine Arzttätigkeit an Patient:innen frei werden würde.“ Auch bei der Dokumentation und anderen zeitraubenden Arbeiten des Ärzt:innenalltags sei seiner Meinung nach KI ohne größere Bedenken einsetzbar. Ein bisschen diffiziler werde es bei der Diagnostik etwa der Polypen-Detektion, so Hann. Alle großen Endoskop-Hersteller hätten bereits KI-gesteuerte Systeme hierfür auf dem Markt gebracht. Im UKW sucht und findet so ein Endoskop der neuesten Generation auch schon Darmkrebsvorstufen, allerdings noch im Rahmen klinischer Studien. Die KI wurde dafür gespeist mit über 300.000 händisch angezeichneten Bildern aus Dickdarmspiegelungen. Das Ergebnis: „Die KI ist hochsensibel eingestellt und findet alles, was manchmal auch zu falsch positiven Ergebnissen führt“, berichtet Professor Hann. Wobei erfahrene Untersuchende mehr auf ihre eigene Erfahrung als auf den Polypen-Detektor vertrauten. Die Anfänger:innen dagegen könnten nach einer durchgeführten Studie öfter unreflektiert die Vorschläge der KI übernehmen, so der stellvertretende Leiter der Gastroenterologie in der Medizinischen Klink und Poliklinik II am UKW. Daher empfehle er die Anwendung von KI-gesteuerten Systemen in der Gastroenterologie nicht in der Medizinausbildung. Mehr und mehr kristallisiere sich heraus, dass patient:innenferne Tätigkeiten wunderbar von KI erledigt werden könnten. Bei unmittelbarem Patient:innenkontakt bedürfe es aber immer der letzten Instanz „Mensch“.  

Fotos: ©depositphotos.com/@crytallight,  ©depositphotos.com/@serezniy, ©depositphotos.com/@koya979; Quellen: 1Künstliche Intelligenz (KI) als Teilgebiet der Informatik imitiert menschliche kognitive Fähigkeiten, indem sie gewollte Informationen aus einer großen Menge an eingespeisten Computerdaten erkennt und herausfiltert. KI kann auf programmierten Abläufen basieren oder durch maschinelles Lernen erzeugt werden, 2 www.onlinelibrary.wiley.com/doi/10.1002/aaai.12064

©Inline Internet & Werbeagentur

Er sieht futuristisch und sperrig aus, doch sein Einsatz ist real und filigran: Die Rede ist vom Da Vinci Roboter. Dabei handelt es sich um ein roboter-assistiertes Chirurgie-System, das mittlerweile in vielen deutschen Kliniken angekommen ist. In der Würzburger Missioklinik (KWM) wurden seit 2008 über 6.000 Da Vinci Roboter-Operationen durchgeführt. „Mittlerweile verfügen wir über die dritte und neueste Gerätegeneration“, sagt Dr. Frank Schiefelbein, Chefarzt der Klinik für Urologie am Klinikum Würzburg Mitte (KWM). Er und sein Team operieren gut 600 Patient:innen pro Jahr mit dem Roboter. Und der Facharzt für Urologie schätzt dessen Einsatz. „Mit dem Da Vinci Roboter kann eine Operation minimalinvasiv, präzise und schonend in der Bauchspiegelungstechnik durchgeführt werden“, so Dr. Schiefelbein. Es würden lediglich sehr kleine Hautschnitte benötigt, um die chirurgischen Instrumente zu platzieren. Diese würden über Doppelgelenke verfügen und so eine Rotation um 540 Grad ermöglichen. Unterstützung erfährt der Mediziner durch spezielle Kameras, die den Operateur:innen eine dreidimensionale Sicht und eine 15-fache Vergrößerung ermöglichen. „Der Operateur führt die Operation von einer Bedienkonsole durch. Seine Finger- und Handgelenkbewegungen werden auf die Instrumente übertragen. Der Roboter macht keine eigenen Bewegungen und führt keine OP-Schritte selbstständig durch – dies macht ausschließlich der Operateur“, veranschaulicht der Arzt seine Vorgehensweise. Der Vorteil des Roboters: „Komplexe Operationsschritte ­können exakt kontrolliert werden. Kleine Ultraschallsonden können in den Bauchraum eingeführt werden. Das Ultraschallbild, zum Beispiel von einem Nierentumor, kann direkt in das Sicht- und Bedienfeld für die Operateur:innen eingespielt werden.“ Dies erhöhe die Präzision der Operation. Fluoreszenz-Farbstoffe könnten zudem Gefäße und Durchblutung darstellen und würden bei der Schonung von gesundem Gewebe helfen. Das Hauptaufgabenfeld in der Missioklinik ist die Entfernung der Prostata bei Prostatakrebs, die mit Schnellschnitt-Überwachung Potenz erhaltend bei vielen Patienten durchgeführt werden kann. Ein großer Vorteil ergebe sich Dr. Schiefelbein zufolge auch bei Nierenkrebs. Dank des Systems könnten komplexe Tumore entfernt und gleichzeitig Organe erhaltend operiert werden. „Mit über 1.000 durchgeführten Nierenteilresektionen liegen wir bundesweit an der Spitze“, so der Mitbegründer der Prostata Hilfe Deutschland mit Sitz in Würzburg. „Für Patient:innen sind die Vorteile des Systems enorm: deutlich kürzerer Krankenhausaufenthalt, schnellere Rekonvaleszenz.“ Der erfahrene Medizinier betont aber: „Voraussetzung für die gute Qualität sind, neben der technischen Ausstattung, die Erfahrung der Operateur:innen und des OP-Teams.“ Dr. Schiefelbein: „Der Da Vinci Roboter ist ein Telemanipulator, der die Finger- und Handbewegungen der Operateur:innen exakt auf die im Körper der Patient:innen agierenden Instrumente überträgt. Die Zukunft wird in der Automatisierung chirurgischer Eingriffe mithilfe von KI liegen, bei der ein Roboter über fortschrittliche Kameras und Sensoren auf der Grundlage von Daten und Algorithmen autonom bestimmte Aufgaben ausführen könnte.“ Hierbei könnte die KI dann auf die individuellen Patient:innendaten zugreifen und personalisierte Therapiepläne auf der Basis von „Deep Learning“ und maschinellem Lernen umsetzen. Das sei noch Zukunftsmusik. In einigen Fällen gebe es schon Überschneidungen. „Wir setzen, neben den Möglichkeiten der Robotik, die KI für ­Therapievorschläge in den medikamentösen Tumortherapien ein, um an die aktuellen Leitlinien angepasste Therapiepläne an den individuellen Krankheitsstadien der Patient:innen orientierend einzusetzen. Dadurch optimieren wir den Therapieplan und schonen die Ressourcen“, so Schiefelbein. Er ist überzeugt, dass sich die Robotik weiter verfeinern werde. Durch Miniaturisierung würden kleinere und präziser arbeitende Instrumente auch in anderen OP-Feldern offene Operationen ablösen. CT- oder MRT-Bilder würden zukünftig den Operateur:innen mit Datenbrillen zur Verfügung stehen. „Die KI hat in den kommenden Jahren ein großes Potenzial in der Medizin durch verbesserte Datenanalysen von Patient:innendaten, personalisierte Diagnosen und Therapieempfehlungen. Dies wird eine wichtige Rolle in der Früherkennung, in der Betreuung von chronischen Erkrankungen bei der Überwachung und Anpassung von Behandlungsplänen spielen.“

Fotos: Dr. Schiefelbein © Inline Internet & Werbeagentur, ©Lebenslinie, ©depositphotos.com/@MarkoAliaksandr

©Leuteritz Schiener RA-PartmbB

Und plötzlich ist der Tag da: Ein Mensch stirbt. Die Angehörigen haben alle Hände voll zu tun. Viele Dinge sind zu regeln. Und immer wieder gibt es „Überraschungen“. Denn das Leben findet mittlerweile auch im Internet statt. Und oftmals hat der Verstorbene nichts in Bezug auf seine digitalen Hinterlassenschaften geregelt. „Für den digitalen Nachlass gibt es nach aktuellem Stand keine offizielle Definition“, erklärt Markus Hollfelder, Fachanwalt für Erb- und IT-Recht in der Bamberger Kanzlei Leuteritz Schiener PartmbB. „Einfach ausgedrückt, handelt es sich um alle Online-Rechtsverhältnisse des Verstorbenen.“ Das könnten zum Beispiel elektronische Bücher, Musik, Bilder, Homepages, Social Media-Accounts, aber auch Online-Depots und Online-Krypto-Wallets (diese ermöglichen das Verwalten, Empfangen und Senden von Kryptowährungen wie Bitcoin oder Ethereum) sein. Auch sie werden vererbt, mit allen Rechten und Pflichten (dies wird als sogenannte Universalsukzession respektive Gesamtrechtsnachfolge bezeichnet). „Einzige Ausnahme: höchstpersönliche Rechte wie beispielsweise Vereinsmitgliedschaften oder Arbeitsverhältnisse. Sie sind an die Person gebunden“, so der Anwalt. Kümmert man sich vor dem Ableben nicht, kann es kompliziert werden. „Einer der bekanntesten Fälle ist das sogenannte Facebook-Urteil¹“, erklärt der Experte. Der Fall beschäftigte Öffentlichkeit und Justiz über Jahre. Im Dezember 2012 verunglückte ein minderjähriges Mädchen unter ungeklärten Umständen. Über ihren Facebook-Account wollten die Eltern herausfinden, wie es dazu kommen konnte. Facebook verweigerte den Zugang. Das Konto wurde in einen Gedenkzustand versetzt, der Zugriff unmöglich. Es folgten langwierige Prozesse, bis die Eltern im Jahr 2020 endlich vollen Zugang erhielten. „Die Eltern konnten sich daraufhin im Benutzerkonto so bewegen wie einst die Tochter. Die aktive Nutzung des Facebook-Accounts ist davon ausgeschlossen, da es sich hierbei um nicht vererbbare höchstpersönliche Rechte der Verstorbenen handelt.“ Der Fall mahnt zur Sorgfalt. Man muss sich fragen: Gibt es eine lebzeitige vertragliche Regelung, die der:die Verstorbene mit einem Unternehmen getroffen hat und wo sitzt dieses überhaupt? Wenn nicht, steht hinsichtlich des Todesfalls etwas in den Allgemeinen Geschäftsbedingungen (AGBs)? Sind die AGBs auch wirksam? Auf diese Art und Weise, so Hollfelder, müsse eigentlich alles, was digital vererbt werde, geprüft werden. Gebe es keine anderslautenden Hinweise, treten die Erb:innen grundsätzlich erst einmal in das Vertragsverhältnis ein und könnten dann etwa von Sonderkündigungsrechten Gebrauch machen. Was also zu Lebzeiten tun, um den digitalen Nachlass so unkompliziert wie möglich zu gestalten? „Nach diesem Facebook-Urteil sind viele Unternehmen wach geworden und bieten den Benutzer:innen Regelungsmöglichkeiten für den Todesfall an“, so Hollfelder. „Diese sollte man nutzen.“ Ebenfalls sinnvoll sei eine Auflistung der eigenen Accounts und Zugänge, die zum Beispiel an einem sicheren Platz (offline) hinterlegt wird. „Ich empfehle aber ein individuelles Verschlüsselungssystem für Passwörter, wenn man diese aufschreiben sollte. Dieses System kann einer Vertrauensperson mitgeteilt oder im Testament aufgeführt werden.“ Ein Nachteil: Diese Auflistung muss gepflegt werden. „Die ideale Lösung ist stets individuell aufgrund unterschiedlicher Bedürfnisse“, sagt der Anwalt. „Ich persönlich bevorzuge die Regelung über das Testament. In diesem kann man gegebenenfalls auch einen Testamentsvollstrecker benennen, der sich um den digitalen Nachlass kümmern soll.“ Das sei in jedem Falle sicherer als das Aufsetzen postmortaler Vollmachten, da diese von den Erb:innen widerrufen werden könnten. Hollfelder ist überzeugt, dass das Thema digitaler Nachlass in den kommenden Jahren aufgrund weiter zunehmender Digitalisierung noch deutlich mehr Aufmerksamkeit erhalten werde – und damit auch neue Lösungen entstünden beziehungsweise gefunden werden müssen. Nicole Oppelt 

Quelle: 1 www.dejure.org (Facebook-Urteil 27.08.2202 Az.: III ZR 30/20)

©Buecher/Uni, Stadt Bamberg

Bis zum Jahr 2027 erhält Bamberg insgesamt 17,5 Millionen Euro, um sich zu einer „Smart City“ zu entwickeln. Ziel ist es, die Lebensqualität aller Menschen in der Stadt nachhaltig zu verbessern. In diesen Kontext gehört auch das Thema „Digital Health“, ein Cluster im „Smart City Programm“ der Stadt. Professor Astrid Schütz, Leiterin des Lehrstuhls für Persönlichkeitspsychologie und Psychologische Diagnostik an der Uni Bamberg, sowie Professor­ ­Daniela Nicklas, Leiterin des TAO-Lehrstuhls für Informatik und des Smart City Research Labs an der Uni Bamberg, setzten mit ihren Smart City-Projekten „BAssd“ und „MoMM“ genau hier an. Das interdisziplinäre Projekt „BAssd“ verknüpft mentale und körperliche Gesundheit mit regionalen Besonderheiten. In einer mobilen Anwendung (Pilotversion liegt vor) wurden je nach Bedürfnis der Nutzenden ruhige, aktivierende oder gesellige Orte, also „Wohlfühlorte“, gemeinsam zusammengetragen und für alle auf einer Plattform zugänglich gemacht. Auf einer interaktiven Karte sind diese besonderen Orte dann zu Spazierrouten verbunden worden. Das Besondere: Zu jedem Ort gibt es nicht nur Mobilitätsangaben. Es werden auch gesundheitsfördernde Maßnahmen wie körperliche und mentale Übungen vorgeschlagen. „Dieses Projekt passt sehr gut zu Bamberg“, sagt Professor Astrid Schütz. „Es geht um Spaziergänge zum Kraft tanken, zum Treffen von anderen Menschen und zum Entspannen.“ Die Bamberger:innen konnten sich in einer Befragung einbringen und verraten, welche Orte ihnen wichtig sind. Das Projekt „MoMM“ hatte Menschen mit Mobilitätseinschränkungen im Fokus. Diese haben es vor allem im mittelalterlich geprägten Stadtkern nicht immer einfach. „Das MoMM-Projekt hat wertvolle Erkenntnisse darüber geliefert, welche Herausforderungen Menschen mit eingeschränkter Mobilität in Bezug auf die Stadtplanung und den öffentlichen Raum erleben“, heißt es hierzu von der Projektgruppe. Empfehlungen an die Stadt wurden bereits gemacht.   

Quellen: 1https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai; 2www.bmwk.de/Redaktion/DE/Artikel/Technologie/kuenstliche-intelligenz.html, 3www.umg.eu/news-detail/news-detail/detail/news/im-notfall-mehr-tempo-durch-digitale-unterstuetzung-und-kuenstliche-intelligenz

©Deutscher Ethikrat/Reiner Zensen

„Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern. KI darf den Menschen nicht ersetzen. Das sind grundlegende Regeln für die ethische Bewertung“, sagt Professor Alena Buyx, Vorsitzende des Deutschen Ethikrates. „KI-gestützte digitale Produkte kommen zunehmend im Gesundheitssystem zum Einsatz. Insbesondere in der medizinischen Forschung kann der Einsatz von KI vorteilhaft sein, so bei der Durchsuchung großer Datenbanken, um treffsichere Vorhersagen über individuelle Krankheiten, die Ausbreitung eines Virus oder zur Struktur komplexer Moleküle zu machen“, so Professor Buyx. In der medizinischen Versorgung würden KI-Instrumente zunehmend auch für die Diagnostik und Therapie entwickelt, beispielsweise bei Brust- und Prostatakrebs.

Einer der wenigen medizinischen Handlungsbereiche, in denen KI-basierte Systeme die weitgehende oder sogar vollständige Ersetzung von ärztlichem oder anderem Gesundheitspersonal zumindest suggerieren, sei die Psychotherapie. 

Vermeidung von Deskilling

Um sicher zu stellen, dass menschliche Entfaltung und Handlungsmöglichkeiten erweitert und nicht vermindert werden, hat der Deutsche Ethikrat im Frühjahr dieses Jahres in einer 287-seitigen Stellungnahme zum Thema „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“¹ eine Reihe von Empfehlungen formuliert, die sich unter anderem auf die Qualitätssicherung bei der Entwicklung und Nutzung von KI-Produkten beziehen. „Wir unterstreichen die Vermeidung ärztlicher Kompetenzverluste – das sogenannte Deskilling – und das Ziel, die Privatsphäre von Patient:innen mit gleichzeitig intensiver Datennutzung in der medizinischen Forschung in Einklang zu bringen“, betont das Mitglied der Nationalen Akademie der Wissenschaften Leopoldina. KI-Anwendungen, die nachweislich herkömmlichen Behandlungsmethoden überlegen seien, sollten allen einschlägigen Patient:innengruppen zur Verfügung stehen. Dabei gelte es, das Vertrauensverhältnis zwischen allen beteiligten Personen zu schützen. Eine vollständige Ersetzung der ärztlichen Fachkraft durch ein KI-System gefährde das Patient:innenwohl, und sei auch nicht dadurch zu rechtfertigen, dass schon heute in bestimmten Versorgungsbereichen ein akuter Personalmangel besteht, betont Alena Buyx. Gerade in komplexen Behandlungssituationen bedarf es eines personalen Gegenübers, das durch technische Komponenten zwar immer stärker unterstützt werden könne, dadurch selbst als Verantwortungsträger für Planung, Durchführung und Überwachung des Behandlungsprozesses aber nicht überflüssig werden dürfe, so die Medizinethikerin. Bereichsübergreifend identifiziert der Deutsche Ethikrat zehn Querschnittsthemen und Empfehlungen, die nicht nur für die ethische Einordnung von KI-Anwendungen in der Medizin bedeutsam sind. Darin geht es unter anderem darum, „KI zur Entscheidungsunterstützung und nicht zur Entscheidungsersetzung zu verwenden, die Diffusion von Verantwortung zu verhindern, menschliche Kontrolloptionen nicht zu beeinträchtigen und den Zugang zu den Entscheidungsgrundlagen insbesondere in Bereichen mit hoher Eingriffstiefe zu gewährleisten.“ Weitere Forderungen zielen darauf ab, Verzerrungen, Abhängigkeiten und Missbrauch von Technik sowie unerwünschte Verluste menschlicher Fertigkeiten zu vermeiden. Über alle Anwendungsbereiche hinweg gelte es, so das Plädoyer des Deutschen Ethikrates, die Interessen der Menschen, von denen die in KI-Anwendungen verwendeten Daten stammten, in den Mittelpunkt zu stellen, übermäßige Eingriffe in die Privatsphäre mithilfe effektiver rechtlicher und technischer Vorkehrungen zu verhindern und gleichzeitig eine gemeinwohlorientierte Datennutzung zu ermöglichen.