Künstliche Intelligenz (KI) kann in unserem Leben einen Unterschied machen – im Guten wie im Schlechten. Im Juni dieses Jahres verabschiedete das Europäische Parlament seine Verhandlungsposition zum Gesetz über KI.1 Es handelt sich um das weltweit erste Regelwerk zur Bewältigung der mit den neuen Technologien verbundenen Risiken. Auch uns treibt das Thema um. Die Lebenslinie hat daher Experten aus Medizin, Wissenschaft und Wirtschaft nach den Chancen und Gefahren von KI, insbesondere in der Medizin befragt. Einig sind sie sich, dass KI eine Entlastung im Arbeitsalltag schaffen werde. Unreflektiert und ohne letzte Kontrollinstanz „Mensch“ ginge es aber nicht, auch darin herrscht Konsens. Professor Björn Eskofier, Inhaber des Lehrstuhls für Maschinelles Lernen und Datenanalytik an der Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU) zufolge böten KI-Sprachmodelle in der Medizin die einzigartige Chance, Mediziner:innen von Routineaufgaben wie Dokumentation zu entlasten und damit wieder mehr Zeit für die tatsächliche Interaktion mit Patient:innen zu haben. Es lägen allerdings Risiken in der unreflektierten Anwendung. Etwa dann, wenn den Anwendenden unklar sei, dass die Aussagen der KI maßgeblich von den Trainingsdaten abhingen. Der Würzburger Professor Andreas Hotho, Inhaber des Lehrstuhls für Data Science (Informatik X) und Sprecher des Centers for Artificial Intelligence and Data Science, sieht das ähnlich. „KI und hier vor allem die Machine-Learning-Technik ,Deep Learning‘ auf Bild- und Textbasis sind in der Lage, Modelle zu lernen, die Muster in sehr großen Datenmengen zu erkennen.“ Er prognostiziert, dass die gleichen Modelle und Systeme in naher Zukunft sicherlich auch zur Erstellung von Diagnosen genutzt würden. Deren kritische Reflexion und Kontrolle durch Ärzt:innen sei zwingend nötig, da diese eine Reihe von Defiziten aufweisen und nur durch menschliche Kontrolle „eine faire sowie sichere Nutzung der Technologie garantiert und Missbrauch verhindert werden kann“. Für Dr. Frank Schiefelbein, Chefarzt der Klinik für Urologie am Klinikum Würzburg Mitte, Standort Missioklinik, liegt die große Stärke der Nutzung von KI ebenfalls in der Analyse von großen Mengen von Patient:innendaten, um Muster und Zusammenhänge zu erkennen. „Bei der Diagnosestellung können individuelle Gesundheitsdaten wie Vorgeschichte, Symptome und genetische Information berücksichtigt werden, um Diagnosen zu präzisieren und gegebenenfalls maßgeschneiderte Therapiepläne zu erstellen“, so der Facharzt für Urologie. Auch er mahnt zur Vorsicht: Patient:innendaten seien sehr sensibel und bedürften eines besonderen Schutzes. Automatisiert generierte Diagnosen und Therapievorschläge sollten immer von einem Ärzt:innenteam unabhängig kontrolliert und gegebenenfalls korrigiert werden. „KI sollte ein Hilfsmittel sein. Patient:innensicherheit, Verantwortung und Haftung, Transparenz und medizinisch ethisches Handeln müssen auch weiterhin unser Ärzt:innen-Patient:innen-Verhältnis bestimmen.“ Dr. Gunther Schunk, Vorstandsvorsitzender der Vogel Stiftung Würzburg, ist überzeugt: „Die KI wird uns künftig viel unangenehme Arbeit abnehmen und damit auch den Arbeitskräftemangel entschärfen.“ Seiner Ansicht nach müsse KI jedoch eine Unterstützungstechnik bleiben und als solche gekennzeichnet werden. „Der Mensch muss immer das letzte Wort haben (Stichwort: ,human in the loop!‘)!“
Quelle: 1www.europarl.europa.eu/news/de/headlines/society/20230601STO93804/ki-gesetz-erste-regulierung-der-kunstlichen-intelligenz
