©Daniel Peter/UKW
Roboter und Computer, die selbstständig denken und handeln können, kannten wir bis vor Kurzem nur aus Science-Fiction-Filmen. Mit mannigfachen Anwendungen Künstlicher Intelligenz (KI)1 wie etwa Large Language Models (ChatGPT), virtuellen Assistenten und Chatbots oder auch Robotik sind sie längst in der realen Welt angekommen. Und dass diese selbstlernenden Systeme ein Eigenleben entwickeln können, liegt im Bereich des Möglichen. Studienergebnisse von Wissenschaftler:innen der Universität Oxford sehen in der nächsten KI-Generation eine existenzielle Bedrohung der Menschheit.2 Laut dem Hauptautor der Studie, Professor Michael Cohen, ist eine „existenzielle Katastrophe nicht nur möglich, sondern wahrscheinlich“. Wie es scheint, haben wir die Büchse der Pandora geöffnet, ohne zu wissen, wie die Geister, die wir riefen, in Schach zu halten sind. Mit Alexander Hann und seiner neu eingerichteten Professur für Digitale Transformation in der Gastroenterologie am Uniklinikum Würzburg (UKW) haben wir einen Gastroenterologen mit Programmierkenntnissen zu Rate gezogen, um die Chancen, aber auch die Gefahren der neuen Technologien zu beleuchten, vor allem in so sensiblen Bereichen wie der Medizin. „Wenn man ein Zukunftsszenario sich ausdenken würde, bei dem KI-gesteuerte Systeme einen voll automatisierten Zugriff auf medizinisch-therapeutische Verfahren hätten, könnten diese sicherlich auch Schaden anrichten“, so der 42-Jährige. „Vor allem deswegen, weil sie noch Blackboxen sind. Ihre Entscheidungen können wir bislang nur bruchstückhaft nachvollziehen.“ Und so bedürfe es beim Einsatz von KI in der Medizin stets der menschlichen Kontrolle, so Professor Hann. Aber die neuen technischen Möglichkeiten bergen auch Chancen, die bei den „Baustellen“ im Gesundheitssystem Abhilfe schaffen könnten. „Derzeit benötige ich etwa 20 Klicks am Computer, um die Laborwerte eines:einer Patienten:in abzurufen. Hier würde der Einsatz von KI-gesteuerten Systemen eine enorme Zeitersparnis bedeuten. Zeit, die für meine Arzttätigkeit an Patient:innen frei werden würde.“ Auch bei der Dokumentation und anderen zeitraubenden Arbeiten des Ärzt:innenalltags sei seiner Meinung nach KI ohne größere Bedenken einsetzbar. Ein bisschen diffiziler werde es bei der Diagnostik etwa der Polypen-Detektion, so Hann. Alle großen Endoskop-Hersteller hätten bereits KI-gesteuerte Systeme hierfür auf dem Markt gebracht. Im UKW sucht und findet so ein Endoskop der neuesten Generation auch schon Darmkrebsvorstufen, allerdings noch im Rahmen klinischer Studien. Die KI wurde dafür gespeist mit über 300.000 händisch angezeichneten Bildern aus Dickdarmspiegelungen. Das Ergebnis: „Die KI ist hochsensibel eingestellt und findet alles, was manchmal auch zu falsch positiven Ergebnissen führt“, berichtet Professor Hann. Wobei erfahrene Untersuchende mehr auf ihre eigene Erfahrung als auf den Polypen-Detektor vertrauten. Die Anfänger:innen dagegen könnten nach einer durchgeführten Studie öfter unreflektiert die Vorschläge der KI übernehmen, so der stellvertretende Leiter der Gastroenterologie in der Medizinischen Klink und Poliklinik II am UKW. Daher empfehle er die Anwendung von KI-gesteuerten Systemen in der Gastroenterologie nicht in der Medizinausbildung. Mehr und mehr kristallisiere sich heraus, dass patient:innenferne Tätigkeiten wunderbar von KI erledigt werden könnten. Bei unmittelbarem Patient:innenkontakt bedürfe es aber immer der letzten Instanz „Mensch“.
Fotos: ©depositphotos.com/@crytallight, ©depositphotos.com/@serezniy, ©depositphotos.com/@koya979; Quellen: 1Künstliche Intelligenz (KI) als Teilgebiet der Informatik imitiert menschliche kognitive Fähigkeiten, indem sie gewollte Informationen aus einer großen Menge an eingespeisten Computerdaten erkennt und herausfiltert. KI kann auf programmierten Abläufen basieren oder durch maschinelles Lernen erzeugt werden, 2 www.onlinelibrary.wiley.com/doi/10.1002/aaai.12064
