Letztes Update am Mi, 29.05.2019 05:32

APAOnlineticker / Tiroler Tageszeitung Onlineausgabe


Österreichische Ärztetage - Viel Humbug 2 - Bias und Hacker



Grado (APA) - Der Bozner Gastroenterologe Michael Häfner selbst arbeitet an einem System, bei dem ein Software-System bei Darmkrebsvorsorge-Koloskopien die Arbeit des Gastroenterologen ergänzt und für mehr Sicherheit sorgen soll. „Bis zu 20 Prozent der Polypen werden übersehen“, sagte er.

Das System soll praktisch parallel zum Arzt den untersuchten Darm auf verdächtige Veränderungen kontrollieren und diese automatisch markieren. Gleichzeitig soll aufgrund des Videomaterials auch gleich ein Vorschlag für die Art verdächtigen Gewebes erstellt werden.

Ökonomisierung und Gewinnstreben stecken wiederum hinter dem Mercy Virtual Care Center in Chesterfield/Missouri (USA): Dort gibt es ein „Spital“, von dem medizinische Zyniker wohl behaupten würden, es wäre das beste der Welt: ohne Patienten. Die Kranken werden ausschließlich telemedizinisch betreut. Sogar vom Spezialpersonal nicht vorhandene Intensivstationen in kleinen Zentren auswärts werden so aufrechterhalten.

„35 Prozent weniger Mortalität, 50 Prozent weniger Spitalsaufnahmen, 20 Prozent Reduktion der Gesundheitsausgaben“, wird ein einem flotten Werbefilm verheißen. Interessant: Selbst im Krankenhaus ohne Patienten tragen die Ärzte weiße Mäntel! Andererseits, solche Service-Angebote können in sonst schlecht versorgbaren Regionen durchaus einen Vorteil bieten. Häfner erwartet sich die Anwendung derartiger Systeme auch mit Hinblick auf den derzeit ausbrechenden Ärztemangel.

Auch Einseitigkeit (Bias) kann in die Computerprogramme von Anbeginn eingebaut sein. Das reicht von der Bevorzugung bzw. Benachteiligung bestimmter Menschen (Bias in Richtung Übergewichtung von Männer oder Angehörigen bestimmter ethnischer Gruppen). Das muss nicht einmal bewusst erfolgen, sondern braucht nur der Widerhall der Einstellungen der Entwickler sein. Amazon hatte beispielsweise ein Personalberatungssystem, das laut Häfner „automatisch“ viel mehr Männer als Frauen einstellte. Weibliches Geschlecht war offenbar ein negativer bewertetes Merkmal. In der Medizin können solche Fehler fatale Effekte haben.

Maschinen-Lern- und Deep-Learning-Systeme, welche sich selbst in der Anwendung aufgrund der „Erfahrungen“ verbessern, haben ebenfalls ein gravierendes Manko: Erstens sind sie von Anfang nur so gut, wie die Basisdaten, andererseits können sie im Rahmen ihres 24-Stunden-Trainings selbst in Schieflage geraten.

Der Südtiroler Gastroenterologe zitierte dazu die Tay-Affäre, ein Chatbot für jugendliches Publikum. Von der Ansage „Menschen sind supercool“ kippte er aufgrund des Inputs von außen schnell in „Ich bin cool, andere sind uncool“. Dann ging es weiter in verbalen Faschismus und Antisemitismus. Nach 16 Stunden zog Microsoft die Reißleine und schaltete das Programm ab. Ein Relaunch endete noch schneller.

Auch Hacker können im digitalisierten und mit Artificial Intelligence ausgestatteten Gesundheitswesen jede Menge an Betätigungsfeldern finden. „Forscher der Ben-Gurion-Universität in Israel haben eine Methode entwickelt, um auf Computertomografie-Aufnahmen automatisiert Krebsgewebe oder auch Verletzungssymptome hinzuzufügen oder auch zu entfernen. Es gelang dem Team, drei Radiologen mit manipulierten Krebsaufnahmen hinters Licht zu führen“, schilderte Häfner ein Experiment.

Ob auf einem CT-Bild einen Lungenkarzinom aufscheint oder nicht, das hat lebensentscheidende Auswirkungen für den Patienten. Komplizierte Krankenhaus-Informationssysteme mit extrem vielen Zugriffsmöglichkeiten und Vernetzung nach außen im Rahmen der Telemedizin sind da ein extrem leicht zu verletzendes System.

„Schalten Sie Ihren Computer bitte aus!“, riet der Südtiroler Arzt am Ende seines Vortrags als Notfallmaßnahme. Man sollte besser zu einem Buch greifen. Er riet zu Fernando Pessoas Werk „Das Buch der Unruhe“: unsterbliche portugiesische Weltliteratur und sicher kein (digitaler) Fehler.




Kommentieren