Zurück zu Sonstige Fächer
  • Fachartikel
  • |
  • Christian Honey
  • |
  • 19.03.2019

Dr. Watson weiß nicht weiter

Mit künstlicher Intelligenz wollte IBM die Medizinbranche aufmischen. Das klappte nicht wie gedacht. Eine Geschichte darüber, wie sich eine neue Technologie am Gesundheitssystem die Zähne ausbeißt.

 

Hochmut kommt vor dem Fall. Fragt sich nur, wer der Hochmütige in dieser Geschichte ist. „Schätze aus dem Datendschungel heben“ – das war der Plan, den IBM und das Deutsche Krebsforschungszentrum (DKFZ) auf der Cebit 2011 angekündigt hatten. Watson, IBMs künstliche Intelligenz, sollte maßgeschneiderte Krebstherapien in den Bergen ärztlicher Befunde aufspüren, die am DKFZ lagern. Doch wie im vergangenen Jahr bekannt wurde, lief der Rahmenvertrag ganz ohne Ergebnis aus. Das Projekt habe „nie richtig begonnen“, erklärt die Presseabteilung des DKFZ auf Anfrage. Bei IBM will man „nicht schon wieder“ über Heidelberg sprechen. Dabei ist Heidelberg kein Einzelfall. Auch am Universitätsklinikum Gießen-Marburg sollte Watson Ärzten als virtueller Experte zur Seite stehen, in diesem Fall bei der Diagnose seltener Krankheiten. Losgehen sollte es im Februar 2016. Doch auch dieses Projekt endete vorzeitig, im September 2017. „Die Performance war inakzeptabel, das medizinische Verständnis bei IBM nicht da“, sagte Stephan Holzinger, CEO der Rhön-Klinikum AG, zu der die Uniklinik gehört, dem „Spiegel“ im August 2018. Woran war Dr. Watson gescheitert? Lag der Hochmut wirklich nur bei IBM und seinen werbewirksamen Versprechen? Oder auch bei einem medizinischen System, das sich nach wie vor nicht von Computern helfen lassen will – trotz gegenteiliger Beteuerungen? Wie sich zeigt, ist die Geschichte von Dr. Watson auch eine über die lahmende Digitalisierung des deutschen Gesundheitssystems. „Um Algorithmen in der Medizin anzuwenden, braucht man geeignete Daten“, sagt Peter Gocke, Chief Digital Officer an der Charité Universitätsmedizin Berlin. „Idealerweise müssten die irgendwo zentral im immer gleichen Format abgelegt sein.“ Dann hätten Algorithmen eine Chance, daraus etwas Sinnvolles zu lernen. „Das hat sich in der Radiologie als segensreich erwiesen“, sagt Gocke. „Da waren die Bilddaten so standardisiert, dass man sie auf Workstations verschiedenster Hersteller lesen und bearbeiten konnte.“

Mehrere Studien der vergangenen Jahre zeigten, dass künstliche Intelligenzen aus guten Daten medizinisch korrekte Schlüsse ziehen können. Die Forschungsgruppe um Sebastian Thrun von der Stanford University etwa hat ein neuronales Netz auf rund 130 000 Bildern von Leberflecken trainiert, Hautkrebs zu erkennen. Mit beachtlichem Erfolg: Die Erkennungsrate des neuronalen Netzes stand der von 21 Dermatologie-Experten in nichts nach. Von einer vergleichbaren Leistung berichtete jüngst eine Forschergruppe vom Massachusetts General Hospital der Harvard University. Im Oktober 2018 zeigten sie im Fachjournal „Radiology“, dass ihr neuronales Netzwerk Brustkrebs so gut auf Röntgenbildern erkennt wie geübte Radiologen. Heute wird diese künstliche Intelligenz standardmäßig im Klinikalltag des Massachusetts General Hospital eingesetzt. Doch die Radiologie ist bisher die große Ausnahme. Gocke weiß aus seiner jahrelangen Tätigkeit am Universitätsklinikum Essen, dass medizinische Daten noch heute in den meisten Fällen ungeeignet sind, um Algorithmen wie Watson damit zu füttern. „Wir Ärzte haben die Daten ja nie im Hinblick auf eine maschinelle Weiterverarbeitung erhoben und gespeichert“, sagt er. Bis heute liegen sie überwiegend unstandardisiert, teils handschriftlich in den Aktenordnern und auf den Festplatten der deutschen Praxen und Kliniken. Der Plan, das zu ändern, ist alt. Im November 2003 hatte die rot-grüne Regierung unter Gerhard Schröder das Gesetz zur Modernisierung der gesetzlichen Krankenversicherung beschlossen. Drei Änderungen des fünften Sozialgesetzbuches standen im Zentrum. Erstens sollte die papiergebundene Kommunikation unter Ärzten sowie zwischen Ärzten und Krankenkassen „so bald wie möglich“ elektronisch werden. Zweitens sollte die analoge Krankenkassenkarte bis spätestens 1. Januar 2006 zu einer elektronischen Gesundheitskarte erweitert werden. Und drittens sollte zu diesem Zweck eine sogenannte Telematikinfrastruktur entstehen, die elektronische Arztbriefe, Krankschreibungen und deren Speicherung in einer elektronischen Patientenakte erlaubt. In einer solchen Akte, so der Gesetzestext, könnten „Daten über Befunde, Diagnosen, Therapiemaßnahmen, Behandlungsberichte sowie Impfungen für eine fall- und einrichtungsübergreifende Dokumentation über den Patienten“ gespeichert werden. So weit, so visionär.   

Verantwortlich für die Umsetzung sind seither die Spitzenverbände der deutschen Ärzte- und Apothekerschaft. Im Jahr 2005 gründeten sie die Gesellschaft für Telematikanwendungen der Gesundheitskarte mbH, kurz Gematik. Ihre Aufgaben sind seither das Erstellen technischer spezifikationen, das Testen und Zertifizieren der darauf basierenden Produkte und der Betrieb eines Teils der Telematikinfrastruktur. Doch von Beginn an gab es Knatsch. So konnten sich die Gesellschafter
der Gematik (darunter die Kassenärztliche Bundesvereinigung, die Bundesärztekammer und die Deutsche Krankenhausgesellschaft) nicht auf konkrete erste Schritte zur Umsetzung der elektronischen Gesundheitskarte einigen. So verstrich der 1. 1. 2006 ohne Chipkarte beim Arztbesuch. Das lag nicht zuletzt auch am Widerstand der Ärzteschaft. Zwar begrüßten die Mediziner auf dem Ärztetag 2007 die Einführung des elektronischen Arztausweises. Der ermögliche „die sichere Kommunikation untereinander“, also unter den Ärzten allein. Die elektronische Gesundheitskarte aber und die geplante Speicherung medizinischer Daten mit Patientenzugriff lehnten die Ärzte rundweg ab. Das Arzt-Patienten-Verhältnis werde „durch die Speicherung sensibler Patientendaten in zentralen Rechnern schwer beschädigt oder sogar zerstört“, erklärten die Ärzte im Abschlussprotokoll. Noch im Jahr 2010 forderte der Ärztetag, das Projekt elektronische Gesundheitskarte „in der weiterverfolgten Zielsetzung endgültig aufzugeben“. In diese Gemengelage wagte sich IBM mit Watson vor. Im Februar 2011 hatte das KI-System in der amerikanischen Quizshow „Jeopardy“ seine menschlichen Gegenspieler besiegt. Einen
Monat später wollte der IT-Konzern sein gigantisches Wissen in der Krebsmedizin nutzen und schloss die Vereinbarung mit dem DKFZ in Heidelberg. Von dort sollte Watson langsam in viele andere Medizinbereiche vordringen. Man war optimistisch, dass die Zeit endlich für die Digitalisierung ticken könnte. Und tatsächlich erhielten im Oktober 2011 die ersten Patienten ihre elektronischen Gesundheitskarten. Doch ihre Ausgabe entpuppte sich vor allem als symbolischer Akt, denn auf dem Chip
war neben den bisherigen gedruckten Daten der alten Gesundheitskarte lediglich ein Passbild gespeichert. Immerhin schien nun der Weg frei Richtung elektronischer Patientenakte – und damit zu einem Datenschatz, mit dem auch Algorithmen wie Watson etwas anfangen könnten.

Doch die Optimisten unterschätzten den Wildwuchs, der ihnen im Weg stehen sollte. Medizinische Daten werden auch heute noch in vielen unterschiedlichen Formaten gespeichert. Niedergelassene Ärzte etwa nutzen andere Datenformate als Kliniken, Klinikum X wiederum andere als Krankenhaus Y, und medizinische Labore sind noch einmal ein eigenes Kapitel. Zum Transfer von Behandlungs-, Geräte- oder Labordaten etwa nutzen Arztpraxen in der Regel die sogenannten xDT-Standards, die in den 1980er-Jahren entwickelt wurden. Ihre Weiterentwicklung obliegt heute dem Verein Qualitätsring Medizinische  Software e.V (QMS). Laut der Webseite des QMS rechnen niedergelassene Ärzte über den sogenannten KVDT-Standard pro Jahr medizinische Leistungen im Wert von 35 Milliarden Euro ab. Ein anderer, der sogenannte BDT-Standard, war eigentlich seit 1990 für die Übertragung von Behandlungsdaten gedacht. Ironischerweise ist der Standard aber selbst nicht sonderlich standardisiert, sodass die Varianten verschiedener Softwarehersteller nicht kompatibel sind. Entsprechend selten nutzen Praxen ihn. Unter anderem aus diesem Grund dürfen Patienten noch heute ihre Arztbriefe von einer Praxis in die nächste tragen.

Der Austausch von Daten zwischen Kliniken und Praxen wiederum könnte über HL7-Standards laufen. Ursprünglich in den USA entwickelt, sollte HL7 in Deutschland ab 1993 nach und nach die Interoperabilität zwischen den verschiedenen ITSystemen im Gesundheitswesen sicherstellen. Betreut wird das Format seither vom Verein HL7-Benutzergruppe in Deutschland e. V. Doch von den rund 1000 deutschen Kliniken sind nur etwa 70 Mitglieder des Vereins. Auch praktisch keine Arztpraxis verwendet die Standards.

So tauschen sich noch heute 86 Prozent der Ärzte untereinander überwiegend auf Papier aus. Bei der Kommunikation zwischen Arzt und Klinik sind es sogar 94 Prozent. So lautete das frappierende Ergebnis einer repräsentativen Befragung unter 1764 Arzt- und Psychotherapiepraxen, die das Berliner IGES Institut im Mai 2018 im Auftrag der KBV durchgeführt hat. Nur bei Labordaten sah es etwa besser aus: Sie kommen in rund zwei Drittel aller Praxen elektronisch an. Den Eindruck einer Digitalisierungsresistenz unter deutschen Ärzten teilt Jörg Caumanns, Leiter des Innovationszentrums Telehealth Technologies am Fraunhofer-Institut für offene Kommunikationssysteme. Bei ihnen sieht er denn auch einen Teil der Verantwortung für die schleppenden Fortschritte. Der bisherige Papierprozess „ist ja auch komfortabel für sie“.

Aber mit einer Sorge haben die Ärzte zumindest teilweise recht. Als Begründung für ihre Zurückhaltung nannten 78 Prozent von ihnen in der IGES-Befragung Sorgen um die Datensicherheit, rund die Hälfte fürchtete Fehler bei der elektronischen Datenverarbeitung. Diese Argumente sind keineswegs bloße Ausflüchte. Denn Datensicherheit ruht auf einer sicheren Infrastruktur. Gerade daran aber mangelt es massiv. „Krankenhäuser haben kaum Mittel für Investitionen in ihre IT-Infrastruktur“, sagt Caumanns. „Wir gehen von einem Investitionsstau von 30 bis 50 Milliarden Euro aus.“ Mittlerweile habe sich deshalb eine gewisse Frustration breitgemacht. „Fragt man Ärzte, was die Digitalisierung bringt, kriegt man als Antwort meist: mehr Dokumentation, mehr Aufwand, funktioniert nicht“, sagt Caumanns.
Obendrein sind viele Kliniken an ihren IT-Anbieter regelrecht gefesselt. Die Marktführer CompuGroup Medical und medatixx teilen sich satte 70 Prozent des deutschen Marktes. Das sei der Innovationsfreude nicht gerade zuträglich, findet Caumanns. „Solche Unternehmen lassen sich jede Anpassung der Software oder Hardware teuer bezahlen“, sagt er. Für die Anbindung an die Telematik-Infrastruktur müssten sich Kliniken obendrein eigene Lösungen suchen. Denn die von der Gematik vorgesehenen Konnektoren – Geräte zur Verschlüsselung beim elektronischen Versand der Patientendaten – sind für kleine bis mittlere Praxen ausgelegt und für Kliniken ungeeignet.


So konkurriert die Einführung der elektronischen Patientenakte mittlerweile mit der Eröffnung des Berliner Flughafens um den Titel „abschreckendstes Beispiel deutscher Planungskunst“. IBM startete zwischenzeitlich eine weitere Offensive – jedoch in den USA. Im Oktober 2013 kündigte der IT-Gigant an, Watson werde seine Arbeit nun am MD Anderson Cancer Center in Houston, Texas, aufnehmen. Wie am DKFZ in Heidelberg sollte Watson auch hier aus Patientendaten optimierte Therapien für Krebspatienten ableiten. Rund 60 Millionen US-Dollar flossen in das Vorhaben. Doch statt des erhofften Durchbruchs zeigte das Projekt Dr. Watson seine Grenzen auf. Dem amerikanischen Investigativmagazin „STAT“ zufolge scheiterte die KI vom Start weg an den eigenwilligen Akronymen, dem Schreibstil und den Grammatik- und Rechtschreibfehlern der Ärzte. Besonders schwer sei es gewesen, „dem Programm das Lesen medizinischer Notizen beizubringen“, zitiert „STAT“ die ehemalige Projektleiterin Lynda Chin. Dazu sei gekommen, dass im klinischen Alltag oft nicht klar war, wie Watson zu seinen Empfehlungen gelangte. Das machte es wiederum den Ärzten schwer, dem Programm zu vertrauen. Das größte Problem war laut Chin die Tatsache, dass Watson Zugang zu viel zu geringen Datenmengen hatte, um zuverlässige Muster zu finden. Nach dieser Reihe der Ernüchterung stellte das MD Anderson Cancer Center die Zusammenarbeit mit IBM im Februar 2017 ein.


Derartige Tiefschläge sind zunächst Einzelfälle, und IBM weist zu Recht darauf hin, dass Watson über 230 Kliniken weltweit als Assistenzsystem dient. Aber auch dort sind zu geringe Datenmengen immer wieder ein Problem: Trainiert wurde die aktuelle Version ausschließlich mit Daten aus den USA und
dort sogar nur mit Daten einer einzigen Klinik, dem Memorial Sloan Kettering Cancer Center in New York. Die Folge ist ein Bias. So schlug Watson dem „STAT“-Bericht zufolge in Südkorea
Behandlungen vor, die im nationalen Gesundheitssystem dort nicht üblich oder gar zugelassen waren. Das Problem ist ein grundsätzliches: Die Muster, die künstliche Intelligenzen aus einem Datensatz ziehen, sind nicht auf beliebige andere Datensätze anwendbar. Trainiert man ein neuronales Netz etwa auf Röntgenaufnahmen von Philips- oder Siemensgeräten, kann es passieren, dass die KI auf Bildern von anderen Geräten nichts mehr erkennt. Das Gleiche gilt für Daten aus verschiedenen Patientenpopulationen. Entsprechend aufwendig und teuer ist das Training, und entsprechend groß ist die Hürde für einebreite Anwendung.

Auch das Scheitern am DKFZ kann IBM nicht nur auf andere schieben. „Dass das Projekt mit IBM Watson nie wirklich abgehoben hat, lag einfach daran, dass es die Spracherkennung von Watson for Oncology damals nicht auf Deutsch gab“, erklärt Roland Eils, der damals am DKFZ die Abteilung Theoretische Bioinformatik leitete. Die aber hätte man gebraucht, um die deutschen Patientenakten auszuwerten. Doch IBM schaffte es nicht, sie zur Verfügung zu stellen. So habe sich das Projekt
immer weiter verschoben, bis der Rahmenvertrag auslief. Aber hätte das Projekt die großen Versprechen von völlig neuen Krebstherapien erfüllt, wenn es die Spracherkennung auf Deutsch gegeben hätte? Vermutlich nicht. „Systeme, die über rein reproduzierendes Lernen hinausgehen, sind noch sehr
früh in der Entwicklung“, sagt Benedikt Brors, Professor für Angewandte Informatik am DKFZ. „Watson sollte bei uns lediglich die Behandlungsempfehlungen der Ärzte zusammenfassen und reproduzieren.“ Watson hätte also nur jene Schlüsse reproduziert, zu denen die Ärzte in den Jahren zuvor selbst
gekommen waren. Für die Ärzte am gemeinsamen Nationalen Centrum für Tumorerkrankungen des DKFZ und der Uni Heidelberg sei diese Option nicht besonders interessant gewesen.

Dennoch sieht Brors die Bemühungen von IBM im Prinzip positiv. „Ich finde nicht, dass Watson gescheitert ist, sondern dass die Ankündigungen zu früh kamen“, sagt er. „Als Forschungsprojekt
kann der Ansatz die Schwierigkeiten aufdecken, die die Digitalisierung in den kommenden Jahren überwinden muss.“ Gelinge das, sieht Brors die Zukunft für KI-Systeme wie Watson vor allem in der Unterstützung weniger erfahrener Mediziner. Künstliche Intelligenz könnte ihnen helfen, Krankheitsdaten
zahlreicher Fachrichtungen auszuwerten und Hinweise auf Diagnosen oder Therapien zu erhalten – ohne selbst Spezialist sein zu müssen. Die Charité macht bereits vor, was möglich ist: Dort werden alle erhobenen Nierenwerte zentral und anonym von einem Algorithmus ausgewertet. Erkennt das Programm ein Muster, das auf eine Schädigung der Niere hindeutet, schlägt es Alarm. „Ein geschulter Nephrologe erkennt solche Muster sofort“, sagt Charité-Experte Gocke. „Einem Unfallchirurgen aber, der auch mal Nierenwerte bestimmt, entgeht das womöglich.“

Wird Dr. Watson diese Zukunft noch erleben? Vielleicht. Auf dem Hintergrund der bisherigen Entwicklung im deutschen Gesundheitswesen muss man diese Frage allerdings allgemeiner
formulieren: Wird Dr. Computer diese Zukunft noch erleben? Ein entscheidender Schritt dahin, die Einführung der elektronischen Patientenakte, sollte am 1. Januar 2019 erfolgen. Das verlangte das E-Health-Gesetz, mit dem die Große Koalition 2015 die Umsetzung beschleunigen wollte. Aber wen wundert es: Die nötigen Tests und die Zulassung der Konnektoren hat sich derart verzögert, dass die Einführung laut Bundesgesundheitsministerium frühestens Ende 2021 erfolgt. Die Hoffnung kommt daher aus einer anderen Ecke: Langsam sucht sich die Digitalisierung alternative Wege zum Patienten.
Laut einer Umfrage des Digitalverbands Bitcom hat im Jahr 2017 bereits jeder Zweite in Deutschland eine Gesundheits-App genutzt. 27 Prozent der 1003 Befragten gaben an, Smartphone-Apps auch zur Aufzeichnung medizinisch relevanter Daten wie Blutdruck oder Puls zu nutzen. Andere Apps und Plattformen bieten heute Hilfe bei der medizinischen Diagnose und Behandlung. Etwa Ada, die App des Berliner Startups Ada Health. Der Nutzer verrät dem Programm seine Symptome, das Ergebnis ist eine Liste möglicher Erkrankungen.

Im Oktober 2018 verkündete Ada Health, dass die Unikliniken Essen und Gießen-Marburg den Nutzen der App zur Patientensteuerung in Notaufnahmen in einer Studie prüfen wollen. Wieder andere Apps sollen die Kommunikation zwischen Arzt und Patient fördern sowie das Teilen medizinischer Daten erleichtern. Die Techniker Krankenkasse etwa testet gerade eine App namens TK-Doc. Sie ermöglicht Text- und Video-Chats mit Ärzten eines Telearzt-Zentrums. Noch dieses Jahr will die TK zudem die KI-basierte Symptombewertung von Ada integrieren. Eine Aufgabe aber werden Dr. Watson und andere medizinische KIs den Ärzten nicht abnehmen: Therapien für knifflige Krankheiten zu finden, für Leiden wie Rückenschmerzen, die nicht nur orthopädische, sondern auch psychologische Ursachen haben können. Oder für seltene Erkrankungen, zu denen es nur wenige Daten gibt. Denn gute Mediziner entwickeln neue Hypothesen, weil sie verstehen, was im menschlichen Körper vor sich geht. Algorithmen dagegen lernen nur bereits bekannte Muster, sie plappern nach wie ein gut trainierter Papagei. Ein Ersatz für das neuronale Netz im Kopf des Arztes werden KIs also auf absehbare Zeit nicht sein.

 


Dieser Artikel stammt mit freundlicher Genehmigung aus der Technology Review

Hier geht's zur Technology Review

Mehr zum Thema

Fachartikel: Der Keim des Vergessens

Fachartikel: Demnächst in Ihrer Klinik

Artikel: Daten auf Rezept

Schlagworte