KI in der Medizin - Contra: Der große Bluff

Die Anhänger digitaler Medizin übersehen die Strukturfehler im System: Setzt sich künstliche Intelligenz durch, sind im schlimmsten Fall Leib und Leben der Patienten bedroht.

Manchmal geht es in der Medizin um Leben und Tod. Das wird vor lauter Fortschrittsbesoffenheit gerne vergessen. Digitalisierung, Big Data und erst recht künstliche Intelligenz (KI) sollen alles besser machen in der Heilkunde - und nebenbei werden Ärzte und Pflegepersonal entlastet, so das vollmundige Versprechen. Doch dann ist es wie im Illusionstheater: Aus dem schwarzen Zylinder der digitalen Magie sollen schon bald genauere Diagnosen und bessere Therapien entspringen.

Würden diese Wunschträume wahr, könnten sich Patienten auf schnelle Heilung einstellen. Ist der passende Algorithmus erst gefunden, gibt es vermutlich demnächst kaum noch Krankheiten. Und Digitalisierungs-Staatsministerin Dorothee Bär müsste sich im Flugtaxi beeilen, nicht die Visite zu verpassen, weil die Kranken nach Blitzheilung so schnell wieder entlassen würden.

Die unkritische Euphorie mancher Politiker und Ärztefunktionäre ist verblüffend. Sobald ein Computerprogramm ein paar Zellen auseinanderhalten kann und nachts nicht ermüdet, bekommt es die Marketing-Etiketten "KI" und "Innovation" verpasst - und schon gilt es dem Arzt als überlegen. Abgesehen davon, dass nicht alles besser ist, was relativ neu ist - siehe Ebola, Social Media, Staatsministerinnen für Digitalisierung -, hat das blinde Vertrauen in Diagnosen mithilfe der KI enorme Nachteile. Dann stellen sich plötzlich neue Fragen nach Leben und Tod.

Ärzte und Informatiker aus Stanford wollten kürzlich mithilfe künstlicher Intelligenz herausfinden, was das Beste für Krebspatienten wäre. Die Tumorkranken hatten belastende Chemotherapien, Operationen oder Bestrahlungen hinter sich; der Krebs war weit fortgeschritten, die Prognose schlecht. Algorithmen sollten Ärzte bei der Entscheidung unterstützen, für welche Kranken ein weiterer Therapieversuch aussichtsreich wäre. Wer dafür nicht infrage kam, sollte in die Obhut einer Palliativstation kommen, wo die Beschwerden gelindert würden, aber keine kurative Behandlung mehr geplant war.

Befund und Befinden stimmen in der Medizin fast nie überein

Die Frage, wie lange Menschen behandelt werden sollen (und dies wollen), gehört zu den kompliziertesten in der Medizin. Der bisherige Krankheitsverlauf, Untersuchungsergebnisse und Befunde sowie etliche psychologische und soziale Faktoren fließen in den Entscheidungsprozess ein. Zudem können sich Hoffnungen und Wünsche der Patienten ändern, hier ist neben medizinischen Kenntnissen erhebliches Einfühlungsvermögen gefragt.

Die Algorithmen lagen ziemlich daneben. Wäre es nach dem KI-Programm gegangen, hätten sich etliche Patienten im Hospiz oder auf der Palliativstation wiedergefunden, denen unabhängige Ärzte begründete Hoffnungen auf einen Therapieerfolg zusprachen. Stattdessen gab es ein automatisiertes Todesurteil.

Dies ist nicht nur ein Beispiel von wenigen - sondern von vielen. Der Anwendung der KI in der Medizin stehen so viele Hindernisse gegenüber, dass sie für Patienten keine Verbesserung, sondern eine Belastung zu werden droht. "Vieles ist noch Wunschdenken", wie Informatiker und Statistiker im September im Deutschen Ärzteblatt warnten. Dabei geht es nicht um "Kinderkrankheiten", die jede neue Technik erst bewältigen muss, bevor alles glatt läuft, wie es die Akzeptanzrhetorik der Befürworter suggeriert. Die Probleme sind grundsätzlicher Art. Es handelt sich um Strukturfehler im System, die sich weder mit Telekom-Technikern noch IT-Spezialisten der Klinik beheben lassen.

Da ist zunächst das System Mensch, das selten so will wie die Maschine und nicht nach binärer Logik funktioniert. Beispiel Rückenschmerzen, Volksleiden Nummer eins: Millionen drückt es im Kreuz, sie können sich kaum bewegen, schleppen sich zum Arzt, doch weder Röntgen noch Kernspin zeigen auffällige Veränderungen, mit denen sich die Beschwerden erklären ließen. Andererseits gibt es Millionen beschwerdefreie Gesunde, deren Wirbelsäule so aussieht, dass es jedem Orthopäden graust - schief und krumm, derbe Knochenwülste, ausgeleierte, manchmal gar vorgefallene Bandscheiben. Doch die Menschen spüren nichts, jedenfalls weder Schmerz noch Funktionseinbußen.

Welcher Algorithmus soll den Leidenden vom Bedürftigen und vom munteren Spring-ins-Feld unterscheiden? Klar, gute Orthopäden wissen, wie sehr sich fehlende Wertschätzung im Job, Stress zu Hause und andere Seelenqualen als Pein im Kreuz manifestieren können. Doch nicht jedem, der vom Chef ignoriert wird, tut deshalb der Rücken weh und trotz garstiger Partner gehen viele Menschen noch elastisch durch die Welt. KI führt hier nur zu Konfusion und falschen Ergebnissen.

Das ist kein Einzelfall. Egal ob morsche Knochen, verkalkte Arterien, verfettete Lebern oder entartete Zellen: Befund und Befinden stimmen in der Medizin fast nie überein. Den einen lässt der Engpass in den Herzkranzgefäßen kaum zwei Treppen erklimmen; ein Stent droht. Der andere läuft mit ähnlicher Koronarstenose Halbmarathon. Sogar ein Krebs mag zwar ähnlich aussehen wie der andere, die malignen Zellen können sich in ihrer Form, dem Grad der Entdifferenzierung und Ausbreitung gleichen - trotzdem lebt der eine Patient damit nur noch wenige Monate, der andere schickt jährlich Ansichtskarten mit Dankesgrüßen an die Klinik.

Der Mensch ist keine Maschine, das ist banal. Im Alltag der Ärzte und Patienten macht es den Wesenskern der Medizin aus und jeder gute Arzt weiß (und viele Kranke und Angehörige haben es erfahren), dass sich Krankheitsverläufe auch bei vermeintlich gleicher Ausgangslage oft massiv unterscheiden, dass es immer wieder zu Verbesserungen oder akuten Verschlechterungen kommt, ohne dass dies vorhersagbar wäre. In der Medizin lässt sich wenig vorhersagen, der Faktor Mensch kommt zu oft dazwischen. Das ist das Schöne am Arztberuf - und zeigt die Vergeblichkeit der KI in der Medizin. Den Arzt, der sagt, "Sie haben noch ein Jahr zu leben", gibt es nur im schlechten Witz - oder er ist ein schlechter Arzt, der weder die Vielfalt des Lebens noch des Leidens kennt.

Biochemikern, Ingenieuren und KI-Adepten kann man diesen Zusammenhang nicht oft genug erklären. Schon jetzt zeigt sich immer wieder, dass neue Krebstherapien im Modell bestechend logisch sind und "eigentlich" bahnbrechende Heilerfolge zeitigen müssten, aber weitgehend versagen. Gegenreaktionen des Körpers und Anpassungen der Krebszellen haben schon viele hochgejazzte "Wundermittel" scheitern lassen. Das wird mit KI nicht besser, sondern - im Gegenteil - sogar schlimmer, wenn nach ersten Misserfolgen noch mehr Daten aggregiert werden. Zum "Systemfehler" Mensch gesellt sich dann der "Systemfehler" Big Data.

Bisher befindet sich die Digital-Offensive in der Medizin im Quantitäts-Rausch. Noch mehr Daten, noch höhere Geschwindigkeit in der Verarbeitung, noch größere Vielfalt der Datenquellen, so das Mantra. Dass weniger oft mehr ist, hat sich in der Medizin herumgesprochen, in der KI ist es von besonderer Bedeutung. Mit dem Anhäufen vieler Daten steigt - mathematisch logisch - auch die Häufigkeit sinnloser Korrelationen. Das Grundrauschen nimmt zu. Es wird immer schwieriger, sinnvolle Zusammenhänge von grobem Quatsch zu unterscheiden.

Als "Tragödie von Big Data" bezeichnet es Risikoforscher Nassim Taleb, dass mit der Anzahl der Variablen die Menge signifikanter Korrelationen nicht etwa linear, sondern konvex ansteigt. "Das Rauschen wächst schneller als das gesuchte Signal", so Taleb. "Mit Big Data heben Forscher Rosinenpickerei auf eine industrielle Ebene." Bei der sprichwörtlichen Suche nach der Nadel im Heuhaufen gibt es mehr Heu, nicht mehr Nadeln. Dieses Phänomen wird zunehmen, denn auf Zweifel an ihrer Methode reagiert die Branche mit dem Ruf nach noch mehr Daten.

Dass mit genügend Daten die Zahlen für sich sprechen, ist völliger Quatsch

Das kann von unterhaltsamer Absurdität sein, wenn etwa die Anzahl der unter ihrer Bettdecke zu Tode gekommenen Menschen in den USA exakt mit dem Käsekonsum des Landes korreliert. Geht es um Diagnosen, Prognosen und die richtige Therapie, ist das gar nicht lustig.

Zudem fällt in der Anpreisung von KI und Big Data fast immer die Qualität unter den Tisch. Ständig wird die Vielfalt der Daten gelobt. Dabei ist bereits die Güte medizinischer Fachartikel äußerst unterschiedlich. Vertreter der evidenzbasierten Medizin bemühen sich seit Jahren, die Spreu vom Weizen zu trennen und nur aus hochwertigen Studien Handreichungen für Ärzte zu destillieren, mit denen sie Patienten tatsächlich helfen.

Werden heterogene Daten aus MP3-Dateien, Blogs, E-Mails und sozialen Netzwerken neben Laborbefunden, Röntgenbildern, Fachartikeln und mehr aggregiert, wie KI-Fans es fordern, möchte man mit dem Ergebnis nicht mal eine Erkältung behandelt wissen. In gute Fischsuppe gehört guter Fisch - und nicht Treibholz und verdorbene Meeresfrüchte.

"Man sollte sich nicht täuschen lassen. Wirklich große Datensätze, die Tausende von Patienten einschließen und gleichzeitig gute Datenqualität aufweisen, wird es auch in Zukunft eher selten geben", schreiben die Informatiker um Meinhard Kieser von der Uni Heidelberg im Ärzteblatt.

Dass Großgeräte mithilfe spezieller Computerprogramme Zellen zählen und unterscheiden, gibt es längst. Solche Geräte stehen seit Jahrzehnten in jedem besseren Labor. Derartige Handlangerdienste sollen Computer weiterhin vollbringen. Industrienahe Gesundheitspolitiker nennen das gerne KI. Intelligent ist daran allerdings gar nichts - und für Diagnose, Therapie und Prognose sind solche Anwendungen nicht geeignet. Der renommierte Statistiker David Spiegelhalter bezeichnet die Versprechungen von KI und Big Data in der Medizin als "optimistische Übervereinfachungen". Dass "mit genügend Daten die Zahlen für sich sprechen", wie Befürworter der Digitalisierung schon mal behaupten, hält er gar für "völligen Quatsch".

Ach ja, über Datenschutz haben wir bisher kaum gesprochen. Der Hype um die Digitalisierung ist eine enorme Finanzspritze für die IT-Industrie, besonders die großen Internetkonzerne. Die haben vieles im Sinn, mit Datensicherheit für die Verbraucher haben sie sich bisher nicht hervor getan. Derweil ziehen muntere Hacker von Ärztekongress zu Ärztekongress und zeigen, wie leicht sie an vertrauliche Gesundheitsdaten kommen würden. KI in der Medizin ist ein großer Bluff. Veruntreute Daten und enttäuschte Patientenhoffnungen werden nicht lange auf sich warten lassen.