Machine-Learning-Systeme, selbstlernende Algorithmen, sind immer wieder beeindruckend. Einerseits, weil es erstaunlich ist, wie gut Computer dadurch die Welt inzwischen verstehen können. Andererseits, weil sie uns helfen, die Welt besser zu verstehen. Zum Beispiel in der Medizin gibt es Machine-Learning-Systeme, die Krankheitsbilder analysieren und Diagnosen stellen, wie es kein Top-Arzt könnte. Doch in der Praxis eingesetzt werden die Systeme bisher nur selten - wegen eines Dilemmas. Thomas Reintjes berichtet.

Ärzte, Krankenhäuser, Krankenkassen, das gesamte Gesundheitssystem sitzt auf einem riesigen Datenschatz. Millionen von Patientenakten, die jede für sich die Krankheitsgeschichte eines Menschen dokumentieren. Was, wenn man diese Akten vernetzen könnte? Wenn man Querverbindungen und Gemeinsamkeiten identifizieren könnte? Vielleicht liefert das Erkenntnisse, die bislang verborgen blieben? Ein selbstlernender Algorithmus könnte sie möglicherweise zutage fördern, dachte sich Joel Dudley. Er forscht am Mount-Sinai-Klinikum in New York. Also programmierte er ein System namens Deep Patient und fütterte es mit rund 700.000 Patientenakten. Dann sollte Deep Patient vorhersagen, welche Patienten innerhalb des nächsten Jahres krank werden würden.
"Es war ziemlich treffsicher, sogar bei Krankheiten, die oft schwer vorherzusagen sind. Zum Beispiel bei ADHS oder Schizophrenie, aber auch bei Krebsarten wie der Kahler-Krankheit. Also, es hat bei einem breiten Spektrum von Krankheiten sehr gut funktioniert.

Deep Patient war im Mittel sogar besser als Ärzte darin, verschiedene Krankheiten früh zu erkennen. Mediziner könnten von dem System also im Prinzip lernen, wie sich beispielsweise Schizophrenie zuverlässiger diagnostizieren lässt. Doch leider behält Deep Patient das Geheimnis seines Erfolgs für sich – weil das in seiner Natur liegt.
"Wir wissen nicht, warum Deep Patient so gut darin ist, Schizophrenie zu erkennen. Das ist eine Haupt-Beschränkung von dieser Art selbstlernender Algorithmen. Wir wissen einfach nicht genau, warum."
Deep Patient ist eine Black Box. Ein undurchsichtiges System, das mit Daten gefüttert wird und Ergebnisse ausspuckt. Was darin passiert, lässt sich deshalb so schwer verstehen, weil es sich um ein neuronales Netzwerk handelt - vergleichbar einem Gehirn. Joel Dudley versucht jetzt genauer herauszubekommen, wie Deep Patient Krankheiten erkennt. Denn ohne nachvollziehbare Erklärungen dürften Mediziner den Diagnosen des Systems immer skeptisch begegnen. Joel Dudley entgegnet allerdings, dass Black Boxen in der Medizin gar nichts Ungewöhnliches seien.
"Es gibt eine Vielzahl an Medikamenten, die jeden Tag in Krankenhäusern verabreicht werden, von denen wir keine Ahnung haben, wie sie funktionieren. Die Funktionsweise dieser Medikamente kann man bestenfalls erahnen. Und Ärzte haben kein Problem mit diesen Black Boxen, weil sie zuverlässig wirken."

Deshalb ist ein Ziel der Forscher, Machine-Learning-Systeme noch zuverlässiger zu machen. Dann könnten sie vielleicht in Zukunft wie Medikamente zugelassen werden, deren Wirkung nachgewiesen ist, obwohl ihr Wirkmechanismus unbekannt bleibt. Wichtig für bessere Systeme sind unter anderem mehr und bessere Daten. Dudley sagt, es gebe beispielsweise viel zu wenig Daten von gesunden Menschen. Aber er weiß auch, dass das massenhafte Sammeln von Gesundheitsdaten direkt zum nächsten Dilemma führt.
"Da ich mich hier an ein deutsches Publikum wende, wissen Sie: Es ist eine Herausforderung, Datenschutz und Offenheit auszubalancieren. Wir brauchen Patientendaten, um diese Systeme zu füttern. Gleichzeitig sollen die Patienten die Kontrolle über ihre persönlichen Daten behalten. Doch ob es den Deutschen gefällt oder nicht: Unternehmen wie Apple oder Google haben vielleicht bald mehr Gesundheitsdaten als Krankenhäuser. Ist das eine Chance oder eine Herausforderung? Wahrscheinlich beides."