Editorial: Algorithmen in der digitalen Gesundheitsversorgung

Unter dem Titel „Algorithmen in der digitalen Gesundheitsversorgung“ haben WissenschaftlerInnen des Forschungsinstitutes ceres (cologne center for ethics, rights, economics and social sciences of health) an der Universität zu Köln unter Leitung von Frau Prof. Dr. Christiane Woopen im Auftrag der Bertelsmann Stiftung eine Übersichtsanalyse zum Einsatz von Algorithmen im Gesundheitssystem erstellt. Dabei werden insbesondere Chancen und Herausforderungen sowie ethische Fragen in den Blick genommen, die sich für die einzelnen Betroffenen, die institutionellen Akteure im Gesundheitswesen sowie für die Gesellschaft als Ganzes aus dem Einsatz neuer intelligenter Algorithmen in der Gesundheitsversorgung ergeben.

Algorithmen sind bereits heute Teil unseres Alltags. Sie senden uns personalisierte Werbung, bestimmen unsere Kreditwürdigkeit oder helfen uns bei der Buchung einer Reise. Zunehmend werden Algorithmen auch im Gesundheitswesen eingesetzt, etwa bei der Diagnosestellung oder der Auswahl einer geeigneten Therapie. Die ethisch-normative Auseinandersetzung mit den Chancen und Risiken dieser Entwicklung steckt hierbei allerdings noch in den Kinderschuhen.

Die ceres Studie greift dieses Desiderat auf. Ihr Ausgangspunkt ist eine umfassende Literaturrecherche zu aktuellen Einsatzbereichen von Algorithmen in der Gesundheitsversorgung, ergänzt um eine Auswertung der wissenschaftlichen Fachbeiträge zu hiermit verbundenen ethischen Fragen. Ausgehend von einer Klassifikation und Begriffsbestimmung unterschiedlicher Arten von Algorithmen werden verschiedenen Beispiele für ihren Einsatz in der Gesundheitsforschung und -versorgung erläutert und analysiert. Das Spektrum der Einsatzmöglichkeiten reicht dabei von der Vorhersage psychischer Erkrankungen auf der Basis der Auswertung von Inhalten in sozialen Medien über die datenbasierte Unterstützung ärztlicher Therapieentscheidungen bis hin zur Mobilisierung gelähmter Menschen durch den Einsatz von Algorithmen in Gehirn-Computer-Interfaces. Wie anhand der Beispiele diskutiert wird, birgt der Einsatz von Algorithmen hier zahlreiche positive Potentiale, wie etwa die Erhöhung der Qualität und Effizienz der Gesundheitsversorgung durch eine verbesserte Früherkennung von Krankheiten und eine genauere Diagnosestellung oder eine Optimierung von Versorgungsprozessen. Zugleich ist der Einsatz von Algorithmen mit vielfältigen Herausforderungen verbunden und wirft ethische Fragen auf. Diese betreffen zum einen die Sicherheit und Kontrollierbarkeit der durch sie gesteuerten Systeme sowie die verwendeten Daten. Insbesondere selbstlernende Algorithmen zeichnen sich durch ein hohes Maß an Komplexität aus. Ihre Funktionsweisen sind damit – jedenfalls derzeit - selbst für ExpertInnen kaum noch nachvollziehbar. Damit stellt sich nicht nur haftungsrechtlich die Frage, wer hier die Verantwortung für Fehlfunktionen übernehmen kann bzw. muss. Des Weiteren greift die Studie Fragen danach auf, inwiefern der Einsatz von Algorithmen die Selbstbestimmungsfähigkeit von PatientInnen – und auch von ÄrztInnen und anderem medizinischen Fachpersonal – vermindern oder steigern könnte. Es wird hinterfragt, inwiefern er eine Diskriminierung einzelner Bevölkerungsgruppen befördern oder andere ethisch problematische Effekte haben könnte, z.B. wenn Entscheidungen über die Verteilung knapper gesundheitsrelevanter Güter auf der Basis von automatisierten Datenauswertungen getroffen werden.

Zum Abschluss der Studie werden eine Reihe von Handlungsempfehlungen und „To-do’s“ formuliert. Sie sollen denjenigen, die den Einsatz von Algorithmen im Gesundheitswesen praktisch planen und umsetzen, helfen den damit einhergehenden Herausforderungen angemessen zu begegnen. Benannt wird u.a. die Notwendigkeit der Etablierung einheitlicher Standards für die Erhebung, die Verarbeitung und den Austausch von Daten, die Aufstellung klarer Verhaltensregeln für ProgrammiererInnen, die Entwicklung geeigneter Aufklärungsansätze für eine informierte Einwilligung beim Einsatz von algorithmischen Systemen sowie die Einrichtung von interdisziplinären Teams, um eine Planung und Programmierung nach ethischen Grundsätzen zu ermöglichen. Darüber hinaus wird betont, dass es einer intensiven öffentlichen Diskussion über die moralischen und sozialen Konsequenzen bedarf, die sich aus dem zunehmenden Einsatz von (selbstlernenden) Algorithmen und automatisierter Datenverarbeitung in der Gesundheitsversorgung ergeben. Eine solche Diskussion sollte breit aufgestellt sein und so bald wie möglich initiiert sowie wissenschaftlich begleitet werden.

Prof. Dr. Christiane Woopen, geschäftsführende Direktorin des ceres (Cologne Center for Ethics, Rights, Economics and Social Sciences of Health) der Universität zu Köln und Leiterin der Forschungsstelle Ethik an der Uniklinik Köln

Ansprechpartner:
Dr. Minou Friele und Marc Jannes, ceres (Cologne Center for Ethics, Rights, Economics and Social Sciences of Health), Universität zu Köln.

Ceres/D 2019: Algorithmen in der digitalen Gesundheitsversorgung. https://www.ceres.uni-koeln.de/fileadmin/user_upload/Bilder/Dokumente/ceres-Bertelsmann_Algorithmen.pdf