Digitales

WHO-Leitfaden zur Künstlichen Intelligenz

Welche Chancen und Risiken bietet KI im Gesundheitswesen?

Stuttgart - 23.01.2024, 09:15 Uhr

Wenn die künstliche Intelligenz auf verzerrte Daten zurückgreift, ist auch das Resultat verzerrt. (Foto: NINENII / AdobeStock)

Dass der Einsatz von Künstlicher Intelligenz (KI) nicht nur Vorteile hat, dürfte den meisten klar sein. Gerade, wenn es um sensible Gesundheitsinformationen geht, sind viele skeptisch. Der Nutzen der Technologie steht aber ebenso außer Frage, zum Beispiel wenn es um die Dokumentation und Berichterstattung klinischer Daten geht. Die Weltgesundheitsbehörde (WHO) hat einen Leitfaden zu den Chancen und Risiken der Nutzung künstlicher Intelligenz im Gesundheitswesen veröffentlicht. Was steht drin?

Die Weltgesundheitsorganisation (WHO) hat einen Leitfaden zur Verwendung von künstlicher Intelligenz im Gesundheitswesen publiziert. Dort ist zu lesen, dass die Technologie unter bestimmten Voraussetzungen hilfreich in der Medizin sein könnte, aber auch irreführende und potenziell gefährliche Ergebnisse liefern könnte. Es komme auf die Qualität der Daten an, mit denen der Algorithmus versorgt wird.

Science-Fiction oder Realität?

Risiken und Nebenwirkungen von KI

Worauf zu achten ist, wenn künstliche Intelligenz in Apotheken genutzt wird

Künstliche Intelligenz beschreibt ein informationstechnisches Netzwerk, das Daten so verarbeitet, dass neue Inhalte generiert werden. Der Algorithmus „lernt“ aus dem vorhandenen Datensatz. Die Rechenergebnisse hängen also stark von den verfügbaren Daten ab.
ChatGPT beispielsweise generiert originäre Texte, indem Informationen aus Artikeln anhand bestimmter Schlagworte und Anweisungen (den sogenannten prompts) gefunden und vom KI-Algorithmus modelliert werden. Das so errechnete Resultat basiert auf dem Datensatz, ist aber ein neuer Text.

Künstliche Intelligenz könnte laut WHO-Bericht bei der Diagnose, Forschung, Arzneimittelentwicklung, Verwaltung von Gesundheitsdaten sowie in der (Weiter-)Bildung von Heilberuflern genutzt werden.

Ethische Prinzipien, die bei der Verwendung von künstlicher Intelligenz im Gesundheitssektor bedacht werden sollten

Die menschliche Autonomität, das heißt selbstständiges Denken, kreative und logische Prozesse verwirklichen, sollte bewahrt werden.
Menschliches Wohlbefinden, Sicherheit und das Gemeinwohl sollten von der Künstlichen Intelligenz gefördert werden.
Transparenz und Verständlichkeit der Technologie sollten gewährleistet sein.
Die Rechenschaftspflicht und gesetzliche Verantwortlichkeiten sollten geklärt sein.
Die Technologie sollte Gleichberechtigung fördern und auch gleichberechtigt allen Menschen zur Verfügung stehen.
Die KI sollte nachhaltig sein.

Ist die Datengrundlage, mit dem das Computermodell arbeitet, verzerrt, so sind auch die errechneten Ergebnisse falsch, voreingenommen oder ungenau. Im Gesundheitssektor könne das beispielsweise falsche Diagnosen zur Folge haben, gibt die WHO im Leitfaden zu bedenken. Fehler, Missbrauch und schlussendlich gesundheitliche Schäden einzelner Menschen seien dann unvermeidbar. Insbesondere, wenn der Technologie zu sehr vertraut wird und Herausforderungen und Einschränkungen, was zum Beispiel Sicherheit und Nutzen angehen, missachtet werden.

Nur durch einen transparenten und verantwortungsvollen Umgang mit künstlicher Intelligenz sei es möglich, davon zu profitieren. Wie kann das gelingen?

Regeln für künstliche Intelligenz

Regeln für den Einsatz Künstlicher Intelligenz im Gesundheitsbereich müssen aufgestellt sowie Personal und Patienten an der Entwicklung beteiligt werden, fordert die WHO. Gesundheitsdienstleister müssen geschult werden, wie die Technologie angewendet werden kann und welche Limitationen bestehen.

Es müsse überprüft werden, ob geltendes Recht auch auf künstliche Intelligenz übertragen werden könne, vor allem in Bezug auf Daten- und Patientenschutz. Technologieunternehmen, die die Programme entwerfen und vermarkten, müssten reguliert und überwacht werden, um die sensiblen Patientendaten zu schützen und eine freie, nicht-kommerzielle KI-Forschung (weiter) zu ermöglichen.

Des Weiteren muss laut WHO-Bericht bedacht werden, dass künstliche Intelligenz einen hohen Energieverbrauch aufweist und daher auch zu einer ökologischen Last werden könne, wenn die Technik umfassend eingesetzt wird.

Chancen und Risiken des Einsatzes von KI im Gesundheitswesen, laut WHO

Nutzungsgebiet	Chancen	Risiken
Diagnose und klinische Versorgung	Unterstützung bei komplexen klinischen Fällen und Absichern bei Routinediagnosen Verringerung des Dokumentationsaufwands der Gesundheitsdienstleister Bereitstellung neuer Erkenntnisse aus verschiedenen unstrukturierten Formen von Gesundheitsdaten	ungenaue, unvollständige, verzerrte oder falsche Resultate aufgrund einer schlechten Datengrundlage Verschlechterung der Fähigkeiten (der Fachkräfte)
Patienteninformation	Virtueller Gesundheitsassistent Aufbereitete Informationen für Patienten, damit diese ihren Gesundheitszustand besser verstehen Einfache Beteiligung an klinischen Studien	Ungenaue, unvollständige oder falsche Angaben Manipulation der Daten und damit Resultate Datenschutz und Cybersicherheit herausfordernd Weniger Interaktion zwischen Ärzten und Patienten
Verwaltung	Hilfe bei der Dokumentation, die für die klinische Versorgung erforderlich ist Hilfe bei der Übersetzung von (Fach-)Texten Vervollständigung der elektronischen Patientenakte Effizientes Verfassen von Notizen nach einem Patientenbesuch	Ungenauigkeiten und Fehler
Medizinische und pflegerische Ausbildung	An den einzelnen Schüler angepasste Lerntexte, verbessertes Verständnis Simulierte Patientengespräche zur Verbesserung der Kommunikation und zum Üben verschiedener Situationen	Fehler oder falsche Informationen der KI untergraben die Qualität und Autorität der medizinischen Ausbildung Neue Herausforderung durch das Erlernen digitaler Fähigkeiten
Wissenschaftliche Forschung und Arzneimittelentwicklung	Generierung von Texten zur Verwendung in wissenschaftlichen Artikeln Analysieren und Zusammenfassen von Daten für die Forschung Korrekturlesen De-novo-Design von Arzneimitteln	Algorithmen können nicht rechtlich verantwortlich gemacht werden Datenbasierter Bias gegenüber Ländern mit hohem Einkommen Untergraben wichtige Grundsätze der wissenschaftlichen Forschung, wie z.B. Peer-Review Verschärfung des ungleichen Zugangs zu wissenschaftlichen Erkenntnissen