Gesundheit Digital Künstliche Intelligenz in der Medizin – eine Einführung

Künstliche Intelligenz (KI) hält Einzug in viele Bereiche des Lebens. In der Medizin und im gesamten Bereich der Gesundheitsversorgung birgt KI großes Potenzial. Voraussichtlich wird KI nicht nur die Arbeit von medizinischem Personal verändern und erleichtern. KI-Anwendungen, die man nutzen kann, um seine Beschwerden einzuordnen, sind zunehmend unter Patientinnen und Patienten verbreitet. Zudem lässt sich mithilfe von KI die medizinische Forschung schneller voranbringen. Geschickt eingesetzt ist KI ein Werkzeug, mit dem sich die medizinische Versorgung der Zukunft verbessern lässt.

Einige KI-Anwendungen werden schon im medizinischen Alltag eingesetzt, etwa bei der Auswertung von Computertomographie-Aufnahmen oder zur Terminkoordinierung in Arztpraxen. Viele KI-Anwendungen werden aktuell entwickelt und immer wieder kommen neue KI-gestützte Programme auf den Markt. 

Mithilfe von KI konnten in der medizinischen Forschung bereits viele neue Erkenntnisse gewonnen werden, etwa zu den Auslösern verschiedener Krebs-Erkrankungen. Die Entwicklung neuer Medikamente kann durch KI unterstützt werden. Auch die Auswertung großer Datenmengen ist mithilfe von KI viel einfacher. KI verspricht, die Forschung weiter zu verändern und deutlich zu beschleunigen.

Der Begriff „Künstliche Intelligenz“ (KI) ist mittlerweile für viele auch im Alltag geläufig. Es gibt jedoch verschiedene Definitionen. Daher kann es sein, dass unterschiedliche Personen und Organisationen den Begriff nicht einheitlich verwenden. Man spricht zum Beispiel von künstlicher Intelligenz, wenn Maschinen menschliche kognitive Fähigkeiten nachahmen. Zu diesen Fähigkeiten gehören etwa Denken, Lernen, Planen oder Kreativität. Die Maschine leitet dafür aus zugrundeliegenden Daten oder Befehlen die Wahrscheinlichkeiten für bestimmte Aussagen oder Verhaltensweisen ab. KI-Systeme arbeiten bis zu einem gewissen Grad selbstständig. Manchmal verwendet man statt der Abkürzung KI auch das englische AI (von „Artificial Intelligence“). 

Künstliche Intelligenz ist ein Überbegriff. Er umfasst auch bestimmte Methoden zur Datenauswertung und Mustererkennung. Diese Methoden nennt man maschinelles Lernen. Beim maschinellen Lernen wird ein Computer-Programm anhand von vielen Daten trainiert, zum Beispiel mit zahlreichen Röntgenbildern. Beim Training werden dem Programm dabei auch relevante Informationen gegeben. Diese Information kann zum Beispiel sein, ob auf dem Bild ein Knochenbruch zu sehen ist oder nicht. Die KI leitet aus den Bildern gemeinsame Merkmale von Knochenbrüchen ab, um diese auch auf neuen Bildern erkennen zu können. 

Eine besondere Form von maschinellem Lernen wiederum ist das Deep Learning – auf Deutsch „tiefes Lernen“. Dabei wird die Funktionsweise des menschlichen Gehirns nachgeahmt, also die komplizierte Verschaltung vieler einzelner Hirnzellen (Neuronen). Dafür werden „tiefe“ Netzwerke hergestellt, mit vielen hintereinander geschalteten Schichten künstlicher Neuronen. 

Auch Deep-Learning-Anwendungen werden mit Daten trainiert, um etwa Muster in neuen Daten erkennen zu können. Manche Deep-Learning-Anwendungen erkennen selbstständig und ohne Zusatzinformationen die relevanten Gemeinsamkeiten in den Daten, mit denen sie trainiert werden. Im Vergleich zu anderen KI-Anwendungen sind dafür größere Datenmengen erforderlich. Durch die Vernetzung vieler künstlicher Neuronen können mithilfe von Deep Learning komplexere Aufgaben gelöst werden als mit anderen KI-Anwendungen. Aufgrund der komplexen Verschaltung lässt sich der Lösungsweg eines Deep-Learning-Programms allerdings kaum überprüfen.

Manche künstlichen neuronalen Netzwerke sind in der Lage, selbst umfangreiche Texte oder ganze Bilder zu erstellen. KI, die das kann, wird generative KI genannt.

Das Gesundheitssystem steht vor großen Herausforderungen. Neue teure Therapien und der demografische Wandel führen zu ständig steigenden Kosten. Der Fachkräftemangel erschwert eine bedarfsgerechte Versorgung aller Patientinnen und Patienten. 

Die Digitalisierung allgemein und der Einsatz künstlicher Intelligenz (KI) könnten zur Lösung dieser Probleme beitragen. Für die medizinische Versorgung werden Programme entwickelt, aktuell erprobt oder bereits eingesetzt, die: 

• administrative Aufgaben übernehmen, zum Beispiel Arzttermine koordinieren
• Gespräche und Untersuchungsbefunde dokumentieren, zusammenfassen und übersetzen
• Patientinnen und Patienten beim Einschätzen ihrer Symptome helfen
• die Auswertung von Untersuchungen unterstützen
• Ärztinnen und Ärzten medizinisches Fachwissen bereitstellen

Dokumentation

Durch den Einsatz von KI-Programmen könnte sich Zeit einsparen lassen, beispielsweise wenn zeitintensive Aufgaben teilweise automatisch erledigt werden. So könnte KI etwa die Ergebnisse einer Untersuchung oder des Arztgesprächs dokumentieren sowie einen Arztbrief schreiben. Die eingesparte Zeit kann das medizinische Personal dann im Idealfall für den direkten Kontakt zu Patientinnen und Patienten einsetzen.

Auswertung von Untersuchungen

Durch die Auswertung von Bildern und anderen Daten kann KI beim Erkennen von Erkrankungen helfen. KI-Programme können etwa Hirnblutungen in Computertomografie-Aufnahmen erkennen. KI könnte so die Diagnostik beschleunigen und die Genauigkeit von Diagnosen erhöhen. Auch nachlassende Konzentration und andere menschliche Schwächen in der Entscheidungsfindung könnten durch den Einsatz von KI-Programmen ausgeglichen und so Fehler vermieden werden. Dafür könnte KI gezielt in Situationen eingesetzt werden, in denen Fehler wahrscheinlicher sind, etwa im Nachtdienst.

Medizinische Forschung

Vielversprechende Ergebnisse liefert der Einsatz von KI in der medizinischen Forschung. Einen Durchbruch brachte etwa die Einführung eines KI-basierten Computer-Programms, das die dreidimensionale Struktur von Proteinen vorhersagt. Kennt man diese Struktur, kann man leichter herausfinden, welche Funktion Proteine in den Zellen haben, und außerdem neue Wirkstoffe für Medikamente entwickeln.

Die zunehmende Verbreitung von künstlicher Intelligenz (KI) birgt in vielen Bereichen großes Potenzial. Um dieses Potenzial nutzen zu können, müssen jedoch auch die Herausforderungen beim Einsatz und der Entwicklung von KI gemeistert werden.

Um sich im medizinischen Bereich auf KI verlassen zu können, müssen die Anwendungen mit ausreichend und für den jeweiligen Zweck geeigneten Daten trainiert werden. Anwenderinnen und Anwender sollten im Umgang mit KI geschult werden, um angemessen auf mögliche Fehleinschätzungen einer KI reagieren zu können. Wenn sich KI weiter etabliert, ist es zudem wichtig, Auswirkungen auf die Umwelt gering zu halten.

Auch ob die Anwendung von KI in der Medizin sich für Gesundheitssysteme ökonomisch lohnt, ist bisher wenig untersucht. Dabei sollte unter anderem geprüft werden, welche Kosten insgesamt durch die Entwicklung und Etablierung von KI im Gesundheitswesen entstehen und wie Gelder im Sinne der Patientinnen und Patienten eingesetzt werden sollten. 

Datengrundlage

Ob in der Forschung oder bei KI-Anwendungen – für genaue Ergebnisse braucht man eine solide Datengrundlage. Werden ungeeignete Daten verwendet, kann das die Ergebnisse verzerren. Solche Verzerrungen nennt man Bias. Verzerrte Ergebnisse sollte man nicht oder nur eingeschränkt für reale medizinische Entscheidungen verwenden. 

Unerwünschte Bias können auch bei KI-Modellen auftreten, die mit Daten trainiert werden, welche für den Zweck der KI nicht geeignet sind. Das kann zu Fehleinschätzungen der KI führen. Um das zu vermeiden, sind große Mengen hochwertiger Daten notwendig, um ein KI-Modell zu trainieren.

Um hochwertige Daten unter Beachtung strenger Datenschutzregeln zur Verfügung zu stellen, gibt es daher neue Einrichtungen wie das Netzwerk Universitätsmedizin, das Forschungsdatenportal für Gesundheit und das Forschungsdatenzentrum Gesundheit. Zukünftig sollen über den Europäischen Raum für Gesundheitsdaten (EHDS) auch innerhalb der Europäischen Union Gesundheitsdaten gemeinsam genutzt werden können.

KI-Anwendungen sollen auch mit Daten trainiert werden können, die ursprünglich für andere Zwecke erhoben wurden, etwa Daten aus der elektronischen Patientenakte. Bilden Daten die ganze Breite und Vielfalt der Gesellschaft ab, kann der Einfluss von Bias verringert werden.

Transparenz

Je komplexer eine KI-Anwendung ist, desto weniger kann man verstehen, wie sie zu ihren Ergebnissen kommt. Im medizinischen Bereich tragen Menschen die Verantwortung für teils weitreichende Entscheidungen. Für medizinisches Personal und Patientinnen und Patienten ist es daher wichtig, dass sich die Ergebnisse und Einschätzungen einer KI überprüfen lassen. Die Einschätzungen von KI-Anwendungen für die medizinische Versorgung müssen angemessen nachvollziehbar sein. 

Fehlentscheidungen

Für einige KI-Anwendungen konnte gezeigt werden, dass diese weniger Fehler machen als Ärztinnen und Ärzte. Verglichen mit Expertinnen und Experten fand eine KI-Anwendung etwa zuverlässiger Auffälligkeiten in Computertomographie-Aufnahmen der Lunge. Sicherheit und Zuverlässigkeit medizinischer KI-Anwendungen sind zudem Voraussetzungen für die Zertifizierung von medizinischen KI-Anwendungen, die als Medizinprodukte auf den Markt gebracht werden. Dennoch sind Fehler nicht ausgeschlossen. Dessen müssen sich medizinisches Personal sowie Patientinnen und Patienten bewusst sein, wenn sie KI einsetzen. Die Verantwortung für medizinische Entscheidungen liegt nach wie vor in menschlichen Händen. Im Fall von technischen Fehlern oder falschen Gebrauchsinformationen sind jedoch auch die Hersteller haftbar.

Verhältnis von Mensch und Maschine

KI-Anwendungen können durch die Bereitstellung sachlicher und umfassender Informationen helfen, menschliche Entscheidungen zu verbessern. Unter bestimmten Umständen neigen Menschen dazu, den Einschätzungen einer KI mehr zu vertrauen als denen anderer Menschen.

Bei einer KI, die bessere Einschätzungen liefert als Expertinnen und Experten, ist dieses Vertrauen gerechtfertigt. Andererseits birgt übermäßiges Vertrauen in die Einschätzungen einer KI aber die Gefahr, dass auch Entscheidungen nach und nach immer mehr der KI überlassen werden, die besser von Menschen getroffen werden sollten. Wenn Entscheidungen zunehmend von KI übernommen werden, könnten Menschen bestimmte Fähigkeiten auch verlernen.

Medizinisches Personal, aber auch Patientinnen und Patienten müssen lernen, wie man mit KI-Anwendungen richtig umgeht. Dies umfasst, die Stärken und Schwächen der KI-Anwendung einschätzen zu können.

KI wird das besondere Verhältnis zwischen medizinischem Personal und Patientinnen und Patienten nicht ersetzen. Persönliche Zuwendung fördert den Heilungsverlauf und ist ein wichtiger Teil des Behandlungsprozesses. Möglicherweise können KI-Anwendungen dieses besondere Verhältnis stärken, indem sie mehr Zeit für den persönlichen Kontakt erlauben.

Nachhaltigkeit

Die Speicherung vieler Daten, die Entwicklung von KI-Systemen und jede einzelne Anfrage an einen Chatbot – all das verbraucht Energie. Die Digitalisierung und die zunehmende Verbreitung von KI werden daher voraussichtlich den Strombedarf für Rechenzentren weltweit stark ansteigen lassen. Auch weitere Ressourcen werden verbraucht, um KI-Anwendungen zu betreiben, unter anderem Wasser zur Kühlung von Rechenzentren. Zudem wird ein enormer Anstieg von Elektroschrott durch KI-Hardware erwartet. Gleichzeitig könnten KI-Anwendungen auch einen Beitrag dazu leisten, im Gesundheitssystem insgesamt den Verbrauch von wertvollen Ressourcen zu optimieren, beispielsweise durch eine effizientere Entwicklung von Arzneimitteln.

Von der Idee bis zum Einsatz im klinischen Alltag – das ist für Systeme mit künstlicher Intelligenz (KI) in der Regel ein langer Weg. KI-Systeme, die einem bestimmten medizinischen Zweck dienen sollen, gelten in aller Regel als Medizinprodukte. Medizinprodukte müssen rechtliche Vorgaben der Europäischen Union erfüllen, um auf den europäischen Markt gebracht zu werden. Welche Voraussetzungen für die Zertifizierung erfüllt sein müssen, hängt vor allem vom Risiko ab, das mit der Verwendung des Produkts einhergehen kann (Produktrisiko).

Nach der Entwicklung einer KI-Anwendung wird das Produkt klinisch bewertet. Bei dieser Bewertung prüft der Hersteller, ob das Produkt sicher und leistungsfähig ist. Dafür wird beispielsweise die Leistung der KI mit den Fähigkeiten von Fachärztinnen und Fachärzten verglichen.

Bevor ein Hersteller ein KI-Medizinprodukt auf den Markt bringen darf, muss er prüfen lassen, ob es alle gesetzlichen Vorschriften erfüllt. Dafür führt er ein sogenanntes Konformitätsbewertungsverfahren durch. Daran ist auch eine unabhängige Prüf- und Zertifizierungsstelle beteiligt. Wenn das Produkt alle Anforderungen erfüllt, bekommt es eine CE-Kennzeichnung. 

Außerdem muss der Hersteller ein Qualitätsmanagementsystem einrichten. Dieses System sorgt unter anderem dafür, dass:

• mögliche Risiken des Produkts erkannt und verringert werden (Risikomanagement)
• das Produkt auch nach der Markteinführung geprüft wird

KI-Verordnung der Europäischen Union

Zukünftig müssen viele Produkte mit KI in der Europäischen Union (EU) zudem die Anforderungen der KI-Verordnung (Artificial Intelligence Act, kurz „AI Act“) erfüllen. Die KI-Verordnung verbietet in der EU grundsätzlich die Einführung von bestimmten KI-Systemen, welche zum Beispiel der Manipulation von Personen oder der sozialen Kontrolle dienen. Die KI-Verordnung enthält außerdem Auflagen für bestimmte Medizinprodukte, die mit KI arbeiten. 

Einige Bestimmungen der KI-Verordnung überschneiden sich mit den rechtlichen Anforderungen an Medizinprodukte. Beispielsweise müssen Hersteller von Medizinprodukten und von Hochrisiko-KI-Produkten mögliche Risiken für die Sicherheit, Gesundheit und Grundrechte finden und versuchen, diese zu vermindern. Nach der Markteinführung müssen Medizinprodukte sowie KI-Produkte überwacht werden.

Die Anforderungen der KI-Verordnung sind in manch anderen Punkten spezifischer als die der Medizinprodukte-Verordnungen. Dazu gehören unter anderem Vorgaben zur:

• Datenverarbeitung und -speicherung sowie zum Datenschutz
• Protokollierung der Aktivitäten von KI-Systemen, anhand derer man bei Bedarf Fehler zurückverfolgen kann
• Beaufsichtigung von KI-Systemen bei ihrer Verwendung durch die Anwenderin oder den Anwender

Entscheidungen oder Untersuchungsergebnisse in der Medizin können weitreichende Konsequenzen haben. Auf Anwendungen mit künstlicher Intelligenz (KI), die in diesem Bereich eingesetzt werden, müssen sich Personal sowie Patientinnen und Patienten verlassen können. KI-Anwendungen für den medizinischen Bereich müssen daher besonders sorgfältig entwickelt und überwacht werden, damit sie dauerhaft korrekte Ergebnisse liefern.

Sowohl bei der Entwicklung als auch bei der Anwendung im klinischen Kontext verarbeiten Programme mit künstlicher Intelligenz mitunter sensible Daten von Patientinnen und Patienten. 

Gesetzliche Vorgaben sollen sicherstellen, dass in der Europäischen Union (EU) nur sichere und angemessen nachvollziehbare KI-Systeme eingesetzt werden. Solche verbindlichen Vorgaben sollen außerdem die Entwicklung von KI-Produkten attraktiver machen, da Hersteller sich auf die rechtlichen Regelungen einstellen können. In der EU gibt es daher seit 2024 die Verordnung über künstliche Intelligenz („AI Act“), deren Regelungen nun schrittweise in Kraft treten.