3 Fragen an

Thomas Schauf

Senior Experte Public and Regulatory Affairs der Deutsche Telekom AG und Mitglied der Arbeitsgruppe IT-Sicherheit, Privacy, Ethik und Recht der Plattform Lernende Systeme

3 Fragen an Thomas Schauf

Der Patient im Mittelpunkt: Sichere KI-Systeme in der Medizin

Intelligente Assistenzsysteme in der Gesundheitsversorgung können Ärztinnen und Ärzte bei Prävention, Diagnose sowie Therapie-Entscheidungen unterstützen. Eine wesentliche Voraussetzung: Die Sicherheit der KI-Systeme ist gewährleistet. Thomas Schauf, Senior Experte Public and Regulatory Affairs der Deutsche Telekom AG, hat mit weiteren Mitgliedern der Plattform Lernende Systeme in einem aktuellen Whitepaper das Datenmanagement und die IT-Sicherheit beim Einsatz von KI in der Medizin untersucht. Wie sich Patientendaten schützen lassen und wie der Zugriff auf die sensiblen Informationen geregelt werden kann, erläutert er im Interview.

1

Die Entwicklung von KI-basierten medizinischen Systemen erfordert Patientendaten. Wie lassen sich diese auf sichere Weise bereitstellen?

Thomas Schauf: Wir haben in der Plattform Lernende Systeme intensiv über die Frage diskutiert, wie erforderliche Daten auf der einen Seite verfügbar gemacht und auf der anderen Seite sicher und geschützt verarbeitet werden können. Datenschutz, Transparenz und Nachvollziehbarkeit der Entscheidungen des KI-Systems spielen hier eine große Rolle. Das Vertrauen der Patientinnen und Patienten in das KI-System wird aber von entscheidender Bedeutung sein, damit sie ihre Daten überhaupt erstmal zur Verfügung stellten.. So ist es zum Beispiel bei der elektronischen Patientenakte (ePA) wichtig, dass die Menschen auch selber entscheiden können, welche ihrer Daten gespeichert werden sollen und welche Daten sie bestimmten Ärztinnen und Ärzten lieber nicht zur Verfügung stellen wollen. Vertrauen basiert natürlich auch auf der IT-Sicherheit der Systeme. In unserem Whitepaper diskutieren wir, welche verschiedenen technischen Möglichkeiten es zum Beispiel für sichere Datenbanksysteme in diesem speziellen Kontext gibt.

Hier ist noch weitere Forschungsarbeit zu leisten, wie solche sicheren KI-Systeme strukturell aufgebaut werden sollten. Im Zentrum steht die Frage: Wer wäre Betreiber eines derartigen KI-Assistenzsystems? Die Krankenkassen, die zwar die elektronischen Gesundheitskarten ausgeben, sehen wir hier nicht, da sie auch als ökonomischer Profiteur ein Eigeninteresse haben, welches sich negativ auf die Vertrauensdimension auswirken könnte. Wir denken, dass wir hier den vertrauensvollen Dritten als Intermediär brauchen. Erforderlich ist ein sicheres System, an dem die unterschiedlichen Interessen partizipieren können, wie etwa die Forschungsinstitutionen und auch die forschenden Pharmaunternehmen, ohne dass dabei das Eigeninteresse über das Patientenwohl gestellt werden kann. Das wird sicherlich auch eine Frage sein, die wir mit dem Bundesgesundheitsministerium diskutieren müssen.

2

Im Anwendungsszenario „Mit KI gegen Krebs“, das Sie in Ihrem Whitepaper analysieren, werden Daten aus verschiedenen Quellen zusammengeführt. Wie kann dieser Schritt sicher vollzogen werden?

Thomas Schauf: Wir schlagen vor, die Daten virtuell zu poolen. Auf diese Weise müssen die Daten nicht an einem physischen zentralen Ort gepoolt werden, sondern es wird eine Art Patientenklon oder digitaler Zwilling gebaut, der dann als Trainingsdatensatz zur Verfügung steht. Wir haben uns auch die Frage gestellt, ob denn eigentlich immer die Daten zum Algorithmus kommen müssen, damit dieser Algorithmus lernen kann, oder ob nicht auch der Algorithmus zu den Daten kommen kann. Dieser wandert dann sozusagen reihum von Patient zu Patient und sammelt die Dateneigenschaften für seine Trainings- und Lernzwecke ein.

3

Welche Daten sind für die KI-unterstützte Krebsbehandlung nötig? Wer sollte Zugriff darauf haben?

Thomas Schauf: Aus einer datentechnologischen Perspektive, würde ich sagen, je mehr Daten, desto besser. Wir suchen also nach Mustern von Daten in spezifischen Kontexten. Das heißt konsequenterweise: Je mehr Daten ich zum Verhalten von Menschen bekomme, umso besser kann ich Muster erkennen, Vorhersagen für die Vorsorge treffen und Wahrscheinlichkeiten daraus ableiten. Dann könnten Ärztinnen und Ärzte nicht nur Entscheidungen für die Behandlung ableiten, sondern vielleicht auch die Frage der Vorsorge adressieren. Das setzt aber natürlich voraus, dass die Patientinnen und Patienten ein hohes Maß an Datentransparenz wollen. Das ist nicht zwingend der Fall. In der Plattform Lernende Systeme haben wir uns daher zunächst auf den engeren Behandlungskontext fokussiert. Das heißt, wir wollen den Rahmen für ein Lernendes System abstecken, bei dem die beim Hausarzt, beim Facharzt oder in den Krankenhäusern vorhandenen Diagnosedaten von Patientinnen und Patienten allen behandelnden Ärztinnen und Ärzten gleichermaßen zur Verfügung gestellt werden können. Und dann stellt sich natürlich die Frage, wie ein Rollen- und Rechtemodell aussehen kann, mit dem die Zugriffsrechte verwaltet werden können.

Der Patient, als Souverän, muss immer der Letztentscheider sein. Schauen wir uns zum Beispiel die Rolle des Hausarztes an: Zu diesem hat der Patient vermutlich eine Vertrauensbeziehung, das heißt, dem Hausarzt wird eine sehr zentrale Rolle bei der Beratung des Patienten im Umgang mit seinen Daten zukommen. Der Hausarzt berät zukünftig also nicht mehr nur medizinisch, sondern auch zunehmend in technologischen Aspekten. Dies erfordert neue Kompetenzen, die Ärztinnen und Ärzte erwerben müssen. Wie der Hausarzt darf auch der Facharzt Daten einspeisen. Korrigierend eingreifen darf hingegen nur der technische Betreiber eines solchen Assistenzsystems, und zwar dann, wenn die dateneinspeisenden Ärztinnen und Ärzte auf falsche oder verzerrte Daten im System hinweisen. Ohne die Aufforderung der Ärztinnen und Ärzte darf der Betreiber die Daten nicht verändern, weil wir dann Gefahr laufen, dass dabei andere Interessen verfolgt werden könnten. Hier kommt die oben angesprochene Rolle des Intermediärs als vertrauensbildende Instanz zum Tragen. Der Mensch steht im Mittelpunkt. Entsprechend diesem Grundsatz muss auch das Assistenzsystem gestaltet sein.

Zum Download des Whitepapers Sichere KI-Systeme für die Medizin – Datenmanagement und IT-Sicherheit in der Krebsbehandlung der Zukunft“ der Plattform Lernende Systeme.

Zurück