Abwehr von Cyberangriffen in der Gesundheitsversorgung
BMFTR fördert das Projekt „SecureNeuroAI“ mit fast 2,5 Millionen Euro. Forschende aus Bonn und des FIZ Karlsruhe sind beteiligt
Bonn, 31. Juli 2025 – Künstliche Intelligenz (KI) soll unser Gesundheitssystem noch leistungsfähiger machen. Doch Cyberangriffe können nicht nur die Patientensicherheit gefährden, sondern auch Medizingeräte und die Arbeit von Rettungskräften beeinträchtigen. Mit dem Projekt „SecureNeuroAI“ wollen Forschende der Universität Bonn, des Universitätsklinikums Bonn und des FIZ Karlsruhe sichere, KI-gestützte Methoden zur Echtzeiterkennung medizinischer Notfälle am Beispiel epileptischer Anfälle entwickeln. Die Ergebnisse sollen weit über die Epilepsieanfallserkennung hinaus Anwendung finden. Das Bundesministerium für Forschung, Transfer und Raumfahrt (BMFTR) fördert das Vorhaben für drei Jahre mit fast 2,5 Millionen Euro.
Künstliche Intelligenz (KI) ist in aller Munde und in fast allen Lebensbereichen auf dem Vormarsch – auch auf dem weiten Feld der Gesundheitsversorgung. Medizinische Geräte und Anwendungen, die KI-Methoden einsetzen, haben das Potential, die Lebensqualität von Patientinnen und Patienten zu verbessern. Mit der Integration von KI in die Patientenversorgung steigt jedoch das Risiko von Cyberangriffen, die nicht nur die Patientensicherheit gefährden, sondern auch die Arbeit von Rettungskräften und die Funktionstüchtigkeit von Medizingeräten beeinträchtigen können.
Das Projekt „SecureNeuroAI“ wird in den nächsten drei Jahren vom Bundesministerium für Forschung, Transfer und Raumfahrt (BMFTR) mit fast 2,5 Millionen Euro gefördert. Es wird unter anderem darum gehen, Verfahren zur Datenauthentifizierung zu entwickeln die die KI-Verarbeitung der Daten nicht beeinträchtigen, aber dennoch einen Ursprungsnachweis dieser Informationen erlauben.
Das Vorhaben wird von Prof. Dr. Elena Demidova koordiniert, Leiterin der Arbeitsgruppe „Data Science and Intelligent Systems“ (DSIS) der Universität Bonn, die ein Mitglied in den Transdisziplinären Forschungsbereichen „Modelling“ und „Sustainable Futures“ ist. Elena Demidovas Arbeitsgruppe bringt umfangreiche KI-Expertise in das Projekt ein. An dem Vorhaben beteiligt sind Prof. Dr. Michael Meier, Leiter der Arbeitsgruppe „IT-Sicherheit“ am Institut für Informatik der Universität Bonn, Prof. Dr. Björn Krüger von der Klinik für Epileptologie des Universitätsklinikums Bonn, Leiter der Arbeitsgruppe „Personalisierte digitale Gesundheit und Telemedizin“, und Prof. Franziska Boehm vom FIZ Karlsruhe – Leibniz-Institut für Informationsinfrastruktur.
Die Forschenden von „SecureNeuroAI“ streben die Entwicklung sicherer, KI-gestützter Methoden zur Echtzeiterkennung medizinischer Notfälle am Beispiel epileptischer Anfälle an. Die Erkennung basiert auf einer umfassenden Analyse und Erfassung multimodaler Sensordaten. Hierfür werden beispielsweise tragbare elektronische Geräte („Wearables“), die Vitalparameter wie Herz- und Atemfrequenz erfassen, sowie klinische Daten von Patienten genutzt.
Cybersichere KI-Modelle
Die gewonnenen Daten werden durch cybersichere KI-Modelle analysiert, welche Anfälle erkennen und zuverlässig von potenziellen Datenmanipulationen unterscheiden sollen. Parallel dazu definiert das Projektteam technische, organisatorische und rechtliche Maßnahmen, um die Einbindung dieser KI-Methoden in klinische und häusliche Anwendungsfälle zu unterstützen.
Die Arbeitsgruppe von Prof. Dr. Elena Demidova von der Universität Bonn übernimmt eine zentrale Rolle in der Entwicklung von KI-Methoden zur Authentifizierung von Daten sowie bei der Entwicklung von erklärbaren KI-Modellen zur Erkennung von Manipulationen und Anfallsereignissen. „KI-Modelle werden durch Daten angetrieben und sind stark von ihnen abhängig, weshalb die Entwicklung von Schutzmechanismen wie Datenauthentifizierung und Manipulationserkennung von entscheidender Bedeutung ist“, sagt Prof. Dr. Demidova. „Besonders im Bereich der KI-gestützten Erkennung medizinischer Notfälle stellt die Manipulationserkennung eine große Herausforderung dar – bedingt durch die Komplexität der relevanten Datenmuster und der begrenzten Datenverfügbarkeit.“
Das Universitätsklinikum Bonn (UKB) übernimmt eine zentrale Rolle bei der klinischen Validierung und Integration der entwickelten KI-Modelle. Als Anwendungspartner werden in der Klinik und Poliklinik für Epileptologie multimodale Daten zur Anfallserkennung systematisch erfasst und unter klinischen Bedingungen aufbereitet, um eine realitätsnahe Datengrundlage für die KI-Modelle zu schaffen. „Künstliche Intelligenz wird in der Auswertung klinischer Daten eine immer größere Rolle spielen“, sagt Prof. Dr. Björn Krüger von der Klinik für Epileptologie des Universitätsklinikums Bonn. „Gerade im Gesundheitsbereich, wo wir mit besonders sensiblen Patientendaten arbeiten, ist ein sicheres Systemdenken unerlässlich – genau hier setzt das Projekt SecureNeuroAI an.“
Die Arbeitsgruppe von Prof. Dr. Michael Meier von der Universität Bonn bringt umfangreiche Erfahrungen in aktuellen IT-Sicherheits-Forschungsthemen ein. „Aus Studien zur Cybersicherheit wissen wir, dass vernetzte Medizinprodukte selbst, insbesondere aber die begleitenden Infrastrukturen, Schwachstellen aufweisen, die unbemerkte Manipulationen von Sensordaten ermöglichen können“, sagt Professor Meier, der auch Mitglied in den Transdisziplinären Forschungsbereichen „Modelling“, „Individuals & Societies“ und „Sustainable Futures“ an der Universität Bonn ist.
Die von Prof. Dr. Franziska Boehm geleitete Forschungsabteilung Immaterialgüterrechte (IGR) beim FIZ Karlsruhe (FIZ) analysiert Datenschutz- und IT-Vorgaben sowie Rechtsfragen der künstlichen Intelligenz. Daraus sollen Empfehlungen für gesellschaftliche Prozesse, die digitale Wissenschaft, einschließlich deren Infrastruktureinrichtungen, abgeleitet werden.
Ziel: KI-Modelle und Daten vor Manipulationen schützen
Die Projektergebnisse sollen einen wichtigen Beitrag zur Stärkung der Cybersicherheit von kritischen medizinischen Geräten leisten, die KI-Methoden zur Erkennung von lebensbedrohlichen Zuständen in Echtzeit verwenden. Diese neuen technischen Lösungen sollen es ermöglichen, sowohl KI-Modelle als auch deren zugrunde liegende Daten vor Manipulationen zu schützen. Die Projektergebnisse sollen weit über die Epilepsieanfallserkennung hinaus Anwendung finden. Damit soll das Vorhaben eine technologische Basis für die deutliche Steigerung der Integrität, Verfügbarkeit und Verlässlichkeit von KI-basierten Medizingeräten schaffen.
Bildmaterial:
Bildnachweis: BMFTR
Kontakte:
Prof. Dr. Elena Demidova
Data Science and Intelligent Systems Group (DSIS)
Universität Bonn
Tel. 0228 7369560
E-Mail: elena.demidova@cs.uni-bonn.de
Prof. Dr. Michael Meier
IT-Security
Universität Bonn
Fraunhofer FKIE
Tel. 0228/7354249
E-Mail: mm@cs.uni-bonn.de
Prof. Dr. Björn Krüger
Klinik und Poliklinik für Epileptologie
Universitätsklinikums Bonn
Tel. 0228 28751704
E-Mail: bkrueger@uni-bonn.de
Prof. Dr. Franziska Boehm
Bereichsleiterin Immaterialgüterrechte
FIZ Karlsruhe – Leibniz-Institut für Informationsinfrastruktur GmbH
Karlsruher Institut für Technologie
Tel. 07247/808401
E-Mail: franziska.boehm@fiz-karlsruhe.de
Zum Universitätsklinikum Bonn: Im UKB finden pro Jahr etwa 500.000 Behandlungen von Patient*innen statt, es sind ca. 9.500 Mitarbeiter*innen beschäftigt und die Bilanzsumme beträgt 1,8 Mrd. Euro. Neben den 3.500 Medizin- und Zahnmedizin-Studierenden werden pro Jahr 550 Personen in zahlreichen Gesundheitsberufen ausgebildet. Das UKB steht in der Focus-Klinikliste auf Platz 1 unter den Universitätsklinika (UK) in NRW, hatte in 2023 in der Forschung über 100 Mio. Drittmittel und weist den zweithöchsten Case Mix Index (Fallschweregrad) in Deutschland auf. Das F.A.Z.-Institut hat das UKB mit Platz 1 unter den Uniklinika in der Kategorie „Deutschlands Ausbildungs-Champions 2024“ ausgezeichnet.
