Applied Trustworthy AI
Projektübersicht
Hier finden Sie eine Reihe von uns durchgeführter Projekte aus dem Breich Trustworthy AI mit Fokus Healthcare. Weitere Informationen können über das „+“-Symbol ausgeklappt werden.
Projektstart: 01.01.2026
Projektträger: VDI/VDE Innovation + Technik (im Rahmen des Bayerischen Verbundforschungsprogramms BayVFP)
Projektverantwortung vor Ort:
Zusammenfassung
Rettungskräfte sind in Notfalleinsätzen häufig mit kritischen Situationen konfrontiert, in denen sich der Zustand von Patient:innen sehr schnell verschlechtern kann. Etablierte Frühwarnsysteme, sogenannte Early Warning Scores (EWS), funktionieren zwar gut in überwachten Klinikbereichen, stoßen jedoch im Rettungsdienst (Präklinik) an ihre Grenzen. Die dortigen Rahmenbedingungen - wie eine geringe Anzahl verfügbarer Vitalparameter, Störungen durch Bewegungsartefakte oder Sensorausfälle - erschweren eine zuverlässige Risikoeinschätzung und führen dazu, dass diese Systeme bisher kaum genutzt werden.
Das Projekt EWAI (Early Warning via Artificial Intelligence) adressiert diese Lücke durch die Erforschung eines innovativen, KI-gestützten Frühwarnsystems zur automatisierten Beurteilung des Patient:innenzustands im Notfalleinsatz. Ziel ist es, durch datengetriebene Methoden des maschinellen Lernens kritische Verläufe und spezifische Krankheitsbilder früher und robuster zu erkennen als bisher.
Ein zentraler Innovationsschritt ist dabei der Aufbau einer intelligenten Datenplattform, die potentiell unvollständige Einsatzdaten aus der Präklinik mit den hochwertigen Daten und gesicherten Diagnosen aus dem innerklinischen Verlauf verknüpft. Durch diese Fusion lernt die KI aus dem gesamten Behandlungsverlauf. Um mögliche Sensorausfälle im Rettungswagen zu kompensieren, werden zudem Verfahren entwickelt, die fehlende Werte durch berechnete Ersatzparameter (Surrogat-Parameter) ergänzen.
Neben der technischen Leistungsfähigkeit liegt ein besonderer Fokus auf die Entwicklung einer "Vertrauenswürdigen KI". In diesem Kontext werden Methoden der erklärbaren KI (Explainable AI) implementiert, um die Vorhersagen des Systems transparent und für das medizinische Personal nachvollziehbar zu machen. So leistet das Projekt einen wichtigen Beitrag zur Digitalisierung der Notfallmedizin und zur Erhöhung der Patient:innensicherheit.
Projektstart: 01.01.2020
Projektträger: BMBF (Bundesministerium für Bildung und Forschung)
Projektverantwortung vor Ort:
Zusammenfassung
Die zunehmende Digitalisierung in der Medizin führt seit Jahren zu einer steigenden Menge an Daten. Viele dieser Daten werden für die Diagnostik von Erkrankungen eingesetzt. Basierend auf bestehenden annotierten Daten könnten durch künstliche Intelligenz Vorhersagen oder diagnostische Vorschläge für neue Daten getroffen werden. Für eine zuverlässige Vorhersage, insbesondere mittels Deep Learning, ist aber eine ausreichend große Basis an annotierten Daten notwendig, welche auch seltene Diagnosen in genügender Anzahl enthält. Dies ist entweder sehr zeit- und kostenintensiv oder führt dazu, dass vorhandene Daten nicht eingesetzt werden können.
Das Projekt LIFEDATA wird ein Open-Source-Framework zur Bewältigung dieser Problemstellung schaffen. Das wissenschaftliche Konzept kombiniert Aktives Lernen (AL) mit Deep Neural Networks (DNN), um selbstständig Datenpunkte mit dem größten Informationsgewinn (bspw. seltene Diagnosen) auszuwählen. Menschliche Experten annotieren diese und ermöglichen so ein effizientes Trainieren von Machine-Learning-Modellen.
Anstatt alle Datenpunkte eines Datensatzes manuell zu annotieren, kann zusätzlich halbüberwachtes Lernen in Kombination mit AL viele Annotationen halbautomatisch erzeugen.
Zwei im Projekt bearbeitete Anwendungsfälle aus den Life Sciences untersuchen den Mehrwert für verschiedene Problemstellungen und Datentypen.
Algorithmen zur Erklärung der Modell-Klassifizierungen machen die Entscheidungen der so trainierten ML-Modelle nachvollziehbar.
Um diese Ziele zu erreichen,wird zunächst der AL-Teil des Frameworks implementiert und durch einen Use Case mit einem bereits annotierten medizinischen Bilddatensatz evaluiert. Zur Validierung der Benutzerfreundlichkeit, Universalität und Anwendbarkeit des Annotationstools wird ein zweiter Use Case mit EKG-Daten durchgeführt.
So können die Ergebnisse des Projekts in der Synergie aus wachsenden Datenmengen und technischem Fortschritt zu einer Verbesserung in der Patientenversorgung führen.
Projektstart: 01.03.2016
Projektträger: Universität Augsburg
Projektverantwortung vor Ort: Julia Rauscher
Zusammenfassung
Medical Information Sciences als Aspekt der interdisziplinären Integration medizinischer, biologischer und genetischer Informationen unter besonderer Berücksichtigung umweltrelevanter Einflüsse für die menschliche Gesundheit und den Krankheitsverlauf mit Hilfe von Internet of Things of medical devices.
Projektstart: 01.03.2016
Projektträger: Universität Augsburg
Projektverantwortung vor Ort: Julia Rauscher
Zusammenfassung
Durch Zusammenarbeit des Zentralklinikum Augsburg und der Universität Augsburg werden gemeinsame Merkmale von Langzeitüberlebenden mit Magen-Pankreas-Tumoren identifiziert. Dadurch soll eine Grundlage geschaffen werden, um eine zukünftig optimale Behandlung bieten zu können und somit nachhaltig die Lebensqualität verbessern zu können.
Projektstart: 01.09.2016
Projektträger: BMBF (Bundesministerium für Bildung und Forschung)
Projektverantwortung vor Ort:
Zusammenfassung
Die Universität Augsburg ist ein Partner im Konsortium DIFUTURE (The Munich-Tübingen Alliance for Data Integration and Future Medicine) im Rahmen des Förderkonzeptes "Medizinische Informatik" des Bundesministeriums für Bildung und Forschung (BMBF). Weitere Konsortialpartner sind die Technische Universität München, die Ludwigs-Maximilan-Universität München und die Eberhard Karls Universität in Tübingen. Ziel des Vorhabens ist die Verbesserung von Forschungsmöglichkeiten und der Patientenversorgung durch den Austausch und die geteilte Nutzen der klinischen und Forschungsdaten über die Standorte und Institutionen hinweg.
Projektstart: 01.09.2011
Projektträger: Universität Augsburg
Projektverantwortung vor Ort: Heiner Oberkampf
Dissertation: https://opus.bibliothek.uni-augsburg.de/opus4/3736