Robotische Systeme haben großes Potenzial zur Verbesserung der medizinischen Versorgung, doch ihre Integration durch nicht-technisches Personal bleibt eine Herausforderung. LLMs eröffnen neue Möglichkeiten für die Mensch-Roboter-Interaktion, bergen jedoch Risiken wie Fehlinterpretationen, Bias und Sicherheitsprobleme. Das Teilvorhaben der Universität Augsburg untersucht systematisch die Risiken, die mit der Nutzung von LLMs und darauf basierenden LC-/NC-Mechanismen in der Pflege einhergehen.
Ziel ist es, Methoden zur frühzeitigen Risikoerkennung und Optimierung von Sprachmodellen voranzutreiben sowie deren Anwendung in den Modul-1-Projekten zu fördern. Zur Sensibilisierung des Pflegepersonals werden praxisnahe Testszenarien im Reallabor entwickelt, erprobt und evaluiert. Die gewonnenen Erkenntnisse und Methoden tragen zur Verbesserung bestehender Systeme bei und unterstützen einen sicheren, transparenten Einsatz von LLMs in der Gesundheitsrobotik.