In zukünftigen KI-gestützten, datengetriebenen Produktions-umgebungen ändert sich die Rolle des Menschen. Aus dem klassischen Anlagenbediener wird ein Überwacher (teil-) autonomer Systeme. Diese Systeme agieren anhand sich ständig aktualisierender Daten, veränderlichen Randbedingungen und Zielvorgaben. Daher müssen Methoden erarbeitet werden, die maschinelle Entscheidungen transparent nachvollziehbar gestalten und kontextabhängige Handlungsoptionen bieten, um die Souveränität des Menschen zu sichern sowie seine Kreativität gezielt zur Optimierung des Gesamtvorgangs einzubringen.

Dies beinhaltet einerseits intuitiv erfassbare Aufbereitung der maschinellen Entscheidungsfindung, sowie kompatible Steuerungs- und Regelungsansätze, welche dem menschlichen Überwacher eine Mitwirkung in einem verträglichen Takt erlauben. Darüber hinaus sollen Automatisierungsansätze erforscht werden, die ein Zusammenwirkung von Menschen und Maschinen („Cobots“) in natürlicher Weise erlauben und keine aufwendige Rekonfiguration von Sicherheitsmechanismen benötigen.