HCAI bei der IJCAI 2022
Unser wissenschaftlicher Mitarbeiter
Tobias Huber präsentierte auf der International
Joint Conference on Artificial Intelligence (IJCAI) in Wien zwei Beiträge des HCAI Lehrstuhls. Beide Beiträge beschäftigen sich damit, wie man das Verhalten von zunehmend undurchsichtigen KI-Methoden verständlich machen kann.
Der Artikel „
Local and global explanations of agent behavior: Integrating strategy summaries with saliency maps“ vergleicht hierzu lokale Erklärungen, die einzelne Entscheidungen eines Agenten analysieren, mit globalen Erklärungen, welche die übergeordnete Strategie des Agenten beleuchten.
Der im
XAI Workshop präsentierte Artikel „
Alterfactual Explanations – The Relevance of Irrelevance for Explaining AI Systems“ schlägt eine neue Erklärungsmethode vor, die dabei helfen soll irrelevante Informationen für eine bestimmte KI Entscheidung zu identifizieren.