ACM SIGKDD & Annual KDD Conference 2024 in Barcelona
Das Institut für Medizinische Informatik der Universitätsmedizin Göttingen hat kürzlich ein “lecture-style Tutorial” zum Thema „Explainable AI (XAI) on Biosignals for Clinical Decision Support“ auf der ACM SIGKDD & Annual KDD Conference 2024 in Barcelona gehalten. Dieser dreistündige Workshop ist in Zusammenarbeit zweier Forschungsgruppen des Instituts entstanden: der Arbeitsgruppe Biosignalverarbeitung unter der Leitung von Dr. Nicolai Spicher und der Arbeitsgruppe Klinische Entscheidungsunterstützung unter der Leitung von Prof. Anne-Christin Hauschild. Unterstützt wurden sie von Philip Zaschke, Miriam Cindy Maurer und Philip Hempel vor Ort und Jacqueline Michelle Metsch remote.
Der Workshop zog 33 Teilnehmer aus der breiteren KI- und Data-Mining-Community an und konzentrierte sich auf die kritische Rolle der Erklärbarkeit in KI-Modellen, die auf Biosignale wie EKG und EEG angewendet werden. Das Hauptziel bestand darin, zu verdeutlichen, wie wichtig transparente und interpretierbare KI-Systeme für ihre erfolgreiche Integration in die klinische Praxis sind. Dies ist besonders wichtig bei medizinischen Anwendungen, In denen das Vertrauen in KI-gesteuerte Entscheidungen direkte Auswirkungen auf die Patientenversorgung haben kann.
Dieser Austausch zwischen den Bereichen Medizinische Informatik und Informatik ist für beide Seiten vorteilhaft. Während unsere Expertise in der Anwendung von KI im medizinischen Bereich liegt, erweitert die Zusammenarbeit mit Datenwissenschaftlern und KI-Forschern aus anderen Fachbereichen unseren Horizont. Für die KI- und Data-Mining-Community kann das Verständnis der einzigartigen Herausforderungen und des risikoreichen Umfelds des Gesundheitswesens zu robusteren und anpassungsfähigeren KI-Systemen auch für andere Anwendungszwecke führen. Umgekehrt profitiert der medizinische Bereich von den innovativen Techniken und Erkenntnissen, die die Informatik einbringt.
Für diejenigen, die sich den Inhalt des Tutorials anschauen möchten, haben wir die Folien und Jupyter-Notebooks online verfügbar gemacht. Darüber hinaus ist unser den Workshop begleitendes 7-seitiges Survey Paper „Explainable AI on Biosignals for Clinical Decision Support“ publiziert und frei verfügbar.
Jupyter Notebook: https://jacquelinebeinecke.github.io/xai-biosignal-cdss/
Survey Paper: https://doi.org/10.1145/3637528.3671459
Mit diesem Tutorial und unserer laufenden Forschung schlagen wir weiterhin eine Brücke zwischen KI und Gesundheitswesen und fördern einen interdisziplinären Ansatz, der beide Bereiche verbessert und letztendlich zur Entwicklung von KI-Systemen beiträgt, die effektiv, transparent und vertrauenswürdig sind.
Links:
https://pad.gwdg.de/Ns1L9QB1QeavXE7TKv37tQ (for English version and more photos)