Das Institut für Medizinische Informatik auf dem KonKIS24
Am 18. und 19. September 2024 versammelten sich in Göttingen führende Expert*innen und Akteur*innen zur Konferenz der deutschen KI-Servicezentren (KonKIS 24). Diese Veranstaltung, die im Rahmen der Regierungsinitiative „KI made in Germany“ stattfand, bot eine spannende Plattform für den Austausch über die aktuellen Entwicklungen und Zukunftsperspektiven der Künstlichen Intelligenz in Deutschland. Die vier KI-Servicezentren – KISKKI für Medizin und Energie, das Hessische KI, West-AI sowie das KI-Servicezentrum Berlin Brandenburg – stellten dabei ihre jeweiligen Schwerpunkte vor. Das vielfältige Programm reichte von Podiumsdiskussionen und interaktiven Demonstrationen bis hin zu wissenschaftlichen Sitzungen, die tiefere Einblicke in die Fortschritte der KI-Forschung ermöglichten.
Die Podiumsdiskussion „KI-Einsatz im Gesundheitswesen: aktuelle technische, rechtliche und ethische Entwicklungen (AI Act), Herausforderungen und Chancen“, moderiert von Prof. Dr. Dagmar Krefting (Direktorin des Instituts für Medizinische Informatik), brachte hochkarätige Expert*innen zusammen. Zu den prominenten Teilnehmer*innen zählten Dr. Larisa Wewetzer (Ottobock), Dr. Malte Schmieding (Bundesgesundheitsministerium), PD Dr. Jana Zschüntzsch (Universitätsmedizin Göttingen, Arbeitsgruppe Neuromuskuläre Erkrankungen), Dr. Udo Schneider (Versorgungsmanagement bei der Techniker Krankenkasse) und Prof. Dr. Helena Zacharias (Medizinische Hochschule Hannover). In der Diskussion wurden sowohl aktuelle Anwendungsfälle als auch Herausforderungen und Chancen des Einsatzes von KI im Gesundheitswesen beleuchtet. Ein beeindruckendes Beispiel zeigte, wie Ottobock KI-Modelle mit Patientendaten erstellt, die sich durch die Nutzung neuer Patient*innen kontinuierlich verbessern – stets unter strikter Einhaltung länderspezifischer Vorschriften. Ein weiteres zentrales Thema war, dass künftig alle vom Gesundheitsministerium geförderten Forschungsprojekte ihre Daten so aufbereiten sollten, dass sie sowohl primär als auch sekundär für die Entwicklung von KI-Lösungen genutzt werden können – eine bislang oft vernachlässigte Komponente. Allgemein bestand Einigkeit darüber, dass verstärkte Investitionen in die Infrastruktur und Digitalisierung notwendig sind, um die Forschung und Entwicklung von KI-Anwendungen voranzutreiben. Die Gründung der KI-Servicezentren wurde als ein wichtiger Schritt betrachtet, um die KI-Entwicklung in Deutschland besser zu koordinieren und zu einer gemeinsamen, landesweiten Initiative zu machen.
In der Sitzung „AI Applications in Clinical Practice: Challenges and Successes“, organisiert von Prof. Dr. Anne-Christin Hauschild (Leitung der Forschungsgruppe Klinische Entscheidungsunterstützung am Institut für Medizinische Informatik), Dr. Nicolai Spicher (Leitung der Arbeitsgruppe Biosignalverarbeitung am Institut für Medizinische Informatik) und Dr. Zully Ritter (Forschungsgruppe Klinische Entscheidungsunterstützung), eröffnete Michael Dietrich vom DFKI (Deutsches Forschungszentrum für Künstliche Intelligenz) Berlin mit einer inspirierenden Keynote. Er zeigte anhand realer Beispiele die Chancen und Risiken von KI in der Medizin auf. Im Anschluss folgten vier Vorträge, die unterschiedliche Ansätze beleuchteten: von Vorhersagemodellen für Herzinsuffizienz durch Wearables (Hempel P. et al.), über neue Methoden wie Forward-Forward-Ausbreitung (Scodellaro R. et al.) bis hin zu KI-gestützten Mentalmodellen für die Knierehabilitation (Janzen S. et al.). Ein besonders wichtiger Punkt wurde im Vortrag von Stefan Schrod (Institut für Medizinische Bioinformatik, Universitätsmedizin Göttingen angesprochen, der sich mit der Minderung von Datenschutzproblemen bei der Implementierung von KI-Modellen in klinischen Umgebungen beschäftigte. Es wurde deutlich, dass neben der technischen Umsetzung auch Aspekte wie die Datenverfügbarkeit, der Datenschutz und die Akzeptanz durch Patient*innen eine zentrale Rolle spielen. Beispiele aus der klinischen Praxis verdeutlichten, dass Tests sowohl auf technischer Ebene als auch unter Einbeziehung der Nutzer*innen – einschließlich der Patient*innen – entscheidend für den Erfolg neuer KI-Lösungen und von grundlegender Bedeutung sind.
Ein von Prof. Dr. Anne-Christin Hauschild, Dr. Zully Ritter und Miriam Maurer organisierter Workshop zum Thema „Explainable AI in Clinical Decision Support Systems“ brachte Teilnehmer*innen aus Wissenschaft, Industrie sowie Studierende zusammen. Der Workshop bestand aus einem Theorie- und einem Praxisteil. Der Theorieteil umfasste eine Einführung in XAI (Erklärbare Künstliche Intelligenz), seine Methoden, Taxonomie, empfohlene XAI-Post-hoc-Methoden entsprechend der Forschungsfrage (gesammelte oder verfügbare Daten) und aktuelle kommerzielle XAI-Lösungen für maschinelles Lernen und Deep Learning. Zwei Praxisübungen umfassten das Verständnis und die Anwendung von XAI auf tabellarische klinische Daten (Herzinsuffizienz) und Zeitreihendaten (EKG). Eine Diskussion über Empfehlungen zur Verwendung in der Praxis schloss den Workshop ab. Es ist bereits weithin bekannt, dass XAI erforderlich ist, um das Vertrauen in KI-Lösungen im Gesundheitswesen, insbesondere bei medizinischem Personal und Patient*innen, zu erhöhen.
XAI macht nachvollziehbar, wie und warum ein Modell bestimmte Daten zur Vorhersage verwendet, beispielsweise durch Visualisierungen oder Quantifizierungen. Da das KI-Gesetz die Integration von XAI in die Entwicklung und Vermarktung von KI-Lösungen ausdrücklich fordert, verdeutlichte der Workshop, wie wichtig es ist, solche praxisnahen Schulungen breit zugänglich und erschwinglich zu machen, um die notwendigen Fähigkeiten flächendeckend zu fördern.
