Konsortialführung:           Prof. Dr. Martin Leucker
Geschäftsstelle:           Dr.-Ing. Tim Suthau

Die Geschäftsstelle des Konsortiums ist die zentrale Anlaufstelle für Unternehmen, Partner und Vertreter aus dem Netzwerk und begleitet die Verzahnung der Projekte mit den Plattformmodulen. Die Geschäftsstelle verantwortet die Qualitätssicherung und die Öffentlichkeitsarbeit von KI-SIGS. Auch gegenüber dem Fördergeber und dem Projektträger ist die Geschäftsstelle der zentrale Ansprechpartner. In der Geschäftsstelle ist die operative Projektleitung angesiedelt.

Ansprechperson: Prof. Dr. Christoph Lüth

Die Kollaborationsplattform vernetzt zum einen die Teilnehmer untereinander und stellt darüber hinaus den KI-Space nach außen dar.

Ansprechperson: Prof. Dr. med. Björn Bergh

Ziel der technischen Plattform ist es KI-Lösungen für verschiedene Stakeholder im Gesundheitsbereich zur Verfügung zu stellen, hierbei liegt der Fokus auf der Wiederverwendbarkeit des KI-Moduls. Die Entwicklung der technischen Infrastruktur erfolgt unter Berücksichtigung geltender Datenschutzaspekte sowie dem Stand der Technik entsprechender Risikokontrollmaßnahmen bzgl. einer sicheren Verwendung in klinischen Applikationen.

Ansprechperson: Prof. Dr. Martin Leucker

In der regulatorischen Plattform werden die Anwendungsentwicklungen der Einzelprojekte über den gesamten Entwicklungszyklus begleitet und hinsichtlich ihrer Zulassungsfähigkeit optimiert und strukturiert. Es entsteht dabei eine „Zulassungsguidance“ für verschiedenartige KI Anwendungen und Szenarien.

Die regulatorischen Anforderungen an adaptive KI-basierte Medizinsysteme sind derzeit unvollständig oder es fehlt eine breitere Umsetzungserfahrung. Mithilfe der Regulatorischen Plattform sollen vorhandene Leerstellen und Unsicherheiten identifiziert und entsprechende Handlungsempfehlungen oder Lösungen entwickelt werden.

Ansprechperson: Prof. Dr.-Ing. Christian Herzog, M.A.

Die Responsible Innovation Plattform steht für eine frühzeitige, partizipative und iterative Analyse ethischer, rechtlicher und sozialer Aspekte (ELSA) während der Entwicklung vertrauenswürdiger KI. afür wird synergetisch auf drei Ebenen kooperiert, geforscht und konstruktiv gearbeitet:

i. Strategische Integration von ELSA mit dem Responsibility-by-Design Standard (CEN CWA 17796:2021), 

ii. Operative Adressierung von ELSA im Projekt,

iii. Subsidiäre Bereitstellung von Hilfsmitteln für die eigenständige sozio-ethische Analyse durch Entwickler*innen.

Strategische Integration von ELSA:

Im Zuge der strategischen Integration der Berücksichtigung von ELSA werden in ausgewählten Anwendungsprojekten Roadmaps erarbeitet, die Handlungsoptionen und Maßnahmen beinhalten, um ethische Herausforderungen proaktiv zu adressieren. 

Die Auswertung des Prozesses zeigt, dass die Methodenwahl und Prozessgestaltung effektiv und effizient für die kollaborative sozio-ethische Kontextanalyse ist. Verbesserungspotenzial zeigt sich in der Zuordnung von Verantwortlichkeiten zur Stärkung des Impacts. Herausforderungen bei der Kontinuität sind im translationalen Kontext besonders prägnant. Dies unterstreicht die Notwendigkeit, ELSA auch im Kontext eines Innovationsökosystems zu denken und zu addressieren.

Operative Adressierung von ELSA:

Die Implementierung von ELSA auf operativer Ebene bedarf einer projekt-spezifischen Ausgestaltung, da jedes Technik-Entwicklungsprojekt spezifische sozio-ethische Implikationen und Entwicklungskontexte aufweisen kann. Am Beispiel des Themas „Bias“ werden z.B. potenzielle Quellen von Biases, deren Dokumentation und Evaluation explorativ erforscht. Diese Erkenntnisse sollen ermöglichen, dass der KI-Algorithmus keinen vorurteilbehafteten Output generiert. Damit kann diese Forschung zur Vertrauenswürdigkeit der Lösung beitragen, da eine bessere Interpretierbarkeit der Ergebnisse ermöglicht wird. 

Subsidiäre Unterstützung:

Zusätzlich engagiert sich die Responsible Innovation Plattform im Sinne der synergetischen Nutzung und Dissemination von Methoden und Inhalten zur ethischen Reflexion von KI im Gesundheitswesen. Die Methoden berücksichtigen dabei vielfältige Rahmenbedingungen, um verantwortungsvolle Innovation und ethische Reflexion in den industriellen Innovationsprozess zu integrieren.

Ansprechperson: Prof. Dr. Christoph Lüth

Koordination der verschiedenen Aspekte der Plattform (AP 210-240) und Vernetzung mit den A&I-Projekten (AP 300-390); Moderation des agilen Vorgehensmodells bei der Entwicklung der Plattform.