Projektstufen

Das Ziel unseres von der VolkswagenStiftung geförderten Projektes besteht in der Verbesserung der Mensch-KI-Interaktion im Gesundheitswesen. Hierzu sind drei Projektstufen geplant. Dabei wenden wir unterschiedliche wissenschaftliche Methoden an, um so Erkenntnisse über u. a. die Einstellung gegenüber KI-Technologien und den Umgang mit diesen zu gewinnen. Mit diesem Wissen möchten wir ein nutzer-optimiertes, klinisches KI-Unterstützungssystem entwickeln, das dazu beiträgt, die Arbeitsbelastung von Mediziner*innen zu reduzieren und die Patient*innensicherheit zu erhöhen.

Projektstufe 1

Wie hängt die Einstellung von Mitarbeiter*innen des Gesundheitswesens gegenüber KI mit ihrer Interaktion mit der Technologie zusammen?

Zur Beantwortung dieser Frage planen wir Expert*inneninterviews mit technischen Leiter*innen und führenden Forscher*innen im Bereich medizinischer KIs. In diesen Interviews möchten wir die Verbreitung von KI-basierten Unterstützungssystemen, Schwierigkeiten bei der Implementierung sowie ethische Bedenken erfassen. Des Weiteren planen wir, pflegerisches Personal, Mediziner*innen und technische Assistent*innen zu gemischten Fokusgruppen einzuladen, um den Status Quo ihrer Kenntnisse, Erwartungen, Befürchtungen und ihrer bisherigen Erfahrungen mit KI-Technologien in ihrem Arbeitsalltag näher zu beleuchten.

Wir möchten in Erfahrung bringen, welche psychologischen und umgebungsbedingten Faktoren mit der Wahrnehmung des medizinischen Personals von KI-Algorithmen und ihrem Vertrauen in die Leistung der Technologie zusammenhängen.

Projektstufe 2

Wie beeinflusst die Darstellung einer KI-basierten Empfehlung die Entscheidungsfindung von Mitarbeiter*innen des Gesundheitswesens?

Mittels einer Reihe von Experimenten wollen wir untersuchen, wie die Darstellung der Empfehlung einer KI die Diagnoseentscheidung von medizinischem Personal beeinflusst. Unser Ziel ist es, Komponenten einer optimierten KI-basierten Systemoberfläche zu identifizieren, die Ärzt*innen in ihrer Arbeit unterstützt, um so die Diagnosegenauigkeit und Patient*innensicherheit zu maximieren.

Durch die unterschiedliche Gestaltung der KI-Empfehlung, z. B. durch variierte graphische Darstellung, wollen wir untersuchen, welche Faktoren zu einem optimalen Einsatz des Systems führen.

Projektstufe 3

Kann ein nutzer-optimiertes KI-basiertes Unterstützungssystem medizinische Fehler reduzieren und die Patient*innensicherheit erhöhen?

In der finalen Phase des Forschungsprojekts wird auf Basis der Erkenntnisse aus Projektstufe 1 und 2 ein KI-basiertes, klinisches Unterstützungssystem mit einer nutzer*innenoptimierten Benutzer*innenoberfläche entwickelt. In einer klinischen Studie werden Mediziner*innen die Diagnostik mit oder ohne das Unterstützungssystem ausüben. So wollen wir untersuchen, ob eine nutzer*innenoptimierte KI-Empfehlung tatsächlich klinische Ergebnisse wie Diagnosegenauigkeit und wahrgenommene Arbeitsbelastung verbessert.