Use Case Wirtschaft

Zentrales Erkenntnisziel des Use Case Wirtschaft ist es in der zweiten Förderphase, die Gestaltung der Mensch-Maschine-Interaktion beim Einsatz von KI in der Unternehmenssteuerung besser zu verstehen. Konkret geht es vor allem um das häufig beobachtete Preparer-User-Gap, also die Lücke zwischen der Bereitstellung von KI als entscheidungsunterstützende Informationstechnologie in Unternehmen und ihrer tatsächlichen Nutzung. Bis heute fehlen abgesicherte empirische Erkenntnisse, warum KI oft entweder nicht im vollen Umfang ihrer Möglichkeiten genutzt wird oder aber KI-basierte Ergebnisse unreflektiert und deshalb nicht sachgerecht übernommen werden. Bei der Beantwortung dieser Fragen knüpft der Use Case mit den Teilprojekten Financial Governance and Compliance sowie Social Governance and Compliance direkt an die erste Förderphase an.

Vertrauen in KI als Voraussetzung für ihre Nutzung

In Unternehmen wird KI wird zunehmend auch für die Fundierung komplexer betriebswirtschaftlicher Entscheidungen eingesetzt, wie beispielsweise bei der Erstellung möglichst aussagekräftiger Umsatz- und Ergebnisprognosen, bei der Einschätzung von ökonomischen Risiken und Chancen, bei der Auswahl und Leistungsbeurteilung von Beschäftigten, oder bei der Antizipation bzw. Aufdeckung von Fehlern und Unrichtigkeiten. Damit die KI-basierten Informationen aber tatsächlich entscheidungsrelevant werden bzw. in konkrete Handlungsimpulse umgesetzt werden, ist Vertrauen in deren sachliche Richtigkeit und Angemessenheit in Verbindung mit kritischer Reflexionsfähigkeit wesentliche Voraussetzung.

Schon während der ersten Projektphase zeigten beispielsweise die Forschungsergebnisse im Use Case Wirtschaft ebenso wie der Austausch mit der Unternehmenspraxis z.B. im Rahmen der von der Forschungsgruppe durchgeführten AI Conference 2020, wie bedeutsam und gleichzeitig wenig erforscht die Frage nach dem Vertrauen in KI als Vorbedingung für deren Akzeptanz und Einsatz in Unternehmen ist. Um diese Forschungslücke so umfänglich wie möglich zu adressieren, wird die Forschung in den beiden Teilprojekten Financial Governance and Compliance und Social Governance and Compliance im Use Case durch zwei Querschnittsthemen verknüpft, in denen die damit verbundene Fragen sowohl aus verhaltenstheoretischer, als auch aus neuroökonomischer Perspektive komplementär untersucht werden.

Wie wird KI glaubwürdig?

Die Vorarbeiten aus der ersten Förderphase haben gezeigt, dass Verständlichkeit, Nachvollziehbarkeit und Erklärbarkeit von KI-basierten Informationen eine wichtige Rolle im Hinblick auf deren Akzeptanz spielen können. Ansatzpunkt für die Forschungsarbeiten der zweiten Förderphase sind deshalb aktuelle technische Weiterentwicklungen von KI wie beispielsweise „Explainable AI“ in ihren konkreten Auswirkungen zu untersuchen, um anwendungsorientierte Handlungsempfehlungen für eine zielführende Ausgestaltung der Mensch-Maschine-Interaktion in Unternehmen zu geben.