Gegen blinde Flecken

Datenbasierte Projekte und Künstliche Intelligenz (KI) eröffnen Unternehmen enorme Chancen, bergen aber auch komplexe Risiken. Werden bei der Umsetzung ethische Aspekte, rechtliche Anforderungen oder negative gesellschaftliche Konsequenzen übersehen, drohen Reputationsschäden und Haftungsrisiken. Eine neue Studie der FH Graubünden zeigt, dass rund zwei Drittel der verantwortlichen Mitarbeitenden sogenannte «blinde Flecken» aufweisen. Das heisst, dass sie ethische, rechtliche und soziale Risiken gar nicht erst erkennen. In der Praxis stellt dies viele Unternehmen vor grosse Herausforderungen.

KI als digitaler Sparringspartner

Die Forschenden haben ein KI-basiertes, interaktives Dialogsystem entwickelt, das Mitarbeitende in Unternehmen bei schwierigen Entscheidungen unterstützt. Es fungiert dabei als digitaler Sparringspartner zur Bewertung ethischer, rechtlicher und sozialer Risiken. Anstatt sich durch dicke Regelwerke zu arbeiten, beschreiben die Mitarbeitenden ihr Vorhaben in einem Chat. Eine speziell für diesen Zweck optimierte generative KI analysiert die Pläne in Echtzeit und stellt gezielte Rückfragen. Diese Rückfragen sind darauf ausgerichtet, die «blinden Flecken» aufzudecken, die im hektischen Unternehmensalltag oft übersehen werden. So entsteht ein dynamischer Dialog, der den Blick für die möglichen ethischen, rechtlichen und sozialen Folgen datenbasierter Projekte schärft.

Der entscheidende Punkt: Die KI trifft keine eigenen Entscheidungen. Sie dient lediglich als fundierte Analysehilfe. «Unternehmen benötigen praxistaugliche Unterstützung in komplexen Entscheidungssituationen», erklärt Projektleiter Prof. Dr. Christian Hauser. «Unser System stärkt die Entscheidungsqualität der Mitarbeitenden, wobei die Verantwortung klar bei den handelnden Personen bleibt.»

Erfolgreiche Zusammenarbeit in der Praxis

Das System ist das Ergebnis eines von der Schweizerischen Agentur für Innovationsförderung Innosuisse geförderten Projekts, das von der FH Graubünden und der Universität Zürich in enger Zusammenarbeit mit vier Schweizer Unternehmen durchgeführt wurde. Im Rahmen der Studie wurden rund 1'100 Personen befragt, die in Unternehmen an datenbezogenen Entscheidungen oder deren Umsetzung beteiligt sind. Das Handbuch, in dem das Dialogsystem detailliert beschrieben wird, steht nun allen interessierten Unternehmen zur Verfügung, um die verantwortungsvolle Digitalisierung in der Schweiz breitenwirksam zu fördern.

Bei PostFinance, einem der vier Partnerunternehmen, hat das Dialogsystem eine technische Testphase durchlaufen und wurde in die bestehende IT-Infrastruktur integriert. Dabei wurden insbesondere Qualität und Abdeckung der generierten ethikbezogenen Rückfragen systematisch evaluiert und als geeignet befunden. «Auf dieser Grundlage ist vorgesehen, das System in einem nächsten Schritt in Projekten der Compliance- und Data-Governance-Bewertung einzusetzen», sagt Yihan Deng, Staff Data Scientist von PostFinance, zum Stand der Arbeiten.

Breite Kompetenz

Das Schweizerische Institut für Entrepreneurship der FH Graubünden orientiert sich thematisch an aktuellen Herausforderungen der Praxis. Es erforscht etwa Fragestellungen zur digitalen Transformation, Servicerobotik, Innovation und Design Thinking, Internationalisierung und Supply Chain wie auch Corporate Responsibility. Es geht dabei um Strategien für Produkte und Leistungen sowie neue Geschäftsmodelle aber auch um organisatorische Fragen, welche sich aufgrund der Digitalisierung und Vernetzung eröffnen. Zudem beschäftigt sich das Institut mit der Frage, wie Unternehmen und Organisationen Transparenz, nachhaltige Entwicklung und unternehmerische Verantwortung in ihrer Unternehmensphilosophie verankern können.

Weitere Details

• Mehr zum Projekt und Download des Handbuchs: fhgr.ch/ai-ethics