Interview: Künstliche Intelligenz und Ethik im digitalen Zeitalter - All Eyes on Trust

Ethik in Bezug auf Digitalisierung und Technologien ist derzeit in aller Munde. Handelt es sich nur um einen Trend oder steckt mehr dahinter?

Angelika Pauer: Es ist längst kein Geheimnis mehr, dass nicht nur finanzielle Faktoren zum wirtschaftlichen Erfolg eines Unternehmens beitragen. Im Rahmen der Nachhaltigkeitsdiskussion engagierten sich Unternehmen verstärkt für soziale und ökologische Belange, im digitalen Zeitalter kommen nun weitere Aspekte hinzu, daher sprechen wir auch von Corporate Digital Responsibility. Nicht nur die Technologien verändern sich, sondern auch die Bedürfnisse der Gesellschaft und damit die Verantwortung von Unternehmen. Die Menschen wollen wissen, was mit ihren Daten geschieht, sie teilen Informationen mit Umsicht und sorgen sich um die Zukunft ihres Arbeitsplatzes.

Hendrik Reese: Da wir momentan viele Kompetenzen an Maschinen übertragen, die früher Menschen inne hatten, haben wir natürlich ein Bedürfnis, dass sehr sensible Entscheidungen auch weiterhin ethisch nach unserem Werteverständnis getroffen werden. Da die Anzahl solcher ethisch “aufgeladener” Entscheidungen durch Maschinen eher steigen wird, handelt es sich hierbei nicht nur um einen Trend. Es ist vielmehr Basis, auf der KI-Systeme in Zukunft Entscheidungen treffen sollen.

Künstliche Intelligenz entwickelt sich zu einem Kernthema auf der Digitalisierungsagenda vieler Unternehmen. Welche zusätzlichen Herausforderungen ergeben sich daraus?

Hendrik Reese: Da gibt es einige Beispiele. Nehmen wir mal Bewerbermanagementsysteme. Eine Herausforderung ist in diesem Kontext beispielsweise die faire Verteilung von Bewerberinnen und Bewerbern auf Arbeitsplätze, also Fairness im Allgemeinen, kurzum: eine KI, die nicht diskriminiert. In Anschluss daran formiert sich aber auch die Frage nach der Erklärbarkeit solcher Systeme: Warum wurde eine bestimmte Person abgelehnt? Würde die gleiche Person abgelehnt, wenn ein Merkmal ausgetauscht würde, das keine Rolle spielen darf? Aber natürlich auch die Frage, wie robust ein solches System gegen neuartige und manipulative Angriffe sein muss. Dies sind einige der Herausforderungen, denen wir uns stellen müssen, wenn wir eine allgemein akzeptierte KI entwickeln wollen.

Nachhaltigkeit und soziale Aspekte sind im Unternehmenskontext bekannt. Was verbirgt sich hinter dem Begriff digitale Ethik?

Angelika Pauer: Sie übersetzt bestehende ethische Maßstäbe für eine digital geprägte Gesellschaft. Mit steigendem Digitalisierungsgrad wird digitale Ethik als Kompass und Basis für Entscheidungen essentiell. Denn nicht alles, was legal ist, ist auch ethisch vertretbar. Unternehmen müssen sich also ein Rahmenwerk geben, um verantwortungsvoll mit Digitalisierungsthemen umgehen zu können.

Vertrauen ist die Basis für erfolgreichen Einsatz neuer Technologien. Wie kann PwC dazu beitragen, Vertrauen beispielsweise in künstlich “intelligente” Systeme zu schaffen?

Hendrik Reese: PwC leistet momentan entlang unseres Purpose “to build trust in society” sowohl medial durch aufklärende Videos, die konkrete Fragen zu KI-Systemen beantworten, als auch strategisch durch die Entwicklung von Prüfkatalogen hin zu einer vertrauenswürdigen KI sehr breit gefächert seinen Beitrag. Dabei ist es PwC wichtig, zu betonen, dass die KI-Systeme nur dann als vertrauensvoll eingestuft werden können, wenn die Entwicklung, Ausrichtung und Betrieb der Systeme nach klaren und kontrollierbaren Methoden funktioniert. Die gewissenhafte Prüfung durch anerkannte Institutionen spielt hierbei eine bedeutende Rolle.

Corporate Digital Responsibility sollte in der Digitalstrategie eine zentrale Rolle spielen. Welche Kernaspekte gehören für Sie dazu?

Angelika Pauer: Ganz wichtig ist natürlich der Daten Aspekt. Daten sind zum einen ein wichtiger Treiber der Digitalisierung, zum anderen hat das Thema durch die Einführung der EU-Datenschutz-Grundverordnung im Jahr 2018 viel Aufmerksamkeit erhalten. Der ethische Umgang mit Daten, also Data Ethics, ist jedoch mehr als die Einhaltung der rechtlichen Rahmenbedingungen. Aber es geht auch um die schwerer greifbaren Auswirkungen des technologischen Fortschritts. Passen Unternehmen in Folge der Digitalisierung ihre Prozesse oder Arbeitsplätze an, bedeutet das möglicherweise große Veränderungen für die Mitarbeiter, die durch Weiterbildungsmaßnahmen begleitet werden sollten. Das Wichtigste an diesen Überlegungen ist, dass der Mensch nicht ins Abseits gerät, sondern im Mittelpunkt bleibt.

Die Definition einer Digitalstrategie treibt derzeit viele Unternehmen um. Wann ist der richtige Zeitpunkt sich mit digitaler Ethik zu beschäftigen?

Angelika Pauer: Wir empfehlen Unternehmen, schnell aktiv zu werden. Heute können sie das Thema noch mitgestalten und Aspekte von Beginn an in den eigenen Digitalisierungsprozess integrieren. Hilfreich für die Operationalisierung ist es, vorhandene Strukturen zu nutzen, die etwa für das Thema Corporate Social Responsibility aufgebaut wurden. Es ist wichtig, dass die digitale Transformation nicht bei der Technologieentwicklung endet, sondern auch entsprechend die Prozesse angepasst werden. So schaffen Unternehmen Vertrauen und fördern die Akzeptanz zukünftiger Entwicklungen.

Die Ethik disruptiver Technologien wird gerade im Bereich KI sehr kontrovers diskutiert. Welche Bedenken sind typisch und wie kann man ihnen begegnen?

Hendrik Reese: Ein klassisches Bedenken bei solchen Technologien ist, dass sie nicht nur die Bereiche ändern, für die sie entwickelt wurden (soziale Praktiken, wirtschaftliche Segmente etc.), sondern auch Dinge ändern, die nicht abschätzbar sind bzw. “das Leben” verändern. Eine unserer Strategien ist dabei beispielsweise, dass wir in unseren Prüfkatalogen für KI sehr genau festlegen, wie Daten verwendet werden müssen, um ungewollte Ergebnisse durch Lernprozesse in KI Systemen zu vermeiden. Es geht bei der Ethik disruptiver Technologien vor allem um ein erweitertes Vorsorgeprinzip, um einen Missbrauch der Innovation zu verhindern.

Die ethische Betrachtung der Digitalisierung wird teilweise als Innovationsbremse betrachtet. Wie stehen Sie dazu? 

Angelika Pauer: Digitale Ethik ist vielmehr ein Schlüsselfaktor für den Erfolg der Digitalisierung und die Akzeptanz der damit einhergehenden Technologien. Wenn Unternehmen die Digitalisierung nicht verantwortungsvoll angehen, laufen sie Gefahr, Kunden, hochqualifizierte Mitarbeiter und Marktanteile zu verlieren. Mit einer Corporate Digital Responsibility Strategie können Unternehmen einen ganzheitlichen verantwortungsbewussten Ansatz implementieren und ethisches Verhalten auf allen Ebenen verankern. Sie schaffen somit einen Mehrwert für alle Stakeholder ohne dabei ihre Innovationsfähigkeit einzuschränken.

Hendrik Reese: Die Digitalisierung ist eine Fortführung und Erweiterung unserer Interessen durch neue Technologien - auch im globalen Wettbewerb. Natürlich ändern sich durch einen technologischen Fortschritt nicht automatisch unsere ethischen Überzeugungen. Daher ist ein Hineintragen unserer Moralvorstellungen in die Digitalisierung der einzig gangbare Weg, weil nur so der Wertschöpfung in den Unternehmen nach wie vor Vertrauen geschenkt werden kann. Das ist langfristig für jedes Unternehmen ein klarer Vorteil, weil Entwicklung auf bekanntem moralischen Fundament nun mit neuen Möglichkeiten geschehen kann.