Immer mehr Unternehmen entwickeln KI-Kodizes und auch die Europäische Kommission hat im April 2019 Ethik-Richtlinien für vertrauenswürdige KI veröffentlicht. Dabei stellt sich nicht nur die Frage, wie Unternehmen vorgehen, um diese übergreifenden Grundsätze zu schaffen, sondern auch, was aus dieser statischen Perspektive in Prozesse und Kultur der Unternehmen Eingang und Umsetzung findet. Die sieben Grundsätze des KI-Kodizes der BMW Group beziehen sich auf die Themen „Vorrang menschlichen Handelns“, „Technische Robustheit und Sicherheit“, „Schutz der Privatsphäre und Datenqualitätsmanagement“, „Transparenz“, „Rechenschaftspflicht“, „Gesellschaftliches und ökologisches Wohlergehen“, „Vielfalt, Nichtdiskriminierung und Fairness“. Somit sind sowohl intern als auch extern gerichtete Themen einbezogen worden, die verschiedene Unternehmensbereiche umfassen. Die breite Unternehmensperspektive spiegelt sich auch in dem interdisziplinären Vorgehen wider, das die BMW Group für die Erarbeitung des KI-Kodex gewählt hat. Hintergrund des Ansatzes ist, dass KI-Anwendungen bereits in unterschiedlichen Bereichen des Konzerns eingesetzt werden, nicht nur in der Fahrzeugentwicklung, auch im Gebäudemanagement zur Effizienzregulierung oder im HR-Bereich. Die Implementierung eines KI-Kodizes sollte daher ausdrücklich unternehmensweit erfolgen. Ethik im Bereich Künstlicher Intelligenz wird bei der BMW Group bewusst als Querschnittsthema verstanden.
Vorgehensweise zur Erarbeitung des KI-Kodizes
Die BMW Group sieht sich als Technologieunternehmen, bei dem bereits viele KI-Implementierungen entlang der Wertschöpfungskette existieren. Um den damit verbundenen Anforderungen gerecht zu werden, wurde der KI-Kodex aus dem Project AI heraus entwickelt, das in einem „hub & spoke“-Ansatz organisiert ist: Übergreifende Themen werden zentral orchestriert, auch zu Orientierung und Konsolidierung, aber die eigentlichen Produkte, Prozesse und Themen werden dezentral ausgerollt und dort liegt auch die operative Verantwortung. An erster Stelle stand die Formulierung der Zielsetzung für die äußere Form des KI-Kodizes: Dieser sollte erstens, in einer kompakten, kommunizierbaren Übersicht resultieren, um zweitens, möglichst eine hohe Passung zum Unternehmen sowie den Unternehmenswerten zu haben, damit drittens, MitarbeiterInnen bereichsübergreifend erreicht werden und auf die Bedeutung dieses komplexen Themas hingewiesen werden. Auf dieser Basis wurden ExpertInnen aus verschiedenen Fachbereichen kontaktiert und aufgefordert sich an der Erarbeitung zu beteiligen. Von Anfang an war klar, dass das Thema nur erfolgreich bearbeitet werden könnte, wenn es ganzheitlich und interdisziplinär bearbeitet würde. Schließlich haben sich MitarbeiterInnen aus vielen Bereichen der BMW Group, darunter Entwicklung automatisiertes Fahren, Unternehmensstrategie, Nachhaltigkeit, Data Analytics, Computer Vision, Datensicherheit und der Rechtsabteilung, zusammengeschlossen, um gemeinsam am Thema Ethik für KI zu arbeiten. Auch aus mehreren Vorstandsressorts gibt es Unterstützung. Aktuell wird die Initiative von zwei MitarbeiterInnen geleitet, die im Austausch mit den ExpertInnen der o.g. Unternehmensbereiche sind und mit diesen das Thema gemeinsam weiterentwickeln.
Parallel zu der internen inhaltlichen Auseinandersetzung wurden Positionen zu KI-Ethik in anderen Unternehmen im internationalen Umfeld recherchiert. KI-Ethik darf nicht nur national gedacht werden. Der Blick muss weiter reichen. Neben der Unternehmensperspektive wurden auch Ansätze aus der Wissenschaft und aus dem Public Sector untersucht. Letztlich wurden die sieben „Key Requirements“ aus den Ethik-Leitlinien für eine vertrauenswürdige KI der EU (HLEG AI) als Ausgangsbasis für die Formulierung des KI-Kodizes gewählt. Diese wurden spezifiziert und auf das „Daily Business“ innerhalb der BMW Group angepasst. Für den Rollout des KI-Kodizes waren die vorab formulierten drei Zielstellungen vor allem für die interne Perspektive wichtig. Der interne Rollout erfolgte zuerst, zur Abholung der MitarbeiterInnen. Bei der nachgelagerten, externen Kommunikation war ein weiteres Ziel, ein Zeichen für die politische Kommunikation – auch in Richtung der Regulatoren – zu setzen.
Status Quo KI-Kodex
Der BMW Group Ethik Kodex für KI gilt unternehmensweit, ist zum jetzigen Zeitpunkt jedoch noch nicht verpflichtend. Es findet sukzessive eine Konkretisierung und Weiterentwicklung statt, insbesondere auch mit dem Ziel, die Organisation mit den Inhalten der sieben Grundsätze zu durchdringen. Konkretisierung bedeutet dabei auch, dass die geschriebenen Grundsätze mehr und mehr gelebt werden, etwa durch die Etablierung von Checklisten mit differenzierten Ansätzen für die jeweiligen Anwendungsfälle. So wurde etwa für den Anwendungsfall der Notbremsung beim automatisierten Fahren der Code Schritt für Schritt geprüft und auf konkrete Fragen heruntergebrochen, die bei der Projektdurchführung aufkamen (z.B. ab wann braucht man einen Notknopf und welche Funktion bietet dieser dem Menschen?). Dadurch entstehen Checklisten, die die ethischen Prinzipien für die Entscheidungsfindung bei (ethischen) Grenzfragen aufbereiten und somit greifbar machen. D.h. sie unterstützen die MitarbeiterInnen bei der Konkretisierung des KI-Ethik Kodizes in der Umsetzungsebene. Genau wie die sieben Grundsätze sind solche Checklisten an die Empfehlung der EU angelehnt. Entsprechend der Denkweise des „AI Ethics by Design“ sollen die Checklisten dazu anregen, frühzeitig ethische Anforderungen zu formalisieren. Checklisten bieten somit die Möglichkeit, Leitplanken in Entwicklungsprozessen zu sein – aber nicht an allen Stellen können Checklisten umgesetzt werden. Mittelfristig könnten etwa auch harte „Gates“ etabliert werden, die ein „AI ethics approval“ benötigen. Für 2021 hat sich die BMW Group das Ziel gesetzt, dass eine gewisse Diffusion des Themas im Unternehmen erfolgt und so ein Grundstein für einen ethischen Umgang mit KI gelegt wird.
Warum braucht die BMW Group einen KI-Ethik Kodex?
Zunächst geht es der BMW Group bei der Etablierung des KI-Kodizes um einen verantwortungsvollen, ethischen Umgang mit KI im Unternehmen und folgt damit der Logik der grundlegenden Unternehmenswerte (Verantwortung, Wertschätzung, Transparenz, Vertrauen, Offenheit). Darauf aufbauend soll die Absicherung der Verantwortung systematisiert und personifiziert werden.
Darüber hinaus gehören zu der Umsetzung des KI-Kodizes auch Schulungen zur Awareness-Steigerung bei MitarbeiterInnen. Für die BMW Group ist es zudem wichtig, eine nachvollziehbare Positionierung gegenüber der Politik vorweisen und somit den Diskurs voranbringen zu können. Die Sichtbarkeit nach außen ist ein weiterer Grund für die Einführung des Kodizes. Aus rein interner Sicht hätte es – laut der BMW Group – keine zwingende Notwendigkeit gegeben, da der Wertekanon aus Verantwortung, Wertschätzung, Transparenz, Vertrauen und Offenheit in der Kultur bereits gelebt werde. Die externe Bedeutung spiegelt sich aber auch konkret in Geschäftsbeziehungen wider: So wird von Kunden bereits aktiv gefragt, ob BMW Group sich mit Themen der digitalen Ethik auseinandersetzt – teilweise wird dies als K.o.-Kriterium für den Aufbau bzw. die Weiterführung einer Geschäftsbeziehung gesehen. Die organisations- und lieferkettenübergreifende Bedeutung für digitale Ethik nimmt zu.
Ist der KI-Kodex die Antwort auf alles?
Ganz klar: So sieht das Unternehmen es nicht. Mit dem KI-Kodex wurde eher ein erster Reflexionsprozesses zu einem Zwischenergebnis geführt. Die Formulierung ist ein kaskadierender Prozess. Der Kodex gibt einen Orientierungsrahmen für KI-Anwendungen im Unternehmen mit hoher Bandbreite an Themen: von der Fahrzeugentwicklung bis zu HR-Prozessen. Eine Überregulatorik soll aber bewusst vermieden werden. Im Vordergrund steht die Frage: Wo wird ein neuer Rahmen gebraucht und wo gibt es schon hinreichen Guidance? Denn es ist nicht alles neu, nur weil es jetzt Teil des KI-Kodizes ist. Insbesondere bei Datenschutz-Themen gibt es schon seit langer Zeit formalisierte Prozesse. Parallel stellt sich die Frage, ob ein KI-Kodex nur der Anfang für einen weiterreichenden Prozess in der Auseinandersetzung mit digitaler Unternehmensverantwortung sein kann. Die BMW Group sieht den KI-Kodex als wichtigen Ausgangspunkt und baut darauf auf.
