Governance und rechtlicher Rahmen für das Management von künstlicher Intelligenz

Künstliche Intelligenz kann die Entscheidungsfindung in Unternehmen und Organisationen neu definieren. So kann sie unter anderem Vorteile schöpfen aus den umfangreichen Daten, etwa über Mitbewerber und Kunden. Jedoch wächst die Besorgnis, dass die Fairness und Transparenz von KI begrenzt ist: KI neigt dazu, bestehende Verzerrungen in den Daten zu reproduzieren und somit implizit diskriminierende Vorhersagen zu machen. Diese Begrenzungen behindern die weit verbreitete Anwendung von KI.

Ziel dieses Projekts war es, rechtliche und ordnungspolitische Rahmenbedingungen zu entwickeln, die einerseits die Entwicklung und Nutzung von KI mit Gleichheitsprinzipien als Kern der Technologie gewährleisten und andererseits sicherstellen, dass die Verantwortung für die Technologie durchgehend und konsistent gewährleistet wird. Der interdisziplinäre Ansatz des Projektteams unter der Leitung von Klaus Möller umfasste IT, Management und Recht.

Zu Beginn des Forschungsprojektes im Jahr 2020 gab es in der Schweiz mehr KI-Unternehmen pro Bürger als in jedem anderen Land. KI «Made in Switzerland» war geprägt von den Prinzipien der Demokratie und Fairness, die dem gesellschaftlichen Kontext der Schweiz innewohnen. Sie stellte somit einen einzigartigen Wettbewerbsvorteil für die Schweiz dar.

Das Projektteam analysierte geltende Gesetze und entwickelte regulatorische Rahmenbedingungen, die die Rechte von Einzelpersonen und Unternehmen schützen und gleichzeitig die Entwicklung sowie den Einsatz von KI ermöglichen. Sie untersuchten die Mechanismen, die das Vertrauen in die KI fördern und entwarfen einen Managementrahmen, der die Steuerung von KI in Organisationen gewährleistet. Darauf aufbauend entwickelten die Forschenden Gestaltungsprinzipien die Fairness, Rechenschaftspflicht und Transparenz der KI inhärent gewährleisten.

Die Forschung zur Nutzbarkeit und Effizienz fairer Algorithmen wurde vorangetrieben und die Bereitschaft (und Grenzen) des Einsatzes im öffentlichen Raum aufgezeigt. Ausserdem entwickelten die Forschenden Empfehlungen rund um die Steuerung und Governance von KI für Organisationen. Für Führungskräfte und Verwaltungspersonal wurden verschiedene Tools und Leitlinien entwickelt, um sie bei der Entscheidungsfindung in Bezug auf den Einsatz von Technologien für automatisierte Entscheidungen zu unterstützen.

Drei Hauptbotschaften

1. Die Integration von Fairness in KI verbessert die Wahrnehmung von KI durch die Stakeholder.
2. Um das Vertrauen in KI zu stärken, sind sowohl technische (faire KI) als auch gesellschaftliche Massnahmen erforderlich (Governance, Regulierung, Zieltransparenz).
3. Stakeholder nehmen Fairness unterschiedlich wahr, je nachdem, ob ein Mensch oder eine KI die Entscheidungen trifft.

Governance and legal framework for managing artificial intelligence (AI).