Gouvernance et cadre juridique pour la gestion de l'intelligence artificielle

L'intelligence artificielle est en mesure de redéfinir la prise de décision dans les entreprises et les organisations. Elle peut notamment tirer parti des nombreuses données concernant, par exemple, les concurrents et les clients. Cependant, on s’inquiète de plus en plus des limites de l’équité et de la transparence de l’IA, car elle tend à reproduire les distorsions existantes dans les données et donc à faire implicitement des prédictions discriminatoires. Ces limitations entravent l'utilisation généralisée de l'IA.

L’objectif de ce projet était de développer un cadre juridique et réglementaire garantissant d'une part un développement et une utilisation de l'IA basée sur des principes d'égalité, et d'autre part une responsabilité pérenne et cohérente face à cette technologie. L’approche interdisciplinaire du groupe de recherche a fait appel à l'informatique, la gestion et le droit.

Au début du projet de recherche, en 2020, la Suisse comptait plus d’entreprises d’intelligence artificielle par habitant que tout autre pays. L’IA « made in Switzerland » se caractérisait par des principes de démocratie et d'équité inhérents au contexte social helvétique. Cette technologie représentait donc pour la Suisse un avantage concurrentiel hors pair.

Les chercheurs ont analysé les lois existantes et ont développé des cadres réglementaires protégeant les droits des individus et des entreprises, tout en permettant le développement et l'utilisation de l'IA.

Ils ont examiné les mécanismes favorisant la confiance en l'IA et ont conçu un cadre de gestion assurant la gouvernance de l'IA au sein des organisations.

Sur cette base, ils ont élaboré des principes de conception garantissant de manière inhérente l'équité, l’obligation de rendre compte et la transparence de l'IA.

Les recherches sur la faisabilité et l'efficacité des algorithmes équitables ont été approfondies, et la volonté (ainsi que les limites) de leur utilisation dans l'espace public a été mise en évidence. En outre, les chercheurs ont élaboré des recommandations concernant la gestion et la gouvernance de l’IA pour les organisations. Divers outils et lignes directrices ont été développés à l’intention des cadres et du personnel administratif afin de les accompagner dans leurs décisions relatives à l’utilisation de technologies de prise de décision automatisée.

Trois messages principaux

1. Le fait d’intégrer la notion d’équité à l’IA améliore la perception de l’IA par les parties prenantes.
2. Il convient d’adopter des mesures à la fois techniques (IA équitable) et sociétales (gouvernance, régulation, transparence des objectifs) pour accroître la confiance dans l’IA.
3. Les parties prenantes perçoivent la notion d’équité différemment selon que les décisions sont prises par un être humain ou une IA.

Governance and legal framework for managing artificial intelligence (AI)