Régulation de l’IA: discussion fondée sur les résultats les plus récents du PNR 77

Sur les 46 projets du PNR 77 "Transformation numérique", 11 se sont intéressés d’une manière ou d’une autre à l’intelligence artificielle (IA). Développé depuis une soixantaine d’années, ce concept n’est pas nouveau, mais les possibilités offertes par l’IA ont pris une nouvelle dimension depuis le lancement de ChatGPT en novembre 2022. Il convient désormais de déterminer comment la législation et la pratique juridique se doivent de réagir à cette évolution technique. A cette fin, l’administration fédérale est actuellement en train de dresser un état des lieux et d’examiner les besoins réglementaires en la matière.

Organisée en collaboration avec l’Office fédéral de la justice, la rencontre du PNR 77 proposée sur ce thème le 26 novembre 2024 à Berne a rencontré un grand intérêt. Les résultats de deux projets de recherche ont été présentés à titre d’illustration avant de faire l’objet d’une discussion collective.

• La transformation numérique induit un rapprochement des êtres humains et des machines qui vont jusqu’à former de véritables équipes. Dans le cadre de leur projet de recherche, Thomas Burri et Markus Christen ont analysé ces interactions afin de comprendre comment les processus basés sur l’IA doivent être contrôlés et quelles conséquences cela entraîne sur le plan réglementaire. En d’autres termes, comment la législation doit-elle répondre au fait que des voitures puissent désormais se conduire sans pilote ? Les chercheurs ont notamment procédé à différents sondages et mis en évidence que les personnes interrogées accordent une plus grande confiance à une équipe composée d’un humain et d’une IA, qu’à un humain seul ou une IA seule. Il existe toutefois un risque que l’être humain devienne le « bouc émissaire » en cas de défaillance de l’IA.
• Daniel Kettiger et son équipe se sont penchés sur l’anonymisation des décisions de justice. Conformément à la législation en vigueur, de nombreux jugements doivent être publiés et modifiés de manière à ce qu’il soit impossible d’identifier les personnes concernées. Dans ce contexte, l’IA pourrait intervenir de deux manières. Si de plus en plus de jugements sont dépersonnalisés de manière automatique et seulement contrôlés ensuite par un être humain, il est aussi envisageable que des modèles d’IA soient exploités afin de générer des informations visant à réidentifier les personnes concernées. Les recherches effectuées montrent qu’il existe déjà des programmes d’anonymisation performants, mais que les spécialistes impliqués se montrent encore très réservés vis-à-vis de leur utilisation. Par ailleurs, les résultats mettent en évidence que les outils d’IA existants ne présentent qu’un faible risque eu égard à une éventuelle réidentification. Ils sont néanmoins à prendre avec précaution dans la mesure où l’évolution technique est si rapide que leur validité pourrait ne pas excéder quelques années.

Durant la discussion, Markus Christen a souligné que la réglementation existante couvrait déjà la plupart des domaines dans lesquels l’intelligence artificielle trouve application. Les partenaires de terrain invitées, Ladina Caduff (Microsoft) et Estelle Pannatier (AlgorithmWatch), étaient d’accord sur le fait que si le cadre juridique actuel nécessitait encore quelques adaptations, il convenait de clarifier très précisément lesquelles. Susanne Kuster de l’Office fédéral de la justice a parallèlement rappelé que le fait d’adopter une législation spécifique en vue d’encadrer une nouvelle technique ne correspondait pas à la tradition suisse, et que le cadre réglementaire s’avérait généralement neutre en matière de technologie.

Pour Stefan Wiprächtiger de l’Association suisse des magistrats de l’ordre judiciaire, l’IA constitue également un défi sur le plan culturel. S’il part du principe que ses fonctions de juge de district l’amèneront à l’avenir à intégrer l’IA dans son travail, que ce soit en ce qui concerne l’anonymisation des jugements ou le traitement des dossiers, il estime qu’il faudra du temps pour que ce changement prenne pleinement effet.