Est-il raisonnable de se fier aveuglement aux applications digitales?

Basé sur des réflexions philosophiques systématiques, ce projet s’est consacré à la question générale de l’importance du concept de confiance dans le contexte des transformations digitales. Au centre de l’attention se trouvaient deux questions : premièrement, le projet a réfléchi à ce que signifie le fait de juger une structure numérique digne de confiance. Par exemple : quand un algorithme médical est-il digne de confiance ? Deuxièmement, le projet s’est intéressé à la question de savoir comment les structures numériques modifient les relations de confiance dans notre vie quotidienne. Par exemple : comment l’omniprésence des médias numériques influence-t-elle le fonctionnement d’une démocratie ?

L'importance croissante des technologies numériques dans tous les domaines de notre vie inquiète de nombreuses personnes. La science interprète souvent cette insécurité comme une crise de confiance. Alors que du point de vue des interactions humaines la confiance et les raisons conduisant à la confiance font déjà l’objet de réflexions approfondies dans des disciplines telles que les sciences politiques ou la sociologie, la discussion par rapport aux structures digitales n’en est qu’à ses débuts.

Au vu de la présence importante des technologies numériques dans nos vies, nous nous questionnons souvent sur leur fiabilité. Le premier objectif du projet était de comprendre ce que signifie la fiabilité numérique. Le deuxième objectif était guidé par la question de savoir comment gérer les processus de numérisation de sorte qu’ils s’accordent avec nos relations de confiance non digitales.

L’équipe du projet, dirigée par le professeur Peter Schaber, a affiné le concept central de la confiance et l’a placée en relation avec les technologies discutées dans les débats sur la numérisation. Outre ce travail de base important, le projet est également pertinent d’un point de vue pratique : les connaissances acquises peuvent nous aider à répondre aux incertitudes liées aux nouvelles technologies numériques et à formuler des propositions sur la manière de préserver la confiance face à la numérisation croissante.

Trois messages principaux

1. Prétendre que l’on fait confiance à un artefact numérique est une erreur de catégorie ; au mieux, nous dépendons de ces artefacts. Cette attitude nous aide à prévenir les antropomorphisations dangereuses qui ne profitent qu’à l’industrie.
2. Dans le domaine de la médecine, nous devrions accueillir l’utilisation des algorithmes IA, particulièrement dans le contexte du diagnostic médical, mais puisque notre objectif principal par rapport à ce type de technologie est d’assurer sa fiabilité, nous devrions mener une discussion ouverte sur ce que nous voulons (ou ne voulons pas) de l’IA médicale.
3. Les outils de communication numérique peuvent renforcer les relations de confiance existantes, notamment entre les citoyen·nes, en permettant une interaction utilisateur non instrumentale qui réduit l’anonymat et l’abstraction.

Trust and Trustworthiness in Digital Spheres