Que signifie avoir le contrôle humain sur les machines intelligentes?
Les robots, machines intelligentes, sont en mesure d’apporter des secours en cas de catastrophe et travaillent de manière de plus en plus indépendante et autonome. Cependant, un contrôle humain efficace étant indispensable, une équipe travaillant dans les domaines de la philosophie, de l’informatique et du droit étudie les moyens d’y parvenir.
Description du projet
Nous cherchons à comprendre quand et comment l’homme doit contrôler les machines intelligentes basées sur l’intelligence artificielle et la robotique avancée. À cet effet, nous effectuons des expériences dans un environnement virtuel s’apparentant à un jeu. À l’origine, cet environnement a été conçu par le Pentagone pour le "Darpa Subterranean Challenge", un concours dans lequel les secours suite à une catastrophe dans des tunnels et grottes sont fournis par des robots. Pour nos expériences, le Pentagone nous accorde l’accès à cet environnement virtuel. Nous coopérons également avec l’armée suisse afin de profiter de son expérience.
Contexte
Ces dernières années, l’intelligence artificielle et la robotique ont fait l’objet de progrès importants. Les programmes informatiques et les algorithmes sont désormais capables d'apprendre, et les robots sont en mesure d’effectuer des tâches de manière indépendante. La participation humaine est de moins en moins requise pour le fonctionnement correct des machines et les êtres humains ne sont souvent actifs qu’en arrière-plan. Ainsi, les machines peuvent rouler, voler ou même tuer, et ce de manière entièrement autonome. Au vu de ce développement, nous examinons ce que signifie un contrôle humain efficace sur les machines.
Objectif
Notre projet vise à affiner le concept de contrôle sur les machines intelligentes, afin de définir quand et comment le contrôle humain est nécessaire. En conséquence, nous souhaitons fournir aux législateurs des idées concrètes de lois et de normes concernant le contrôle des machines intelligentes, tout comme les normes juridiques et techniques actuellement appliquées aux voitures conventionnelles.
Importance
Nous proposons d’aborder les producteurs de machines modernes telles que les robots, fonctionnant sur la base de l’intelligence artificielle. Nos résultats sont sensés leur indiquer comment concevoir en termes de contrôle leurs produits, afin d’en garantir un fonctionnement éthique et légal.
Titre original
Meaningful Human Control of Security Systems – Aligning International Humanitarian Law with Human Psychology