Robots vertueux : qui choisir entre un enfant et un vieillard ?
Invité dans le cadre de l’école d’automne de l’Institut thématique interdisciplinaire Littératures, éthique et arts (Iti Lethica) consacrée aux enjeux éthiques et esthétiques de l’Intelligence artificielle (IA), Martin Gibert, chercheur au Centre de recherche en éthique et à l’Institut de valorisation des données (IVADO) de l’Université de Montréal, ouvre l’évènement avec une conférence sur l'hypothèse des robots vertueux.
Formé en philosophie et en psychologie morale, Martin Gibert prend un poste en éthique de l’IA en 2017. L’éthique appliquée à l’IA c’est répondre à la question : quelle est la bonne chose à faire avec un système d’IA ? Avec les systèmes basés sur l’apprentissage automatique, tout l’enjeu est de débiaiser les algorithmes pour ne pas retrouver les problématiques du monde qui nous entoure, racisme, sexisme… dans les machines. Nous avons des théories morales, la question pour l’éthique de l’IA est d’essayer de les transposer en code informatique.
L’éthique de la vertu
Pour lancer l’école d’automne de l’Iti Lethica le mercredi 28 septembre, Martin Gibert choisit de parler des robots vertueux. Il prend l’exemple des voitures autonomes. Comment les programmer et selon quels principes moraux pour résoudre un dilemme : choisir entre épargner un enfant ou un vieillard ?
, raconte le chercheur qui précise que pour un humain ce serait plus une question de réflexe.
Les robots sauveraient dans 50% des cas les enfants
En Allemagne, la question a été évoquée et il s’agirait pour l’IA d’effectuer un tirage au sort.
Martin Gibert propose une autre option : l’éthique de la vertu. Programmer l’IA pour qu’elle agisse comme une personne vertueuse, c’est-à-dire de manière juste, honnête ou courageuse. L’idée serait de choisir un panel de personnes considérées comme vertueuses et de s’inspirer de leurs choix. Par exemple, si 50% sauvent l’enfant, 20% le vieillard et 30% choisissent le tirage au sort, les robots sauveraient dans 50% des cas les enfants, etc.
- Pour aller plus loin : Martin Gibert propose un MOOC sur l'Introduction à l'éthique de l'IA.
Dans le cadre du master Cultures littéraires européennes, Martin Gibert propose trois autres conférences :
YouTube devrait-il faire des recommandations pour le climat?
Avec deux YouTubers, Martin Gibert s’intéresse à l’éthique du recommandeur algorithmique de YouTube. Avec 2 milliards d’utilisateurs qui regardent 30 min de vidéos par jour, YouTube est peut-être l’algorithme le plus puissant du monde : 70% des vidéos visionnées sur le site sont recommandées.
L’idée des chercheurs ? Que 2% des recommandations soient favorables au climat, une sorte de propagande light dans le sens du bien collectif. Le réglage actuel n’est pas moralement neutre, là pour 2 % nous le rendrions qualitativement meilleur.
Le chiffre est choisi pour se situer au-dessus du traitement médiatique accordé à ces sujets qui serait autour de 1%, mais il reste peu élevé pour éviter de braquer les utilisateurs.
- Lundi 3 octobre de 16h-18h, salle 409, Le Portique.
Avoir son steak sans l'animal mort
S’écartant des chemins de l’IA, Martin Gibert s’attaque au véganisme du point de vue de la psychologie morale à travers une conférence à la Misha. Comment se fait-il que même si les gens sont sensibles à la souffrance animale, ils consomment de la viande ?
, interroge Martin Gibert qui évoque un phénomène d’habituation mentale qui commence dès le plus jeune âge. Le chercheur prend l’exemple d’une étude. Les participants, divisés en deux groupes, devaient attribuer des capacités mentales à un mouton. On disait aux uns que le mouton resterait dans sa prairie, et aux autres qu’il était destiné à l’abattoir.
Résultat, moins de capacités sont données aux moutons destinés à l’abattoir. Il est plus simple de manger un animal que l’on n’estime pas intelligent
, souligne le chercheur qui évoque une alternative : la viande de culture. Elle évite la souffrance animale et a moins d’impact sur l’environnement.
- Mardi 4 octobre, de 14h à 17h, salle Table ronde, Misha.
À quoi sert la littérature en éthique?
Enfin, la dernière conférence de Martin Gibert sera consacrée à ses premiers amours de recherche en lien notamment avec sa thèse sur l’imagination en morale. Comment la littérature nous apprend des choses, pose des problèmes auxquels on n’aurait pas pensé ?
Par exemple, la science-fiction, et notamment les lois de la robotique d’Asimov, un auteur qui a conditionné nos imaginaires sur ce qu’est un robot. Asimov cherche à anticiper et pose différentes questions. Il imagine des éléments novateurs technologiquement parlant, mais véhicule aussi des préjugés de son époque, par exemple sur l’égalité des sexes.
- Jeudi 6, 18h-19h30, salle 409.
Mots-clés
Mots-clés associés à l'article :