Pourquoi nous avons besoin d’une #MoralTech

=================================

Pour archivage je reproduis ici cette tribune parue le 26 Octobre dans Libération.

=================================

Un camion sans chauffeur vient de parcourir 160 km de manière totalement autonome pour livrer 50 000 canettes de Budweiser. Les voitures autonomes sont sur nos routes et ont fait leurs premières victimes même si tout semble indiquer qu’elles permettront de sauver des milliers de vies. Partout en Europe, au Japon, aux Etats-Unis, des algorithmes sont autorisés à prendre des décisions de conduite de manière autonome mais sont incapables de gérer l’imprévisibilité de certaines de ces situations de conduite. D’autres algorithmes servent à accompagner ou à prendre des décision judiciaires alors même que de récentes études montrent qu’ils entretiennent des stéréotypes racistes ou génèrent des faux-positifs. En visite au MIT, Barack Obama a indiqué clairement que ces technologies d’automatisation et d’intelligence artificielle allaient jouer un rôle majeur dans des secteurs régaliens et qu’il fallait les encadrer.

Le responsable de l’intelligence artificielle chez Facebook est un chercheur formé dans les universités françaises, Yann Le Cunn. Un autre chercheur français vient de monter l’initiative « Moral Machines » avec d’autres chercheurs du MIT pour réfléchir aux conséquences de choix algorithmiques « automatiques » à l’échelle du transport mais également de l’éducation, de la médecine, de la justice, de l’emploi. Mi-Novembre à New-York se tiendra un colloque (sponsorisé par Google et Microsoft …) pour réfléchir à aux questions de « l’équité, de la redevabilité et de la transparence » du « Machine Learning ». En France, quelques chercheurs, Bernard Stiegler, Eric Sadin, dénoncent depuis longtemps l’idéologie de la Silicon Valley, dans le sillage d’autres penseurs comme Evgeny Morozov. François Hollande, en visite chez BlaBlaCar, expliquait récemment aux salariés du leader mondial du co-voiturage qu’il ne fallait pas avoir peur de s’ouvrir à l’international, nous ramenant ainsi aux heures les plus surréalistes de la Chiraquie du « mulot ».

Les plus grosses sources de financement dédiées à la réflexion éthique et morale autour de ces technologies sont apportées par des entrepreneurs qui développent eux-mêmes ces technologies dans des secteurs où elles représentent l’avenir du marché concerné : c’est notamment le cas d’Elon Musk et de son projet OpenAI mais également de Google, Amazon, Facebook, Microsoft et IBM qui ont récemment créé un partenariat pour réfléchir à de « bonnes pratiques » autour de « l’éthique de l’intelligence artificielle ». Mettront-ils en avant des choix moraux ou éthiques alors que les marchés concernés se chiffrent en milliards de dollars ? On peut raisonnablement en douter.

On ne compte plus dans l’hexagone les #FrenchTechs et autres #CivicTechs qui sont les relais idéalisés d’un mouvement ancré dans l’idéologie libertarienne de la Silicon Valley. Mais rien, ou si peu, qui permette d’ouvrir une réflexion urgente et nécessaire autour d’une #MoralTech, d’un questionnement éthique sur le développement exponentiel et endémique de ces technologies présentées comme des remèdes mais qui portent également en elles des maux bien plus profonds pour l’équilibre de nos sociétés démocratiques, du vote électronique aux voitures autonomes en passant par sainte quadrature de toutes les NBIC (nano-bio-info-cogno technologies) prises dans le grand cercle de l’intelligence artificielle et son pensum de Deep Learning.

Ce questionnement ne peut ni ne doit être laissé aux mains des mêmes entrepreneurs qui développent ces technologies : il nécessite un financement public à la hauteur des enjeux, il nécessite également une volonté politique pour permettre de créer une convergence forte de la recherche universitaire sur ces questions doublement fondamentales. « Science sans conscience n’est que ruine de l’âme ». Continuer de s’étourdir des promesses digitales de la #FrenchTech sans déployer une #MoralTech à la hauteur des enjeux achèvera de ruiner les ambitions de la recherche publique sur ces questions, mais nous condamnera également à subir demain les impensés d’aujourd’hui, avec un impact totalement inédit sur le plan économique, politique et moral.

Dans une lettre adressée en 1946 à un chercheur d’une grande société d’aéronautique qui lui avait demandé communication d’un rapport technique sur certains travaux de recherches effectués pendant la guerre, Norbert Wiener (père de la cybernétique) écrivait ceci :

« Dans l’état présent de notre civilisation, il est parfaitement clair que la dissémination des informations sur une arme aboutit à la certitude pratique que cette arme sera utilisée. (…) J’entends à l’avenir ne plus publier aucune recherche apte à devenir dangereuse une fois aux mains de militaristes irresponsables. »

Refuser de créer, d’accompagner et de financer aujourd’hui une #MoralTech équivaut à laisser ce débat et ces choix à la seule main invisible du marché. C’est une erreur stratégique et une faute politique majeure.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Articles similaires

Commencez à saisir votre recherche ci-dessus et pressez Entrée pour rechercher. ESC pour annuler.

Retour en haut