Auteur: Mark Esposito, Olaf Groth, Mark Nitzberg
Les machines, plus fortes que les humains ? Avec les progrès de l’intelligence artificielle, la science-fiction devient réalité. Mais il n’est pas trop tard pour fixer des règles afin de cohabiter en bonne intelligence avec les machines.
La société est à un moment charnière de son avenir numérique, vaste et inconnu. Une technologie puissante, l’intelligence artificielle (IA), renaît de ses cendres, en grande partie grâce aux progrès des réseaux neuronaux développés sur le modèle du cerveau humain. L’IA peut repérer des motifs au sein d’immenses ensembles de données non structurées, améliorer la performance à mesure que les données deviennent disponibles, identifier des objets rapidement et correctement, faire des recommandations, et prendre des décisions de plus en plus précises, tout en réduisant les interventions et donc les interférences d’êtres humains complexes et « politiques ». Cela soulève d’importantes questions quant au degré de choix et d’inclusion des êtres humains dans les décennies à venir. Comment les humains à tous les niveaux de pouvoir et de revenus seront-ils impliqués et représentés ? Comment gouvernerons-nous ce « meilleur des mondes » ?
Revenons huit siècles en arrière, en janvier 1215. De retour de France, le roi anglais Jean sans Terre affronte la colère des barons qui souhaitent mettre fin à son régime impopulaire de la « vis et voluntas » (force et volonté). Dans un geste d’apaisement, le souverain et l’archevêque de Canterbury réunissent 25 barons rebelles à Londres pour négocier une « Charte des libertés » qui consacrerait un ensemble de droits permettant de contrôler le pouvoir discrétionnaire du roi. En juin, ils parviennent à un accord qui assure davantage de transparence et de représentation dans les décisions royales, fixe des limites aux impôts et prélèvements féodaux et accorde même certains droits aux serfs. La célèbre « Magna Carta »était un document imparfait, fourmillant de clauses d’intérêt particulier, mais nous la considérons aujourd’hui comme un moment charnière du progrès de l’humanité vers une relation équitable entre le pouvoir et ceux qui y sont soumis. La Charte prépara le terrain de la Renaissance, des Lumières et de la démocratie.
C’est cet équilibre entre le pouvoir toujours plus grand du nouveau potentat — la machine intelligente — et celui de l’être humain qui est en jeu, dans un monde où les machines créeront toujours plus de valeur, produiront davantage d’objets de notre quotidien, tout en réduisant le contrôle humain sur la conception et les décisions. Le travail et les modes de vie sont en train de changer définitivement. Notre création nous a déjà dépassés.
L’IA modèle nos opinions
L’enjeu va au-delà de l’emploi et de l’économie : dans tous les domaines de l’existence, les machines commencent à décider pour nous, sans notre implication consciente. Elles reconnaissent nos comportements antérieurs et ceux des gens censés nous ressembler dans le monde entier. Nous recevons des informations qui modèlent nos opinions, nos perspectives et nos actes selon les préférences que nous avons exprimées par nos actions précédentes ou ceux d’autres personnes qui évoluent dans nos sphères. Au volant de notre voiture, nous transmettons nos comportements aux constructeurs automobiles et aux compagnies d’assurances afin de profiter des technologies de pilotage de véhicules de plus en plus autonomes, ce qui nous apporte en retour de nouveaux services et un moyen de transport plus sûr. Les fabricants de nos divertissements et jeux vidéo préférés, plus riches et personnalisés qu’auparavant, utilisent nos profils socio-économiques, notre gestuelle ainsi que nos préférences cognitives et visuelles pour évaluer notre sensibilité aux prix.
A mesure que nous adoptons de nouveaux services, nous choisissons de faire confiance à une machine pour « nous calculer correctement ». La machine finira par nous connaître peut-être plus sincèrement que nous ne nous connaissons nous-mêmes — d’un point de vue strictement rationnel, du moins. Mais elle ne prendra pas en compte les écarts cognitifs entre ce que nous prétendons être et ce que nous sommes réellement. Se fondant sur les données réelles de nos actes, elle nous restreint à ce que nous avons été, au lieu de s’intéresser à ce que nous aimerions être ou espérons devenir.
L’IA est une opportunité pour rationaliser nos décisions
La machine supprimera-t-elle ces choix personnels ? Eliminera-t-elle les hasards heureux de l’existence ? Organisera-t-elle nos vies et nos rencontres entre semblables, nous privant des hasards et des heurts qui nous obligent à évoluer, voire à nous améliorer ? Ces systèmes recèlent un potentiel formidable : certaines décisions personnelles mériteraient d’être conditionnées par des analyses plus objectives. Par exemple, prendre en compte l’empreinte carbone dans les différents moyens de transport, puis intégrer l’ensemble à nos emplois du temps et à nos besoins socio-affectifs, ou mettre sincèrement en valeur nos véritables talents lorsque nous choisissons un partenaire, ou encore concevoir des programmes d’apprentissage plus efficaces pour des populations étudiantes diverses. Mais ils pourraient également polariser davantage les sociétés en nous confinant encore plus à des sphères de gens qui partagent nos opinions, renforçant ainsi nos valeurs et nos croyances sans avoir l’occasion de les vérifier, de les défendre et d’être obligé de les reconsidérer ?
L’intelligence artificielle pourrait servir à faire de « l’ingénierie sociale numérique » (une pratique visant à modifier à grande échelle certains comportements de groupes sociaux), débouchant sur la création de microsociétés parallèles. Imaginez un redécoupage électoral numérique dont les opérateurs politiques utiliseraient une IA pour attirer les électeurs d’un profil type dans certaines circonscriptions plusieurs années avant un scrutin, ou des microcommunautés Airbnb qui ne loueraient qu’auprès de ou qu’à certains profils sociopolitiques, économiques ou psychométriques (lire aussi l’article : « Lutter contre la discrimination sur les plateformes »). Ou encore des entreprises en mesure de cibler leurs recrutements avec une précision presque chirurgicale, augmentant ainsi immédiatement leurs taux de performance, mais limitant également leur choix stratégique par un gisement de collaborateurs plus étroit et moins varié.
L’IA néglige nos potentialités
Une machine nous évalue selon nos valeurs exprimées (surtout celles qui se manifestent implicitement dans nos transactions commerciales) mais elle néglige d’autres valeurs profondément ancrées que nous avons refoulées ou mises en sommeil à un moment ou un autre de notre existence. Une IA pourrait omettre des croyances récentes ou des changements dans ce que nous valorisons hors du domaine facilement codifiable. Sur la base d’un historique de données, elle pourrait prendre des décisions concernant notre sécurité qui mettraient en danger autrui d’une manière que nous pourrions réprouver sur le moment. Nous sommes des êtres complexes qui arbitrent en permanence des valeurs dans une situation donnée et parfois la situation en question possède peu, voire pas, de précédents codifiés qu’une IA pourrait traiter. La machine respectera-t-elle nos droits au libre arbitre et à l’auto-réinvention ?
De même, une machine pourrait discriminer des personnes à la santé ou au statut social fragiles parce que ses algorithmes sont fondés sur la reconnaissance de motifs et des moyennes statistiques (lire aussi la chronique : « Pourquoi les entreprises devraient développer des algorithmes éthiques »). Uber a déjà suscité un tollé pour discrimination raciale quand ses algorithmes ont utilisé les codes postaux pour identifier les quartiers d’origine des chauffeurs. L’IA favorisera-t-elle la survie des individus les plus aptes, les plus aimés ou les plus productifs ? Prendra-t-elle ses décisions de manière transparente ? Quels seront nos recours ?
L’IA n’est pas une technologie neutre
De plus, le passé du programmeur, ses prédispositions et ses préjugés invisibles (ou les motivations et incitations de son employeur) pourraient influencer involontairement la conception des algorithmes et la recherche des jeux de données. Peut-on partir du principe qu’une IA travaillera toujours en toute objectivité ? Les entreprises développeront-elles des IA qui favoriseront leurs clients, partenaires, dirigeants ou actionnaires ? Par exemple, une IA de santé développée conjointement par des sociétés technologiques, des hôpitaux privés et des compagnies d’assurances agira-t-elle dans le meilleur intérêt du patient ou privilégiera-t-elle un certain rendement financier ?
Nous ne pouvons pas remettre le génie dans la bouteille et nous ne devrions pas non plus essayer : ses bienfaits ont un pouvoir de transformation qui nous conduira à de nouvelles frontières en termes de croissance et de développement. Nous sommes au seuil d’une explosion de l’évolution sans équivalent au cours du dernier millénaire. Explosions et révolutions sont troubles, brouillonnes et semées d’embûches éthiques.
C’est pourquoi nous proposons une Magna Carta pour l’économie mondiale de l’IA, une charte de droits inclusive, multipartenariale, conçue collectivement qui nous guidera dans le développement de l’intelligence artificielle et posera les fondations de la coexistence future des humains et des machines ainsi que celles d’une croissance continue plus inclusive. Que ce soit dans les domaines économique, social ou politique, nous devons en tant que société commencer à identifier les droits et les responsabilités qui garantiront équité et inclusion aux carrefours de l’IA et de nos vies. Sans cela, nous n’instaurerons pas de confiance suffisante dans l’intelligence artificielle pour capitaliser sur les opportunités fabuleuses qu’elle peut nous offrir.