Les algorithmes nous surprennent un peu plus chaque jour en raison de leur efficacité et de leur utilité. Mais faut-il pour autant confier notre société à un « Big Brother » bienveillant, roulant pour l’intelligence artificielle ? La réponse n’est pas simple.
Comme il y a un journalisme de solution, il y a de toute évidence une informatique de solution. Ceux d’entre nous qui ont lu George Orwell et sifflotent le Welcome to the Machine de Pink Floyd doivent finalement en convenir : dans bien des domaines, les algorithmes ont permis de dépasser des obstacles longtemps infranchissables. Au cours des cinquante dernières années, le monde s’est prodigieusement complexifié, et parfois dégradé. La mobilité, qui répond à l’aspiration de liberté, s’est muée en une punition écologique et financière. Les énergies fossiles continuent à régner en maître, en dépit des scénarios catastrophistes que les Cassandre réservent à la planète. La médecine, qui a réussi à faire reculer les limites de la vie, reste impuissante face à de nombreuses maladies.
La solution ? L’informatique. Dans Big Brother is driving you1, Hugues Bersini aligne nombre de cas vertueux qui finissent – ou finiraient – par nous convaincre que, bien souvent, la machine fait mieux que l’homme. Professeur d’informatique à l’ULB où il est aussi le directeur du laboratoire d’intelligence artificielle (IA), il estime que « l’informatique seule est capable d’apporter les solutions qui s’imposent aux problèmes nés de la complexification du monde et de la multiplication des menaces écologiques, économiques et sociétales. La virtualisation de toute information, la multiplication des modes de connexion, la transformation de tout objet en un ordinateur rendent possible la prise en charge totalement automatisée de nos biens publics ».
Les exemples ne manquent pas. Si trente-cinq millions de passagers sont passés par les aéroports belges en 2019 sans que l’aéronautique ait à déplorer d’incident notable, c’est en grande partie grâce à l’informatique. Il en va de même pour les progrès de la médecine, pour la sécurité des échanges financiers mondiaux ou pour les prévisions météo. Alors, puisque la démonstration est faite que les algorithmes sont au service de l’homme, pourquoi ne pas s’en remettre totalement à eux, là où ils excellent ? « Après-demain », écrit Hugues Bersini dans la postface de Big Brother is driving you, « des transports en commun impossibles à frauder optimiseront le trafic pour un coût écologique minimum, des senseurs intelligents s’assureront d’une consommation énergétique sobre, les contrats financiers et autres ne souffriront d’aucune défection possible et des algorithmes prédictifs préviendront toute activité criminelle. »
« Prévenir » : le mot est important. En examinant en continu des millions, voire des milliards de données avant de faire un choix, les algorithmes tendent à réduire la part du hasard et à prévenir toute déconvenue.
Bienveillant, vraiment ?
Mais est-ce suffisant pour que nous acceptions de confier notre destin et notre société à un Big Brother « bienveillant » ? La réponse d’Hugues Bersini consiste à dire qu’il y aura des « pertes évidentes en termes de liberté au nom de l’intérêt collectif ». Mais qu’il restera hors les algorithmes une liberté appréciable dans nombre de domaines : « Ce n’est pas un algorithme qui décidera de la fidélité maritale », précise-t-il.
Cette Realinformatik n’élude en rien la question de la responsabilité. Si le recours à l’algorithme a conduit à un incident, qui en est responsable ? Ceux qui l’ont développé ? Ses utilisateurs ? La machine elle-même ?… Quand une Tesla « en autopilote » est à l’origine d’un accident, est-ce la faute de l’algorithme, des ingénieurs, d’Elon Musk ou du conducteur ? En 2019, cette interrogation et bien d’autres ont fait l’objet de débats et de textes au Parlement européen et à la Commission européenne. Auparavant, le 25 juin 2018, le Règlement général sur la protection des données (RGPD) avait reconnu aux individus « le droit à ne pas faire l’objet d’une décision fondée exclusivement sur le traitement automatisé et produisant des effets juridiques à leur égard ou les affectant particulièrement… » Leur liberté de choix, mais aussi leur responsabilité ont été ainsi réaffirmées.
Quant à l’intelligence artificielle, les informaticiens sont partagés sur l’opportunité de la rendre responsable des erreurs ou des dégâts qu’elle aurait engendrés. « C’est très difficile d’attribuer une responsabilité à un logiciel, d’autant qu’on est beaucoup à avoir travaillé dessus », expliquait Hugues Bersini lors d’un entretien enregistré en février 2017 à l’Académie royale de Belgique. Il tranchait : « C’est peut-être même un faux débat. Je pense qu’il va falloir de plus en plus évacuer la responsabilité morale, humaine, telle qu’on la connaît pour recourir à des caisses assurantielles. C’est déjà comme ça que les médecins fonctionnent. Il y aura des dégâts qui surviendront, c’est sûr. »
Mais le dégât majeur n’est-il pas d’abord l’entrave faite au libre arbitre ? « Oui, il y aura une infantilisation des citoyens », reconnaît Hugues Bersini. « Car les Big Brothers numériques vont prendre le contrôle de leur existence. Cela aura des conséquences sans doute dommageables. On ne va plus apprendre (dans certains domaines). Mais on ne va pas pour autant perdre ce muscle moral qui nous pousse à trancher dans certaines situations. La capacité à la réflexion éthique sera préservée en grande partie. » Dans une gamme de domaines que ne régente pas le plus souvent l’informatique…
La fin de l’individu
Dans un registre proche, Gaspard Kœnig a publié La Fin de l’individu. Voyage d’un philosophe au pays de l’intelligence artificielle2. L’IA ne menace pas l’existence de l’homme, rassure le philosophe français. « En revanche, en déployant des techniques d’optimisation, de prédiction et de manipulation à grande échelle, l’IA remet en cause le fondement même de nos Lumières : l’idée d’un individu autonome et responsable », écrit-il. Et de poursuivre : « L’intelligence artificielle nous prépare ainsi des droits sans démocratie, un art sans artiste, une science sans causalité, une économie sans marché, une justice sans coupable, des amours sans séduction… à moins que nous ne reprenions le contrôle en forgeant pour nous-mêmes un droit à l’errance. »
Sur les ondes d’Europe 1, Gaspard Kœnig énonçait ainsi sa principale inquiétude : « Ce qui me perturbe – et c’est la question que pose aussi l’historien Yuval Harari, l’auteur de Sapiens, une brève histoire de l’humanité –, c’est que les techniques de l’intelligence artificielle telles qu’elles sont appliquées aujourd’hui ne conduisent pas à déléguer notre capacité de choix à la machine ». Un GPS n’indique pas un chemin en pensant au bien-être de son utilisateur », explique Kœnig, « mais en poursuivant un objectif d’utilité publique : il veille à ne pas alimenter les embouteillages lorsqu’il indique le chemin à prendre. »
Ce modèle correspond parfaitement au confucianisme chinois parce qu’il favorise l’utilité collective, analyse Gaspard Kœnig. A fortiori s’il permet à Pékin de damer le pion à Washington sur le plan de l’économie mondiale. Mais il sied mal aux « libéraux anars » épris de liberté individuelle, une catégorie dans laquelle se range le philosophe français. Kœnig reproche aux algorithmes « de pousser à se comporter dans la norme ». « Or un individu déviant est la condition du progrès, estime-t-il. Il faut qu’il y ait des gens qui fassent des erreurs pour avancer. Il faut opposer le progrès à l’optimalisation qui conduit à l’immobilité et à la mort. »
Le salut consiste, pour Gaspard Kœnig, à « utiliser ces techniques merveilleuses (que sont les algorithmes) tout en rétablissant le libre arbitre sur le plan philosophique comme sur le plan technique ». Comment ? « En conservant la propriété privée de nos données personnelles et en déterminant à quel système nous voulons les confier pour que celui-ci soit développé selon nos propres critères. » On en est loin. La question des données personnelles, notamment exploitées par Google et Facebook, est d’actualité depuis 2010. Qu’elles soient protégées ou non, la capacité de chacun d’inspirer les algorithmes de demain pèse peu de choses face à l’hyperpuissance de ces démiurges de la pensée dominante.
1 Hugues Bersini, Big Brother is driving you. Brèves réflexions d’un informaticien obtus sur la société à venir, Bruxelles, Académie royale de Belgique, 2017, 154 p.
2 Gaspard Koening, La Fin de l’individu. Voyage d’un philosophe au pays de l’intelligence artificielle, Paris, Éditions de l’Observatoire, 2019, 400 p.