Il est tout à fait classique, et commun à toutes les époques, de penser que ce qui nous arrive est unique et que rien d’aussi important n’est jamais arrivé à personne ; et d’une certaine façon, c’est vrai, parce que c’est la seule période dont nous pouvons être certains qu’elle soit réelle, parce que nous en sommes les témoins directs.
Il est aussi tout à fait courant de voir une innovation technologique être présentée comme une révolution majeure, changeant le monde plus qu’aucune autre avant elle.
Aujourd’hui, c’est aussi la mode de dire que notre période est unique et que l’intelligence artificielle bouleversera l’Histoire plus qu’aucune autre innovation avant elle.
Commençons par relativiser :
Bien des technologies ont bouleversé le monde bien avant celle-là : la maîtrise du feu, le levier, la roue, la domestication du cheval, l’usage du fer et du charbon, l’imprimerie, la machine à vapeur, le moteur à explosion, le moteur électrique, le téléphone ; et bien d’autres apparemment plus modestes ont apporté des changements au moins aussi importants. A chaque fois, ces technologies ont été utilisées à la fois pour le meilleur et pour le pire, selon l’éthique des sociétés qui les maîtrisaient. Rares sont les technologies révolutionnaires (comme les médicaments antidouleurs, ou la pilule contraceptive) dont il a été difficile d’imaginer des usages malins, même s’ils existent.
Aujourd’hui, on considère comme révolutionnaire une technologie nommée IA qui bouleverse l’art de prévoir. La prédiction, à partir des données du passé, n’est pas nouvelle : les paysans, les augures, puis les météorologues en ont été les maîtres. La prise de décision fondée sur ces prédictions n’est pas non plus nouvelle ; et de tout temps le pouvoir a appartenu à ceux qui prévoient, ou qui savent mettre les prévisionnistes à leur service. Ainsi des généraux qui se servaient des prévisions des augures, ou des financiers qui se servent des prévisions des analystes. Et l’IA d’aujourd’hui n’est que le point d’aboutissement actuel d’une évolution technique commencée il y plus d’un siècle et qui consiste à quantifier les données dont on se servait jusqu’ici plus ou moins intuitivement pour déduire du passé des lois permettant de prévoir. L’IA est déjà incroyablement utile, en prévoyant, dans la limite étroite de ce que les données du passé peuvent permettre d’analyser, des pannes, des évolutions de la demande, de l’offre, et les évolutions de comportements de clients, de fournisseurs, de malades et d’élèves. Elle continuera à progresser, en prédisant mieux, et dans un plus grand nombre de domaines.
Elle restera cependant incapable de prévoir les grandes ruptures, et en particulier de prévoir ce que sera la prochaine grande rupture. Elle est aussi incapable, comme toutes les autres innovations avant elle, d’empêcher des humains d’en faire un usage mauvais : et ce n’est pas parce qu’elle usurpe le nom « d’intelligence » qu’elle peut fournir cette garantie : il y a tant de pervers, de méchants, de barbares, parmi ceux qu’on décrit comme « intelligents ».
Une IA, comme beaucoup d’innovations, est comme un marteau : elle peut servir à construire, ou à détruire.
Le pire n’est pas certain mais il est possible. En particulier il peut se trouver dans la jonction du digital et du biologique, quand des robots créateurs de molécules nouvelles seront couplés à des intelligences artificielles qui imagineront des molécules nouvelles, ou même des manipulations génétiques, et qui créeront ces entités vivantes nouvelles sans intervention humaine, mêlant des cellules animales, végétales, humaines, pour fabriquer des êtres plus efficaces, sans barrière morale, sans conscience.
Impossible ? N’oublions pas ce qu’écrivait La Fontaine, dans le dernier vers d’une fable trop oubliée, « L’hirondelle et les oiseaux » : « Nous ne croyons le mal que quand il est venu ».
Pour le moment, la clé du bon usage de cette technologie, comme des précédentes, est de vérifier dans chaque cas si on la met au service de l’économie de la mort, ou de l’économie de la vie, et plus généralement de la vie. Une IA qui ne ferait qu’aider à extraire plus de charbon et de pétrole, à concevoir des drogues, des nourritures, des jeux plus addictifs, serait clairement au service de l’économie de la mort. Une IA qui aidera à mieux guérir, mieux éduquer, mieux gérer la rareté de l’eau, mieux produire des ressources renouvelables, mieux faire fonctionner la démocratie, serait au service de l’économie de la vie et donc essentielle à la protection de l’avenir.
Pour en juger, il faudra, à chaque étape, instaurer une transparence, disposer de contrepouvoirs compétents, et ne pas laisser la décision aux technologues panglossiens, ni aux entreprises qui les emploient, ni aux marchés financiers qui y trouvent des profits.
Sans doute même faut-il rêver que la prochaine technologie révolutionnaire soit celle qui, après l’intelligence artificielle, permettra de déployer la bienveillance humaine.
Tableau : Pierre Paul Rubens, Decius Mus interroge les auspices, 1617