Réflexions sur la démission de Jacob Coxon, l'IA et l'extinction de l'humanité

Comme la « fin de l'histoire » n'a pas eu lieu et la « fin du travail » non plus – du moins pour l'instant –, nous en sommes désormais à la « fin de l'humanité ». Permettez-moi d'être sceptique. J'ai le sentiment que le plus grand danger provient de la mise en œuvre capitaliste de l'IA à grande échelle, combinée aux autres technologies – et à leurs multiples conséquences sociales, politiques et économiques –, et non de l'IA elle-même. Une mise en œuvre qui, pleinement concrétisée, entraînerait à la fois une défaite catastrophique et un remaniement géopolitique d'une ampleur comparable, au moins, à celle du néolibéralisme. Dans les deux cas, il s'agit de processus qui, d'une certaine manière, se déroulent par étapes, à travers les degrés actuels d'application technologique, les guerres, les investissements et la dette incontrôlés dans des secteurs limités comme celui de l'IA aux États-Unis et ses éventuelles ramifications.

Cela ne signifie pas que le développement de l'IA et des agents algorithmiques ne comporte pas de risques en soi, lesquels – à mon avis et pour l'instant – ne présentent guère un danger comparable à celui, par exemple, de l'énergie atomique et de la possibilité d'une destruction totale de la planète. La question de l'« autonomie totale » de l'IA ne peut jamais être écartée d'un point de vue théorique, mais elle reste encore du domaine de la pure spéculation et rien de tel n'existe à l'heure actuelle. Même l'intelligence artificielle générale – sur laquelle misent les « Sept Mercenaires » [1] selon la logique de la progression exponentielle – n'est pas encore une réalité ; elle reste lointaine, et il existe même des doutes quant à savoir si elle pourra un jour être atteinte. Sans parler de la superintelligence, qui représenterait la véritable autonomie des machines, et qu'une grande partie des spécialistes et des scientifiques considèrent comme une sorte de délire.

Dans ce contexte, il convient de préciser certains points qui me semblent pertinents.

1) Tout ce débat sur les risques catastrophiques de l'IA rappelle, une fois de plus, la célèbre phrase attribuée à Jameson selon laquelle il est plus facile d'imaginer la fin du monde que la fin du capitalisme. Car, si l'on jette un regard en arrière, les prophéties dystopiques sont récurrentes et partent généralement d'un point de départ certain, comme par exemple la « collapsologie » écologique, pour ne citer que la plus récente. Mais, tandis que nous nous divertissons tous – et surtout, que nous nous terrifions – avec ces prophéties, ce qui crée un monde de plus en plus dystopique, c'est la folie de la raison économique du capital, qui devient de plus en plus malsaine, et que peu de gens semblent craindre.

2) On assiste à une campagne effrénée menée par les entreprises elles-mêmes [2], par leurs ingénieurs et leurs PDG, qu'ils restent en poste ou qu'ils démissionnent pour rejoindre souvent une autre entreprise, alertant sur le fait que le produit qu'ils vendent est extrêmement dangereux… ce qui est étrange. De nombreuses voix tout à fait crédibles y voient une véritable « singularité » historique… Une campagne de peur qui semble liée à l'accumulation de pouvoir : aucune entreprise ni aucun État n'apprécie de rester en marge d'un phénomène potentiellement aussi risqué, même s'il ne génère pas de bénéfices significatifs.

Une partie de cette campagne repose sur l'idée que si elles ne continuent pas à se développer – c'est-à-dire à multiplier les centres de données équipés de puces ultra-sophistiquées, à accroître leurs équipements, à consommer frénétiquement de l'énergie et de l'eau, tout en aggravant la pollution environnementale, et à investir littéralement des milliards –, la Chine va remporter la course. Tout cela alimente de manière effrénée les cours historiques en bourse, ce qui leur permet d'accumuler des bénéfices extraordinaires. Un institut américain à but non lucratif assez respectable affirme depuis déjà quelques mois que ce discours des entreprises sur le fait de « battre la Chine » sert à préparer le terrain pour un plan de sauvetage au cas où la bulle spéculative éclaterait, et que l'État est déjà en train de mettre au point des mécanismes de sauvetage.

Il existe un écart très important entre les investissements dans l'IA et les hautes technologies aux États-Unis et le reste de l'économie (la variation en glissement annuel des investissements est négative dans les secteurs à faible technologie), ce qui soulève deux risques. D'une part, la possibilité d'un éclatement de la bulle d'investissement (l'IA n'est pas une bulle, bien sûr, mais une grande bulle financière pourrait se former autour d'elle). D'autre part, celui du « crowding out » – que l'IA finisse par phagocyter le reste de l'économie, incapable de décoller, provoquant ainsi une stagnation généralisée. On ne peut évidemment pas savoir ce qu'il va se passer, mais lorsque le capital brasse autant d'argent dans un contexte de disparités structurelles aussi marquées, le risque est élevé et les discours peu fiables.

3) On a déjà promis des utopies et des dystopies de toutes sortes : la fin de l'histoire et du travail dans sa version des années 90 ; le remède universel à toutes les maladies lorsque 90 % du génome humain a été décrypté (ces espoirs se sont effondrés avec la bulle Internet en 2001) ; les cellules souches qui, elles, allaient tout guérir ; les robots qui allaient remplacer tous les emplois – deuxième promesse de la fin du travail – ; les cryptomonnaies qui allaient dominer toute l'économie, le « métaverse » dans lequel nous devrions vivre depuis plusieurs années déjà, etc., etc.

4) Alors que les entreprises sèment la peur à grande échelle en invoquant la perte de contrôle de leurs propres produits – qu'elles continuent de produire sans limite –, le plus réel, c'est bien le contrôle exercé sur les travailleurs et les populations en général – grâce à l'application à grande échelle de l'IA – dans la vie quotidienne, dans le commerce pour écouler l'obsolescence programmée en vendant n'importe quelle camelote, et dans la finance, avec d'innombrables applications qui noient tout le monde sous les dettes. L'exemple le plus dramatique de « perte de contrôle » à ce jour a été l'attaque contre l'école de filles en Iran, qui a peut-être impliqué l'IA Claude d'Anthropic ; mais ce type d'« erreurs meurtrières » n'est pas nouveau dans l'histoire militaire et a déjà été perpétré par l'intelligence humaine.

5) Enfin, concernant la question de la réglementation de l'IA. Il ne me semble pas, en principe, qu'on puisse soutenir ou rejeter en bloc toute idée de réglementation, qui ne peut en soi être qualifiée de progressiste ou de réactionnaire. En effet, le débat mondial s'articule autour de la question suivante : « réglementation étatique », oui ou non ? Anthropic contre Palantir, le Pape (encyclique Magnifica Humanitas) contre le (néo)libéralisme sauvage, ou encore les États-Unis contre l'Union européenne. Et, comme toujours, le problème réside dans le fait que le contenu de la réglementation étatique mêle des aspects défendables à d'autres, très réactionnaires.

La réglementation n'est pas neutre et ses domaines d'application potentiels sont pratiquement infinis. Par exemple, on y mêle des questions progressistes, comme un certain contrôle des utilisateurs sur les algorithmes (un projet en Australie), à l'interdiction ou à la restriction, dans de nombreux pays, de l'accès aux réseaux sociaux pour les mineurs de moins de 16 ans – mesure avec laquelle, personnellement, je ne suis pas d'accord sur le principe, d'autant plus qu'elle renforce, par la même occasion, la surveillance des parents, c'est-à-dire de presque tout le monde.

Une autre question importante est la frontière entre le transhumanisme réactionnaire et les interventions transgenres ou la possibilité de surmonter les limites physiques – une question très bien abordée, par exemple, par Facundo Nahuel Martín dans son livre Ilustración sensible [3]. Ce ne sont là que quelques exemples, mais il est bon d'en tenir compte. Dans ce contexte plus que complexe, je suis enclin à soutenir et à accompagner tout processus légitime qui se met en place, comme, par exemple, la condamnation populaire à New York de l'installation de centres de données que le maire Zohran Mamdani a dû interdire pendant un certain temps. Et, plus généralement, l'idée de réglementations très progressistes, telles que le rejet des contrôles biométriques dans le cadre et en dehors des activités professionnelles, ou le rejet des escroqueries liées aux applications financières, associées aux débats, aux décisions et au contrôle exercé par les divers secteurs de travailleurs.

À mon avis, ce soutien et cet accompagnement doivent toujours être liés à une critique acerbe de la propriété – que, à sa manière et avec des objectifs connus, même le pape doit dénoncer pour militer en faveur du contrôle de l'État – mais afin d'en remettre en cause la légitimité. Car, même si des mouvements populaires importants peuvent parvenir à imposer certaines limites, une réglementation globale et progressiste est impensable sans remettre en question les usages des technologies qui, de toute évidence, sont intimement liées aux fins de ceux qui les possèdent. Et, dans cette tension, c'est le rapport de forces qui est en jeu. Autrement dit, dans quelle mesure le capital est-il capable d'avancer grâce à la mise en œuvre à grande échelle d'une IA qualitativement améliorée et fusionnée avec d'autres technologies (robotique, biotechnologie, nanotechnologie) pour transformer l'économie et la vie ? Et dans quelle mesure la classe ouvrière et les secteurs populaires sont-ils capables d'avancer en remettant en question ces fins mêmes et, par conséquent, la propriété des technologies ?

C'est autour de cette tension que je propose, dans le dernier chapitre de mon livre [4], l'idée d'hégémonie technologique. Cette idée émerge – pour n'en évoquer ici que quelques aspects – comme une critique évidente de l'hégémonie capitaliste actuelle et comme un champ de confrontation lié aux « finalités générales » des technologies, en opposition au projet – anti-hégémonique à mes yeux – du revenu de base universel. Je propose la construction d'une hégémonie technologique comme nécessité pour avancer vers une répartition qualitativement différente du temps de travail, qui permette à la fois d'augmenter le temps libre et de mettre en avant l'utilité tant du travail que des biens et services produits, ainsi que de la nature elle-même. Je présente cette idée comme un concept en construction, en débattant de l'« éthique du travail » et en donnant la priorité aux espaces qui me semblent essentiels pour réfléchir à son développement.