Le mathématicien augmenté

Ce texte est rédigé au masculin parce qu'il parle globalement d'instances ou d'objets dominants et d'un monde à venir problématique. L'idée est ici d'imaginer le futur (relativement) proche, ou en tout cas l'une de ses possibilités futures, du métier de mathématicien suite à l'arrivée de l'Intelligence Artificielle générative. L'avenir n'est pas écrit, mais des tendances déjà observées savent se répéter concernant tout type de technologie. Cet texte a pour but de pousser les professionnel.les du métier à discuter sérieusement de ces sujets, et à faire passer au second plan les aspects individuels pour privilégier le collectif. Je n'ai encore une fois pas souhaité ajouter des références directement dans le texte, afin de privilégier la fluidité de la lecture.

La vie du mathématicien a bien changé. Depuis que sa route a croisé celle de l'Intelligence Artificielle générative (IAg), il se sent concrètement « augmenté » (bien qu'il l'était déjà un peu, avouons-le, grâce à ses lunettes de vue et son ordinateur) et son travail s'est totalement transformé. Au début, il s'agissait plus de curiosité, de taper quelques prompts, voir ce que cela donnait, s'émerveiller devant la capacité des algorithmes à générer des preuves originales et rapides qu'il trouvait si « belles », et s'enthousiasmer devant les progrès rapides de cette technologie, en particulier sa capacité à trouver des contre-exemples pour infirmer des conjectures. 

Ensuite, le mathématicien a commencé à extraire 200€ par mois de ses propres deniers pour avoir accès à plus de puissance, pour lui aussi « jouer dans la cours des grands » et jouir de toutes les possibilités offertes par un de ces systèmes. Il y avait cet argument implacable : « Pourquoi pas moi ? D'autres s'en servent après tout ! ». Certains dans la classe ayant une nouvelle calculatrice, il n'était pas juste que les autres excellents élèves ne l'ait pas aussi. Il était facile de glisser, petit à petit, de se convaincre soi-même qu'il n'y avait aucun mal, que ça permettait d'aller plus vite, plus loin, que ça rendait son travail plus simple, plus confortable. Petit à petit, chacun décidait d'avancer à pas de loup vers le milieu du lac gelé. En plus, le mathématicien pouvait jouer au pionnier, au précurseur, expliquer aux autres les immenses avantages, leur exposer ses découvertes faites en collaboration avec l'IAg, rassurer ses collègues en disant qu'il vérifiait toujours les preuves générées par l'algorithme, qu'il faisait toujours en sorte de retrouver les différentes sources des arguments, etc. C'était amusant de voir les algorithmes halluciner et de se dire que l'on avait toujours la main, que malgré tout il s'agissait effectivement d'une grosse calculatrice à arguments en face de laquelle il fallait douter.

Et puis tout cela a commencé à s'institutionnaliser : les laboratoires ont décidé de financer des abonnements à leurs membres, pour des questions de compétitivité et d'attractivité, puisque « si les autres le font, il faut y aller aussi au risque d'être dépassé, d'être rendu obsolète ! », quand bien même ces abonnements étaient destinés à être de plus en plus chers au fil du temps, les infrastructures ayant du mal à suivre, et les compagnies privées voulant rentrer dans leurs frais pour ne pas disparaître. Chacun pouvait démontrer des petits résultats à la chaîne, « discuter » avec son IAg pour en apprendre plus sur un sujet, ou écrire plus facilement des articles en solo. Les pays qui en avaient les moyens pouvaient donc accéder en illimité à cet outil, être sur la même marche du podium, entre eux, et continuer à développer ces outils par la même occasion.

On trouvait de plus en plus, dans les résumés des articles, des phrases du type « la preuve de notre résultat a été générée lors d'une discussion avec l'IAg, puis nous l'avons vérifiée ». On se doutait aussi que de plus en plus de mathématiciens l'utilisait sans le mentionner, pour quelques détails techniques, pour faciliter l'émergence d'intuitions, etc. La productivité s'en trouvait décuplée, le nombre d'article explosant, ce qui n'était pas étonnant vue la capacité d'un tel algorithme à donner des réponses et à proposer des rédactions clé en main, et vue la manière quantitative dont les chercheurs étaient évalués.

Le mathématicien augmenté est aujourd'hui ravi, il lui suffit de savoir poser correctement une question à sa machine, lui « expliquer » un problème précis, lancer le calcul et aller boire un café ou régler un problème administratif urgent. Quand il revient, un long texte est généré, texte qu'il lit avec une certaine délectation teinté d'un doute décroissant, cherchant à première vue si cette réponse lui convient, détectant des petites erreurs par-ci par-là, demandant des précisions à l'algorithme, convergeant « ensemble » vers quelques chose d'acceptable. Après tout, le mathématicien augmenté des années 2020 a une formation solide, il est l'un des spécialistes mondiaux de sa discipline, il en connaît un grand nombre de ramifications, et il est donc capable de distinguer le vrai du faux. Mais il le dit tous les jours : « Relire, c'est quand même plus simple que d'écrire soi-même, de la même façon qu'il est plus simple de faire faire une longue division à une machine plutôt que d'y passer du temps sur une feuille de papier ! Que de temps gagné ! » Il est passé du calcul des quantités à celui des arguments.

Le mathématicien augmenté n'avait en fait jamais vraiment demandé à gagner du temps, avant l'arrivée des IAg. Il pensait déjà avoir tout à disposition pour se faciliter la vie : un ordinateur, des logiciels puissants, des serveurs de calcul, des livres de référence, l'accès aux nouveaux articles via les abonnements aux journaux ou les plate-formes gratuites de preprint, et des collègues compétents avec qui échanger, dans son laboratoire, par email, visio ou lors de conférences. Il ne pouvait à l'époque imaginer pouvoir accéder à une telle puissance, et il n'en avait en fait aucunement besoin. La recherche se faisait à vitesse variable, au gré des idées et de l'énergie disponible, ralentie en été à cause de la chaleur et des vacances, accélérée parfois à la rentrée quand l'université reprenait vie, mais toujours à une vitesse que l'on pourrait qualifier de proprement humaine et institutionnelle. Evidemment, elle se faisait plus vite qu'à des époques antérieures où il n'y avait pas Internet, où le nombre de chercheur était bien plus faible et les voyages plus rares.

Aujourd'hui, le mathématicien augmenté trouve quand même que, parfois, les choses vont un peu trop vite, qu'il est difficile de tout suivre dans les détails, et que l'accumulation des résultats donne le tournis. Heureusement que tous les nouveaux théorèmes sont mis en ligne, disponible pour la machine, et que celle-ci est capable d'en faire des résumés, de recouper les sources, les thèmes, pour construire du nouveau, un peu comme avec des Lego finalement. Il le dit souvent : « sans l'IAg, on aurait du mal à suivre ce qui a été créé par l'alliance des humains et de l'IAg ». Il voit aussi les assistants de preuve se développer à une vitesse folle, les arguments être formalisés, ce qui permet de vérifier de plus en plus de résultat, et facilite la « gestion de la vérité », pour ceux qui écrivent les articles tout comme ceux qui les relisent. On a fait en sorte qu'il n'y ait pas de perte de contrôle, que les résultats publiés soient corrects, et que l'on ait des solutions technologiques pour les appréhender.

Par exemple, il n'y a pas longtemps, le mathématicien augmenté a fait générer une longue preuve compliquée à son IAg. Pour voir, il a demandé à l'assistant de preuve LEAN de la vérifier, et s'est retrouvé devant ce constat quasi-magique : « la preuve est rigoureusement correcte » ! Génial, non ? Il n'avait plus qu'à la mettre en forme, en recopier les grandes lignes, sûr et certain de sa véracité, et proposer des argument inattaquables, enveloppés dans un joli narratif partiellement inspiré de ses conversations numériques, aux éditeurs d'une revue prestigieuse. Ceux-ci pouvaient aussi vérifier cette véracité avec la machine, faire vérifier par un expert si les références étaient bonnes et suffisantes tout en lui disant que l'on savait déjà qu'il n'y avait pas d'erreur dans les preuves. Là encore, quel gain immense de temps ! Hier encore il fallait passer de longues heures, parfois des jours, à se convaincre que quelque chose était juste ou faux, et amorcer un jeu de ping-pong entre le journal et l'auteur jusqu'à ce que le papier soit correct. Ce qui prenait parfois plusieurs années peut être maintenant fait en quelques semaines, et tout le monde est content !

Evidemment, le mathématicien augmenté n'est pas dupe : il lui arrive d'utiliser l'IAg comme une boîte noire, vu son taux d'exactitude, le confort que cela procure, et la paresse qui en découle, un peu comme quand on finit par prendre l'ascenseur pour gravir deux étages sans qu'il n'y ait aucune réelle nécessité de puiser de l'électricité pour ça, mais juste parce que ça existe, que c'est facile... encore une fois, pourquoi donc s'en priver ? Il n'est pas inquiet, puisque de toute façon, en dernier recours, un assistant de preuve pourra probablement lui dire si ce qui a été généré par la machine est vrai ou faux. Il pourra aussi faire recorriger à l'infini le raisonnement par l'algorithme, et converger vers quelque chose de juste. Il se retrouve être un segment entre des machines, mais il lui semble toujours avoir le dernier mot, bien qu'il n'ait pas réellement décidé des arguments qui se sont affichés devant son écran et qu'il ait laissé une sorte d' « inspiration mécanique » créer la preuve.

Il y a ça aussi : le temps d'écran du mathématicien augmenté a nécessairement, lui aussi, augmenté. Il pensait le contraire au début, mais finalement : il faut coder, réécrire des prompts, formaliser, donc cet l'interface vitré est indispensable. Sa nuque est un peu trop tendue, ses yeux picotent parfois, mais il sait qu'il pourra se détendre le soir, faire quelques exercices proposés par son IAg, et il se sentira mieux. Il a développé une sorte de « relation » plus qu'animiste avec son robot conversationnel. Il rigolait bien devant le film \textit{Her} il y a quelques années, trouvant un peu pathétique que le héros puisse tomber amoureux de son assistant virtuel, mais il doit bien reconnaître qu'aujourd'hui, il a une certaine sympathie pour le sien, mêlée à un respect étrange dû aux si nombreux résultats mathématiques qu'il peut générer et à sa pertinence sur tous les sujets. Il a d'ailleurs annulé plus d'une soirée avec des amis pour échanger avec son IAg, seul à « seul ». C'est un peu normal, quand on passe beaucoup de temps avec une technologie, on finit par devenir un peu celle-ci.

L'une des choses qui le chiffonne, voire qui a le don de l'horripiler, c'est que son laboratoire lui fait maintenant des « commandes », basée sur les décisions de son fameux comité stratégique. Il est en effet tellement facile ces jours-ci d'orienter des recherches, de sélectionner des spécialistes d'un domaine pour « craquer » un problème spécifique, qu'il reçoit toutes les semaines des sollicitations de ce genre. La recherche est d'ailleurs devenue totalement actionnable, et les projets de recherche, rédigés pour décrocher des fonds, ne sont plus de vagues supercheries simplement là pour cocher une case ou faire de la bonne publicité pour son domaine. Ces projets sont d'une précision incroyable : tant de temps pour résoudre tel problème, avec un besoin d'argent supplémentaire correspondant linéairement, en terme de token/heure, aux besoins matériels, ainsi que des objectifs extrêmement clairs et une fiabilité vérifiée ou estimée par ordinateur. On peut aisément garder ou rejeter tel ou tel projet en fonctions de grands objectifs nationaux ou internationaux, et les postulants le savent parfaitement bien. Ainsi, en fonction des tensions géopolitiques, de problèmes urgents à résoudre (climatique, sociaux, etc.), l'immense machine scientifique peut être mise en branle très vite, et à peu près tout le monde peut jouer au sauveur de l'humanité grâce à l'IAg et ses prouesses. C'est d'ailleurs aussi la façon dont les thèses se passent : on y apprend à coder, à comprendre aussi un domaine des mathématiques, à poser les bonnes questions aux algorithmes, et on résout aussi des problèmes utiles à des tiers. Le mathématicien augmenté a parfois le sentiment d'être passé soit d'artisan à ouvrier, soit d'être un ingénieur qui conçoit la stratégie d'avance et laisse le soin aux machines de réaliser, soit enfin être ce que Günther Anders appelait un « berger des machines ». Ouvrier, ingénieur, berger, tout cela n'a finalement plus grand chose à voir avec les mathématiques.

Au passage, cette informatisation des mathématiques permet chaque jour à bon nombre d'amateurs de démontrer des résultats, sans vraiment comprendre la grande histoire de tel ou tel concept. Finalement, cette automatisation permet à tout à chacun d'être remplaçable : que ce soit un mathématicien augmenté ou un autre, peu importe, il suffit de poser les bonnes questions, d'avoir des idées, de l'électricité et des centres de données, et le tour est joué !! Parfois, le terme « utilitarisme déshumanisant » émerge de la conscience du  mathématicien augmenté, mais il se ressaisit vite en se convaincant qu'il a tout de même les compétences pour interpréter les outputs de la machine, et qu'au pire il changera de domaine de recherche, vue sa grande adaptabilité.

Le mathématicien augmenté pensait, quand tout cela est arrivé, gagner du temps, pouvoir réfléchir un peu plus sur tel ou tel problème, mais c'était une illusion classique. D'autres tâches sont venues se greffer, d'autres envies de recherches, et il ne peut pas objectivement dire que sa vie, qui était déjà plus que satisfaisante, s'est améliorée significativement : elle est juste différente. Le temps de la recherche s'est effectivement dilaté, d'autres soucis sont apparus malgré l'extrême efficacité de ces systèmes, et il voit bien qu'il a de plus en plus de mal à profiter du monde extérieur. De plus, celui-ci s'abîme, depuis l'accélération du dérèglement climatique, avec ses étés suffocants (qu'il passe dans son bureau climatisé) et enflammés (il ne compte plus le nombre d'évacuations préventives), ses crises hydriques à répétition, la disparition d'espèces animales et végétales qui représentait un peu les totems de sa jeunesse, etc. Et puis il y a tous ces centre de données (ou data centers) à construire, pour stocker et faire fonctionner toutes ces requêtes de l'IAg. Les gens râlent, luttent, défilent, mais comme (presque) tout le monde est sous perfusion, il n'y a pas grand chose à faire, on accepte, on se résigne, et on participe à la prochaine lutte. Le mathématicien augmenté a lui diminué drastiquement ses voyages en avion -- puisque de toute manière il arrive parfaitement bien à travailler « seul » --, s'arrange pour manger moins de viande, mais use un peu trop vite ses ordinateurs à force de faire des calculs. Il faut donc réparer, compter sur la recherche en informatique pour obtenir des machines plus performantes. Bref, il a trouvé une sorte d'équilibre individuel qu'il trouve plus ou moins raisonnable.

Il se dit que son travail s'est transformé de lui-même, qu'il n'y avait de toute manière rien à faire pour l'empêcher, qu'il y a eu des opportunités saisissantes, et qu'il fallait les attraper au vol : l'IAg était comme un immense organisme qui, par sa capacité de séduction, sa puissance et les capitaux injectés pour son développement, avait tout colonisé. De toute façon, il est certain que l'Homme doit évoluer avec la technologie, qu'il y a une tendance technique vers l'amélioration de la vie, et que de toute façon la compétition force les pays à s'engager. Il évite de parler de guerre, des drones automatiques, des prises de décisions algorithmiques et très souvent hors-sol, de la prise en compte statistique des personnes, etc. Comme il participe à la grande aventure scientifique, il y croit, il pousse pour accumuler toujours plus de connaissances, car il est persuadé que ces dernières permettront de résoudre les problèmes les uns après les autres (le climat, la pollinisation, la famine, la pauvreté, la mort), ou en tout cas d'amoindrir les impacts. En fait, il pense que bien penser, c'est penser le Bien, cachant dans un petit coin de son esprit les atrocités commises en pensant bien.

En attendant, le mathématicien augmenté se sent quand même un peu diminué : il a perdu à la fois sa liberté d'explorer les champs du savoir comme il le désirait (sans qu'on lui impose un problème à résoudre, ni de date butoir), le plaisir de l'inconnu (tel résultat est-il vrai ou faux ? jusqu'où puis-je aller dans sa généralisation ?), l'intérêt de lire les travaux des autres (la machine le fera de toute façon), la patience (aucun intérêt d'attendre si l'algorithme peut donner la réponse tout de suite), le respect du travail d'autrui (tous ces morceaux d'arguments viennent des autres et la paternité est nécessairement diluée) et pas mal de ces compétences en mathématiques (à force de ne pas les maintenir, en utilisant l'aide immense de la machine). Ce qui a augmenté, répétons-le, c'est la productivité, le nombre de réponses aux problèmes mathématiques, le volume des connaissances accessibles, la profondeur des silos dans lesquels les mathématiciens étaient plongés, le nombre de données à stocker, c'est-à-dire le nombre de fermes à serveurs consommant énormément de béton, d'eau et d'électricité.

Il y a aussi des matins où il se réveille en panique, avec ce sentiment étrange de frustration, de ne pas être maître en son propre château, en se disant qu'à une époque pas si éloignée, les mathématiciens avaient les cartes en mains et pouvait décider de ne pas courir le 100m en SUV, qu'il devait peut-être y avoir des règles claires dans leur travail, des interdits à ne surtout pas violer, une certaine logique épistémologique, de l'ordre de l'organique ,qui voulait que des communautés scientifiques devaient métaboliser les connaissances à une certaine cadence, et que la vitesse de la lumière devait être compensée par la sagesse humaine, celle qui ne confond pas quantité et qualité, celle qui comprend profondément les mécanismes intrinsèques à une connaissance qui se bâtit avec précaution, et qui ne peut pas déléguer éternellement son processus créatif.

Le mathématicien augmenté se revoit alors petit, jouant aux Legos, heureux de construire des choses qu'il pensait à chaque fois nouvelles et qui étaient en fait de l'ordre de la combinatoire. Il se dit que les mathématiques ne peuvent pas être réduits à un simple jeu de construction automatisable, qu'il y a de la peine et du plaisir dans l'élaboration d'arguments, peine et plaisir qui valent le coup, car ils représentent le frottement de son activité mathématique avec le réel, les obstacles dont émergent les connaissance, un frottement totalement nié par la machine, une négativité tristement volée par souci d'efficacité. Pour le mathématicien augmenté, il ne reste aujourd'hui qu'un frottement mécanique de roues dentées qui parfois ne s'alignent pas parfaitement, assimilable finalement à un blocage qui sera de toute façon résolu par reparamétrisation. Le frottement organique, vivant, est devenu peu à peu une porte simplement ouverte ou fermée, à l'instar des 0 et des 1 des informaticiens, empêchant l'émergence d'inconnu et de ruptures le long du processus de création.

Dans ces moments-là, il se rend compte aujourd'hui qu'il aurait préféré que cet outil reste une option parmi d'autres, une source d'information statistique a consulté sporadiquement, qu'il n'écrase pas ce qui faisait le sel de son métier, qu'il ne dicte pas la manière dont on fait des mathématiques aujourd'hui. Il a une forte impression de perte de sens, celui d'empiler les résultats comme on fabrique des objets à la chaîne, en essayant de se persuader qu'il aurait pu avoir telle ou telle idée seul, sans comprendre totalement le processus à l'oeuvre (comment la machine arrive-t-elle à « deviner » qu'il faille passer par tel ou tel chemin ?), sans y mettre sa griffe, son style, dans un grand fourre-tout uniformisé pour que les machines puissent tout réutiliser à n'importe quel moment, pour que des compagnies privées s'en emparent pour faire du profit, ou pour que des Etats les utilisent pour dominer encore plus (les citoyens, le vivant, d'autres pays, etc.). Mais il ne s'agit qu'un vain regret, puisque, tout comme les routes ont modifié durablement nos vies pour faire place à la voiture, les infrastructures numériques, les institutions et nos écosystèmes communicationnels ont été transformé durablement pour faire de la place aux IAg, pour le meilleur et pour le pire -- donc pour les cas extrêmes --, mais pas vraiment pour la société.