«L'IA va constituer une menace sérieuse pour l'humanité»

Le 1er août, OpenAI a publié dix avancées en mathématiques pures et informatique théorique obtenues par son modèle interne Astra, couvrant la géométrie, la théorie des codes, les groupes et la cryptographie sur réseaux. Chaque résultat a été formalisé dans Lean, un assistant de preuve vérifiable mécaniquement. Ce qui distingue cet exploit d'essais précédents, c'est l'échelle : dix résultats substantiels simultanément, obtenus pour un coût annoncé de 2 000 dollars. Toutefois, des zones d'ombre demeurent sur le degré d'autonomie réelle d'Astra : le nombre de tentatives, le rôle exact des experts humains dans le prompting et la formalisation restent opaques.

La portée dépasse largement l'exploit technique. Des doctorants craignent que leurs sujets de recherche ne soient résolus avant leur soutenance ; le modèle dépasse la vitesse de formation des successeurs. François Yvon (CNRS, Sorbonne Université) nuance toutefois en soulignant que comprendre et utiliser ces outils exigera toujours des mathématiciens bien formés, susceptibles de choisir les bons problèmes et d'interpréter les résultats. Le vrai risque identifié n'est pas le remplacement des chercheurs, mais l'affaiblissement de la pédagogie scientifique fondée sur l'apprentissage par l'erreur et la découverte de nouvelles questions.

La communauté mathématique s'organise : la Déclaration de Leiden (juin 2024), soutenue par l'Union mathématique internationale, demande transparence et vérification indépendante, pointant aussi les inégalités d'accès au calcul et le pouvoir accru des entreprises privées. Des divergences persistent cependant sur l'interprétation de la menace : la Société mathématique européenne refuse d'y voir une simple condamnation, privilégiant un regard nuancé sur les opportunités. Le défi central reste : pendant que l'IA résout des énigmes ouvertes, les universités pourront-elles former ceux qui poseront les prochaines questions ?