L’intelligence de l’IA n’a jamais été la sienne
Résumé en français de l’essai The Social Edge of Intelligence de The Ideas Letter (16 avril 2026), par Bright Simons.
La thèse de Bright Simons tient en deux phrases : l’IA ne pense pas, elle se souvient de la façon dont nous avons pensé ensemble. Et nous sommes en train de cesser de lui donner quoi que ce soit qui vaille la peine d’être mémorisé.
Le point de départ est une étude publiée dans Science Advances. Trois cents auteurs ont écrit de courtes fictions, certains aidés par GPT-4. Les textes assistés ont été jugés plus créatifs — mais examinés dans leur ensemble, ils se ressemblaient davantage entre eux. Chaque auteur avait été individuellement rehaussé; collectivement, ils avaient convergé. Les chercheurs y ont vu une tragédie des communs. Gain individuel, perte collective : c’est le motif que Simons va généraliser.
Pour faire sentir sa thèse, il propose une expérience de pensée. Imaginez qu’on entraîne un modèle de langage sur tous les écrits de l’Égypte de 3000 av. J.-C., puis un autre sur l’Athènes de 300 av. J.-C., un autre sur le Bagdad de l’an 1000, un dernier sur l’internet contemporain. Chaque modèle serait plus intelligent que le précédent — sans qu’on ait touché à l’architecture. Ce qui aurait changé, c’est la civilisation qui le nourrit. L’intelligence d’un modèle, conclut-il, n’est fonction ni de ses paramètres ni de sa puissance de calcul, mais de la complexité sociale de la langue qu’il a digérée.
Il emprunte à l’anthropologue cognitif Edwin Hutchins une formule de 1995 qui sonne comme une prophétie : un système symbolique est « un modèle du fonctionnement du système socioculturel dont l’acteur humain a été retiré ». C’est exactement ce qu’est un modèle de langage. D’où sa question : qu’arrive-t-il au modèle quand le raisonnement social qui a produit ses données commence à s’appauvrir?
Les indices s’accumulent. Des travaux publiés dans Nature ont montré que les modèles entraînés sur du texte généré par d’autres modèles dégénèrent, les points de vue minoritaires et les formulations rares disparaissant les premiers — or ce sont eux, souligne Simons, qui portent la signature de la complexité sociale. Une étude de Microsoft et Carnegie Mellon menée auprès de 319 travailleurs a par ailleurs constaté qu’aucune pensée critique n’était exercée dans 40 % des tâches assistées par l’IA : plus la confiance dans le résultat est grande, moins l’effort cognitif est investi.
Simons ajoute une observation de son cru sur les usagers qui règlent leurs débats en interrogeant un agent conversationnel plutôt qu’un contradicteur. Privés du désaccord et de ses frictions, ils surestiment leur compréhension. Ce qui en résulte est plus subtil que l’ignorance militante des réseaux sociaux : un savoir superficiel, fluide, assuré et remarquablement homogène.
De là son « paradoxe du socle social » : si la capacité de l’IA dépend de la richesse de nos échanges, et si son déploiement appauvrit ces échanges, alors la technologie sape les conditions de son propre progrès. Ce sont ses succès, et non ses échecs, qui creusent la spirale. Simons reproche aux essais programmatiques de l’industrie — ceux de Dario Amodei, Leopold Aschenbrenner, Sam Altman — de ne jamais envisager que la qualité des données futures soit socialement déterminée, et donc dégradable.
Sa prescription est contre-intuitive. Les données montrent un recul relatif de 13 % de l’emploi chez les 22-25 ans dans les secteurs exposés à l’IA : la technologie remplace le savoir codifié des juniors tout en complétant le savoir tacite des vétérans. Or ce savoir tacite s’acquiert en faisant le travail. Les postes d’entrée ne sont pas qu’une ligne de coûts, ce sont la bretelle d’accès par laquelle se fabrique la génération suivante d’experts : la supprimer fait économiser aujourd’hui et assèche demain.
Les organisations qui prospéreront, avance-t-il, ne seront pas celles dont le taux d’utilisation de l’IA est le plus élevé, mais celles qui embaucheront davantage de gens dans des rôles à forte interaction, où l’IA soutient l’apprentissage au lieu de s’y substituer. Sa conclusion est presque comptable : chaque automatisation d’un poste d’entrée économise un salaire et perd une courbe d’apprentissage; aucun de ces gestes n’est catastrophique en soi, c’est leur effet cumulé qui pourrait l’être. L’intelligence que nous automatisons n’a jamais été la nôtre seule — elle vit dans les espaces entre les gens, et un héritage consommé sans réinvestissement finit par s’épuiser.
