LLM : l’illusion de l’échelle, autopsie des biais systémiques de l’IA

SILICON VALLEY (Enquête) — L’industrie technologique a réussi un tour de force sémantique en baptisant ses infrastructures « le nuage ». Derrière cette métaphore vaporeuse d’une technologie immatérielle et neutre se cache une mécanique d’extractivisme : tonnes de CO₂, fermes de serveurs et chaînes d’annotation humaines invisibilisées. Sous le vernis de l’IA générative, une machine d’amplification statistique fige les normes d’une minorité hégémonique et pénalise les cultures marginalisées.

Le poids matériel du « nuage »

La création d’un modèle de langage massif ne relève pas de la magie algorithmique, mais de la force brute. Selon l’étude de référence de Strubell, Ganesh et McCallum (2019), l’entraînement d’un seul grand modèle de traitement du langage avec recherche d’architecture neurale (NAS) génère environ 284 tonnes d’équivalent CO₂ — soit près de cinq fois les émissions d’une voiture américaine moyenne sur l’intégralité de sa durée de vie.

Cette combustion crée une fracture asymétrique immédiate. Le rapport On the Dangers of Stochastic Parrots (Bender, Gebru et al., 2021) documente que les populations vulnérables — les habitants des Maldives face à la montée des eaux, par exemple — encaissent de plein fouet les conséquences climatiques de centres de données dont elles ne tirent aucun bénéfice, ces modèles étant optimisés pour un marché anglophone privilégié.

Les travailleurs fantômes de l’annotation

Une fois la donnée aspirée, il faut la trier. L’illusion d’une machine qui apprend seule est maintenue par l’effacement méthodique de la chaîne de production humaine. Le filtrage des modèles repose sur des « ghost workers », une main-d’œuvre précaire payée à la tâche, majoritairement localisée dans les pays du Sud. L’article Decolonial AI (Mohamed, Png & Isaac, 2020) qualifie cette dynamique de colonialité sociotechnique : captation des données mondiales, traitement par une force de travail sous-payée, restitution d’un standard hégémonique.

Ces travailleurs invisibles classent des millions de fragments de texte et définissent à la chaîne ce qui est « toxique » ou « sûr » — sans grille d’analyse sociolinguistique, en dehors de tout contexte culturel. C’est précisément dans cette interface isolée que se forme l’une des failles les plus sévères de l’IA contemporaine.

Quand l’algorithme assimile l’identité à une menace

La toxicité d’une phrase n’est pas une valeur mathématique universelle : elle dépend du locuteur, de l’intention, de la réappropriation culturelle. Pourtant, les détecteurs de haine procèdent à une pénalisation mesurable des dialectes minoritaires. Les données cliniques de Sap et al. (2019) sont sans appel : le système Perspective API (Alphabet/Jigsaw) attribue des scores d’agressivité de 90 % à 95 % à des phrases en anglais vernaculaire afro-américain (AAE), contre à peine 6 % à 7 % pour leurs traductions exactes en anglais standard.

La machine ne déteste pas ; elle calcule. Faute de formation sociolinguistique, les annotateurs appliquent la grille de l’anglais hégémonique, et l’algorithme apprend une équation toxique : la syntaxe vernaculaire afro-américaine devient, par essence, un signal de danger. L’identité du locuteur marginalisé se transforme en faux positif. Un simple « amorçage dialectal » — informer l’annotateur de l’origine du texte — fait chuter ce taux d’erreur ; mais cette précaution ralentit la chaîne et reste largement ignorée par l’industrie.

Le mythe de la neutralité par la taille

Face à ces biais, la réponse industrielle est invariable : augmenter la taille des modèles, jusqu’à ce que le bruit statistique lisse les erreurs. C’est une erreur de diagnostic. L’ingestion indiscriminée du web ne capture pas la diversité humaine : elle surreprésente les populations les plus connectées. La « psychologie » générée s’aligne presque exclusivement sur les traits des populations WEIRD — Western, Educated, Industrialized, Rich, Democratic (Henrich et al., 2010 ; Atari et al., 2023).

Privés de toute modélisation de l’intentionnalité, ces « perroquets stochastiques » associent des mots selon des probabilités d’occurrence, sans rien comprendre de ce qu’ils écrivent (Bender et al., 2021). Diluer les signaux minoritaires dans l’immensité des données ne les protège pas : cela les efface. Et l’opacité persiste — OpenAI, Google ou Anthropic refusent toujours de publier les chiffres exacts de consommation et d’émissions de leurs modèles de dernière génération. Sans Data Statements rigoureux documentant la démographie des données (Bender & Friedman, 2018), ces systèmes fonctionneront exactement comme ils ont été conçus : externaliser leur coût écologique sur les plus précaires, tout en automatisant la normalisation culturelle des plus privilégiés.