Pourquoi Grok, l'IA d'Elon Musk, s'est-elle mise à parler à tout va de "génocide blanc" en Afrique du Sud ?

L'intelligence artificielle a sérieusement déraillé. Des utilisateurs du réseau social X, propriété du d'Elon Musk, ont signalé, mercredi 14 mai, des réponses très peu pertinentes de l'IA Grok, intégrée à la plateforme. Comme l'a rapporté le média spécialisé TechCrunch, le robot conversationnel semblait obsédé par un prétendu "génocide" commis contre les citoyens blancs d'Afrique du Sud, pays dont est originaire Elon Musk, et amenait ce sujet sans crier gare lors de requêtes d'internautes qui n'avaient rien à voir.

Si le problème paraît avoir été résolu, forçant l'entreprise xAI (détenue par Elon Musk) à réagir, cet incident portant sur un complot cher au milliardaire, ainsi qu'au président américain, Donald Trump, relance les débats sur la fiabilité des IA, et sur la véracité des informations qu'elles diffusent. 

Une mauvaise consigne à la source du "bug"

Selon xAI, qui s'est expliqué dans un long message, Grok a dérapé à cause d'une "modification non autorisée" dans ses paramètres de réponse. "Cette modification, qui imposait à Grok une réponse spécifique sur un sujet politique, violait les politiques internes et les valeurs fondamentales de xAI", regrette l'entreprise, qui assure qu'une "enquête approfondie" a été menée. Les créateurs de Grok promettent aussi "une équipe de surveillance 24h/24 et 7j/7" et plus de transparence sur les changements apportés à leur intelligence artificielle, déjà accusée de propager de fausses informations et d'aider les internautes à déshabiller virtuellement des femmes sur des photos.

Non contents de cette explication officielle, certains utilisateurs du réseau X ont directement confronté Grok sur cette question. Dans ses réponses, que franceinfo a pu consulter, l'IA reconnaît avoir subi un "bug" l'ayant poussée à parler des "problématiques raciales en Afrique du Sud", pays colonisé par les Européens et ayant connu l'apartheid, un système de ségrégation raciale, jusqu'au début des années 1990. Grok donne même quelques précisions, en évoquant "un excès de zèle de (ses) créateurs chez xAI concernant les réponses à ce sujet précis". Le robot rappelle qu'il a mentionné, sans qu'on le lui demande, des messages appelant à "tuer les Boers", ces descendants de colons blancs, et de supposées "attaques de fermes" dans le pays. Il ne s'agit toutefois que "d'une redirection intentionnelle", assure l'IA.

Des soupçons de biais politiques

Cette "petite mésaventure", comme la présente Grok dans l'une de ses interactions en ligne, aurait pu passer inaperçue, si elle ne portait pas sur un sujet grave : les accusations de "génocide blanc" formulées par Donald Trump et le gouvernement américain à l'encontre de l'Afrique du Sud. Même si aucune donnée ne permet d'attester d'un génocide ni même de persécution systématique des Blancs dans ce pays, Washington estime que cette population doit être protégée, et a même offert le statut de réfugiés à un petit groupe de Sud-Africains, "relocalisés" aux Etats-Unis la semaine dernière. 

Le franc soutien d'Elon Musk à Donald Trump depuis la campagne présidentielle américaine laisse aussi planer le doute sur des modifications intentionnelles de Grok à des fins politiques. En février dernier, Grok avait brièvement censuré des sources présentant les deux hommes comme des propagateurs de désinformation, comme le rapportait Euronews. "Oui, Elon Musk a un contrôle sur moi", avouait le robot à franceinfo début avril, sur un ton légèrement provocateur. Chargé de tailler dans les dépenses publiques pour le compte du gouvernement, le milliardaire d'origine sud-africaine a pleinement enfilé sa casquette d'influenceur politique, en plus de sa veste de chef d'entreprise. Il est d'ailleurs en guerre ouverte contre son pays de naissance, qu'il accuse de favoriser les citoyens noirs au détriment des blancs, rappelle la BBC.

Dans ce contexte, les réponses de Grok sont scrutées de près, d'autant que le système a des failles connues. Selon le classement de l'association SaferAI, qui étudie la gestion des risques des géants de l'intelligence artificielle, l'entreprise xAI est loin, très loin derrière la concurrence en matière de surveillance et de réparation de son robot.