L'IA d'Elon Musk affirme qu'une « modification non autorisée » a poussé Grok à proférer une théorie du complot sur le génocide blanc

L'outil d'intelligence artificielle Grok d'Elon Musk a pété les plombs mercredi, répondant à des questions anodines sur X par des informations sur le « génocide blanc » en Afrique du Sud. Ce bug était déroutant et parfois hilarant , mais nous avons maintenant des réponses sur ce qui s'est passé grâce à xAI. Et franchement, ils ne font que nous laisser avec encore plus de questions.

xAI a publié un tweet jeudi soir exposant son explication, y compris l'heure exacte à laquelle des modifications ont été apportées à Grok qui l'ont amené à produire des phrases sur le « génocide blanc », peu importe ce que les utilisateurs demandaient.

« Le 14 mai vers 3h15 PST, une modification non autorisée a été apportée à l'invite de réponse du bot Grok sur X », a écrit xAI. « Cette modification, qui imposait à Grok une réponse spécifique sur un sujet politique, violait les politiques internes et les valeurs fondamentales de xAI. Nous avons mené une enquête approfondie et mettons en œuvre des mesures pour améliorer la transparence et la fiabilité de Grok. »

Vous remarquerez que xAI, propriété d'Elon Musk, suggère fortement qu'un acteur interne a effectué cette « modification non autorisée », mais n'utilise pas le langage habituel s'il s'agissait d'un employé de l'entreprise. Et nous supposons que cela pourrait être lié au fait qu'il ne s'agissait pas nécessairement d'un employé, mais du propriétaire.

Elon Musk est depuis longtemps obsédé par la théorie du complot du « génocide blanc », selon laquelle des Blancs seraient tués partout dans le monde par des non-Blancs. Cette théorie comporte souvent des éléments d'antisémitisme et s'apparente à celle du « Grand Remplacement », selon laquelle les élites mondiales chercheraient à remplacer les Blancs par d'autres races dans les pays riches du monde entier. Elon Musk s'intéresse particulièrement au prétendu « génocide blanc » qui se déroule en Afrique du Sud, pays où il est né et a grandi avant d'émigrer au Canada, puis aux États-Unis, et a partagé des tweets dans lesquels il affirme que des agriculteurs blancs sont massacrés à cause de leur origine ethnique.

La veille du comportement étrange de Grok, Musk avait tweeté en citant un message concernant l'Afrique du Sud contenant de fausses informations. La personne qui citait Musk avait publié une vidéo montrant une rue d'Afrique du Sud bordée de centaines de croix blanches. L'auteur affirmait que chaque croix représentait un fermier blanc assassiné.

« Chaque croix représente un fermier blanc assassiné en Afrique du Sud », écrit le Dr Maalof dans son récit. « Et certains nient encore que les Sud-Africains blancs/Boers soient persécutés et affirment qu'ils ne méritent pas l'asile parce qu'ils sont blancs. »

Musk a partagé le tweet avec « Tant de croix », et naturellement, plusieurs utilisateurs de X ont demandé à Grok si c'était vrai. Grok a répondu que les croix s'appelaient « Monument Witkruis » et que chacune représentait en réalité des agriculteurs de toutes origines tués. Le lendemain, les gens ont commencé à remarquer que Grok agissait bizarrement, répondant à des questions sans rapport avec le sujet par des informations sur le génocide des Blancs.

Des modifications ont été apportées à Grok à 3h15 PT (6h15 ET), ce qui a donné lieu à des plaisanteries jeudi soir sur les heures tardives de veillée d'Elon Musk. Le milliardaire tweete fréquemment à toute heure, mais il n'est pas nécessaire de présumer que Musk a veillé tard pour penser qu'il est peut-être à l'origine de ces modifications. L'oligarque milliardaire est actuellement au Moyen-Orient avec le président Donald Trump, où il rencontre des dirigeants mondiaux. Le fuseau horaire du Qatar a 10 heures d'avance sur l'heure du Pacifique, ce qui signifie qu'il était 13h15 au Qatar au moment des modifications.

Elon's Jet, le compte de médias sociaux qui suit l'avion de Musk et qui a été banni de X, montre que le milliardaire était sur le point d'atterrir à Doha lorsque tout cela se produisait.

Soyons clairs : nous n’avons aucune preuve de l’implication d’Elon Musk. Il est tout à fait possible que certains employés de xAI aient vu Musk se faire vérifier les faits par Grok au sujet du génocide des Blancs et aient voulu faire pencher la balance en faveur de leur patron. Mais Musk est connu pour modifier ses produits pour répondre à ses besoins et se rassurer. Une histoire tristement célèbre, rapportée pour la première fois par Platformer en 2023 , raconte qu’Elon Musk a été extrêmement contrarié par le fait que le tweet du président Joe Biden lors du Super Bowl ait obtenu plus de « j’aime » et de « vues » que le sien.

Le tweet de Biden sur le Super Bowl a été vu 29 millions de fois, contre seulement 9 millions pour celui d'Elon Musk, ce qui a incité ce dernier à retourner au siège de Twitter à San Francisco pour exiger des modifications de l'algorithme. Ces modifications ont fait que les utilisateurs de X ont été confrontés à un déluge de tweets d'Elon Musk. Ce n'était pas subtil.

On suppose qu'un phénomène similaire s'est produit ici. xAI a annoncé jeudi soir qu'elle commencerait à publier les invites système sur GitHub afin d'être plus transparente et de « mettre en place une équipe de surveillance 24h/24 et 7j/7 pour répondre aux incidents liés aux réponses de Grok qui ne sont pas détectés par les systèmes automatisés, afin de pouvoir réagir plus rapidement si toutes les autres mesures échouent ». Cela laisse bien sûr penser qu'il s'agit d'un problème d'automatisation plutôt que d'un enfant-homme peu sûr de lui qui bricole son jouet à plusieurs millions de dollars pour se rassurer. Mais qu'importe ?

En résumé ? Ces systèmes sont intrinsèquement biaisés par la façon dont ils sont entraînés. Et ils sont aussi incroyablement difficiles à manipuler avec précision, compte tenu du fonctionnement des grands modèles linguistiques. Grok n'est en fait qu'une machine à texte prédictif sophistiquée. Et tant qu'Elon Musk aura le contrôle des outils pour façonner l'opinion publique, il les utilisera – malheureusement, à des fins fascistes .