xAI de Elon Musk afirma que una "modificación no autorizada" hizo que Grok propague la teoría de la conspiración sobre el genocidio blanco.

La herramienta de inteligencia artificial Grok de Elon Musk se descontroló el miércoles al responder preguntas inocuas en X con información sobre el " genocidio blanco " en Sudáfrica. Fue un fallo confuso y a veces hilarante , pero ahora tenemos algunas respuestas sobre lo sucedido gracias a xAI. Y, francamente, nos dejan con más preguntas.

xAI publicó un tweet el jueves por la noche explicando su situación, incluyendo el momento exacto en que se realizaron cambios en Grok que hicieron que emitiera frases sobre “genocidio blanco” sin importar lo que preguntaran los usuarios.

“El 14 de mayo, aproximadamente a las 3:15 a. m. PST, se realizó una modificación no autorizada en el mensaje del bot de respuesta de Grok en X”, escribió xAI. “Este cambio, que obligaba a Grok a proporcionar una respuesta específica sobre un tema político, violó las políticas internas y los valores fundamentales de xAI. Hemos llevado a cabo una investigación exhaustiva y estamos implementando medidas para mejorar la transparencia y la fiabilidad de Grok”.

Notarán que xAI, propiedad de Elon Musk, sugiere firmemente que hubo un actor interno que realizó esta "modificación no autorizada", pero no usa el lenguaje que esperarían si se tratara de un empleado de la empresa. Y suponemos que esto podría estar relacionado con el hecho de que no fue necesariamente un empleado, sino el propietario.

Musk lleva mucho tiempo obsesionado con la teoría conspirativa del "genocidio blanco", la idea de que personas blancas están siendo asesinadas en todo el mundo por personas no blancas. Esta teoría conspirativa suele incluir elementos de antisemitismo y es similar a la llamada teoría conspirativa del Gran Reemplazo, que afirma que las élites globales intentan reemplazar a las personas blancas por otras razas en los países ricos de todo el mundo. Musk está particularmente interesado en el supuesto "genocidio blanco" que está ocurriendo en Sudáfrica, el país donde nació y creció antes de emigrar a Canadá y finalmente a Estados Unidos, y ha compartido tuits en los que insiste en que los agricultores blancos están siendo masacrados por su raza.

El día antes de que Grok empezara a comportarse de forma extraña, Musk citó en Twitter una publicación sobre Sudáfrica que contenía información errónea. La persona a la que Musk citaba en Twitter publicó un video que mostraba una calle de Sudáfrica con cientos de cruces blancas a cada lado. El usuario afirmaba que cada cruz representaba a un granjero blanco asesinado.

“Cada cruz representa a un granjero blanco asesinado en Sudáfrica”, escribió el Dr. Maalof en su relato. “Y algunos aún niegan que los sudafricanos/bóers blancos sean perseguidos y afirman que no merecen asilo por ser blancos”.

Musk compartió el tuit con " Tantas cruces", y, como era de esperar, varios usuarios de X le preguntaron a Grok si era cierto. Grok respondió que las cruces se llamaban Monumento Witkruis y que cada una representaba a agricultores de cualquier raza que habían sido asesinados. Al día siguiente, la gente empezó a notar que Grok se comportaba de forma extraña, respondiendo a preguntas sin relación con información sobre el genocidio blanco.

Los cambios en Grok se realizaron a las 3:15 a. m. PT (6:15 a. m. ET), lo que provocó bromas el jueves por la noche sobre lo tarde que Musk se desvela cada noche. El multimillonario suele tuitear a toda hora, pero no es necesario asumir que Musk se quedó despierto hasta tarde para pensar que él pudo haber estado detrás del cambio en Grok. El oligarca multimillonario se encuentra actualmente en Oriente Medio con el presidente Donald Trump, reunido con líderes mundiales. La zona horaria de Catar está 10 horas adelantada respecto a la hora del Pacífico, lo que significa que eran las 1:15 p. m. en Catar cuando se estaban realizando los ajustes.

Elon's Jet, la cuenta de redes sociales que rastrea el avión de Musk y que ha sido prohibida en X, muestra que el multimillonario estaba a punto de aterrizar en Doha cuando todo esto estaba sucediendo.

Para ser claros, no tenemos pruebas de que Musk estuviera involucrado. Es muy posible que algunos trabajadores de xAI vieran a Musk siendo verificado por Grok sobre el genocidio blanco y quisieran usar la herramienta de IA a favor de su jefe. Pero Musk es conocido por modificar sus productos para satisfacer sus necesidades y sentirse mejor. Hay una historia infame, reportada por primera vez por Platformer en 2023 , en la que Musk se enojó muchísimo porque el tuit del presidente Joe Biden sobre el Super Bowl obtuvo más "me gusta" y visualizaciones que el de Musk.

El tuit de Biden sobre el Super Bowl recibió 29 millones de impresiones, mientras que el de Musk solo 9 millones. Esto llevó a Musk a regresar a la sede de Twitter en San Francisco para exigir cambios en el algoritmo. Estos cambios provocaron que los usuarios de X vieran una avalancha de tuits de Musk. No fue sutil.

Suponemos que algo similar ocurrió aquí. xAI anunció el jueves por la noche que comenzaría a publicar indicaciones del sistema en Github para ser más transparente y " establecer un equipo de monitoreo 24/7 para responder a incidentes con las respuestas de Grok que no sean detectados por sistemas automatizados, para que podamos responder más rápido si todas las demás medidas fallan". Esto, por supuesto, da la impresión de que se trataba de un problema de automatización en lugar de un niño inseguro trasteando con su juguete multimillonario para sentirse mejor. Pero lo que sea que tengan que decirse a sí mismos.

En resumen, estos sistemas están intrínsecamente sesgados por su entrenamiento. Además, son increíblemente difíciles de manipular con precisión, dado el funcionamiento de los grandes modelos lingüísticos. Grok es, en esencia, una sofisticada máquina de texto predictivo. Y mientras Musk controle las herramientas para moldear la opinión pública, las usará, por desgracia, con fines fascistas .