Grok, el chatbot de inteligencia artificial desarrollado por la empresa xAI de Elon Musk, presentó respuestas inexactas y contradictorias al abordar información sobre la guerra de 12 días entre Israel e Irán, según un estudio reciente. A medida que las plataformas como Facebook han reducido la verificación por parte de periodistas, cada vez más usuarios acuden a herramientas de IA como Grok para buscar información confiable. Sin embargo, las respuestas obtenidas en ocasiones resultan desinformativas.
Un estudio publicado este martes por un laboratorio de investigación digital del Atlantic Council – un grupo de reflexión estadounidense – analizó las respuestas del chatbot durante los primeros días del conflicto. Los resultados mostraron fallos significativos y evidenciaron las limitaciones de Grok para ofrecer información precisa, confiable y coherente en momentos de crisis.
El análisis contempló 130 mil mensajes en diversos idiomas publicados en la plataforma X, donde opera Grok. Los hallazgos indican que el chatbot tuvo dificultades para verificar el contenido generado por la IA. Por ejemplo, tras los ataques de represalia de Irán contra Israel, Grok ofreció respuestas variables respecto a imágenes generadas por IA, que mostraban un aeropuerto destruido y que acumulaban millones de visualizaciones en X. En algunos casos, negaba la destrucción, en otros, confirmaba que el aeropuerto había sido alcanzado por los ataques. Además, proporcionaba información contradictoria, diciendo que los daños se debían a misiles desde Yemen o que se trataba de aeropuertos en Beirut, Gaza o Teherán.
Expertos han señalado que Grok ya cometió errores en la verificación de hechos relacionados con el conflicto entre India y Pakistán, además de fallar durante las manifestaciones en Los Ángeles contra redadas migratorias ordenadas por el expresidente estadounidense Donald Trump.
El mes pasado, el servicio de IA de xAI generó polémica al mencionar erróneamente un “genocidio blanco” en Sudáfrica. La compañía explicó posteriormente que el error fue causado por una “modificación no autorizada”.
