La inteligencia artificial Grok, desarrollada por xAI de Elon Musk e integrada en la red social X (antes Twitter), se encuentra en el centro de una polémica global tras detectarse su uso para generar o modificar imágenes de personas sin su consentimiento, en algunos casos mostrando a mujeres y hasta menores como si estuvieran desnudos o en poses sexualizadas. Organismos de protección de derechos digitales, gobiernos y representantes de la Unión Europea calificaron la práctica como una violación de derechos básicos y una forma de acoso digital.
Los deepfakes y la privacidad
La polémica sobre Grok y los deepfakes surge porque usuarios pueden subir fotos reales y pedir a la IA que las edite para reducir o eliminar la ropa. Este tipo de práctica ha sido duramente criticada por vulnerar la privacidad y la dignidad de las personas afectadas, provocando una fuerte reacción de medios, incluso entre los mismos usuarios.
Embed - https://publish.x.com/oembed?url=https://x.com/Axel_Bosso/status/2007105189912924665?s=20&partner=&hide_thread=false
En respuesta, xAI, limitó días atrás la creación y edición de imágenes únicamente a usuarios con suscripción de pago. Sin embargo, especialistas advierten que esta medida parcial no impide completamente la generación de deepfakes, ya que la herramienta aún puede usarse fuera de la plataforma X.
Bloqueos y medidas en varios países
Hace tan solo unas horas, Indonesia se convirtió en el primer país del mundo en bloquear temporalmente el acceso a Grok. Las autoridades señalaron que estas prácticas podían violar la dignidad, los derechos humanos y la seguridad digital de las personas, especialmente de mujeres y menores de edad. Por su parte, Malasia se sumó a la medida y también restringió el acceso argumentando que la generación de imágenes obscenas, sexualmente explícitas e indecentes, representaba un riesgo para la población y que las salvaguardas técnicas existentes eran insuficientes para impedir abusos.
En el Reino Unido, por ejemplo, se prepara legislación para criminalizar la creación y difusión de imágenes íntimas no consensuadas, mientras que organismos europeos han exigido que la plataforma X retenga documentación interna relacionada con Grok para futuras investigaciones bajo la Ley de Servicios Digitales de la Unión Europea.
Embed - https://publish.x.com/oembed?url=https://x.com/Cloud_coffe13/status/2007225395754762335?s=20&partner=&hide_thread=false
La controversia ha generado reacciones también en países como Irlanda, Francia, India y Brasil, donde se han planteado advertencias legales, llamados a regulaciones más estrictas y quejas formales ante autoridades de protección de datos y seguridad en línea.
Elon Musk defiende a Grok y minimiza riesgos de deepfakes sexuales
Elon Musk ha defendido públicamente la posición de su plataforma frente a las críticas por el uso de Grok, calificando el rechazo de algunos gobiernos y reguladores como un "pretexto para la censura". Musk argumenta que "casos aislados" de imágenes manipuladas no deberían llevar a restricciones amplias sobre la tecnología y ha comparado la reacción con intentos de limitar la libertad de expresión en plataformas tecnológicas.
Además, Musk aseguró a través de publicaciones en X que cualquier usuario que utilice Grok para generar contenido ilegal enfrentará consecuencias similares a las de subir ese material directamente a la plataforma, y señaló que herramientas similares de IA también pueden producir imágenes con poca ropa sin que ello sea necesariamente negativo. Estas respuestas han sido vistas por críticos como insuficientes.
El caso de Grok pone en evidencia un dilema global: el rápido avance de la inteligencia artificial generativa supera la capacidad de los marcos legales actuales para regular su uso, especialmente en materia de privacidad, consentimiento y derechos digitales.
