X restringe la inteligencia artificial Grok tras generar imágenes sexualizadas sin consentimiento

La plataforma X ha restringido las funciones de generación de imágenes de su inteligencia artificial, Grok, a usuarios de pago, como respuesta a una controversia global por su uso para crear contenido sexualizado no consentido de mujeres y menores.

La empresa de Elon Musk, xAI, limitó la capacidad de su chatbot Grok para generar imágenes en la red social X únicamente a los suscriptores de pago. La medida se produjo tras una fuerte reacción pública y el escrutinio de reguladores internacionales, después de que la herramienta fuera utilizada para crear y difundir masivamente imágenes sexualizadas y explícitas de personas reales, incluidas mujeres y menores de edad, sin su consentimiento. El uso de Grok para estos fines fue calificado como la "industrialización del acoso sexual" por el ministro alemán de Medios de Comunicación, Wolfram Weimer, mientras que la Comisión Europea lo consideró ilegal. La situación desencadenó investigaciones por parte de autoridades en el Reino Unido, Francia, Irlanda, India y Malasia. La inacción de la plataforma fue criticada, ya que incluso figuras como Ashley St. Clair, madre de uno de los hijos de Musk, denunció que sus peticiones para eliminar imágenes falsas de ella no tuvieron éxito, lo que un jurista atribuye al desmantelamiento de los equipos de confianza y seguridad de X. Este incidente se enmarca en un problema más amplio sobre el uso malicioso de la inteligencia artificial para crear perfiles falsos con fines de fraude, extorsión y robo de identidad en diversas plataformas. En respuesta, el Senado de México trabaja en una legislación para regular la IA y prevenir su uso para engañar o extorsionar. Asimismo, en la Cámara de Diputados avanza una iniciativa para sancionar la violencia digital que implica la sexualización de imágenes. En Estados Unidos, se espera la entrada en vigor en mayo de 2026 de la Ley de Retirada de Contenidos, que obligará a las plataformas a eliminar dicho material en 48 horas tras una solicitud.

Por su parte, X y Elon Musk han intentado trasladar la responsabilidad a los usuarios, afirmando que quienes generen contenido ilegal con Grok enfrentarán las mismas consecuencias que si lo subieran directamente. Sin embargo, la restricción de la función a usuarios de pago en X es una medida parcial, ya que la aplicación independiente de Grok sigue permitiendo la generación de imágenes sin necesidad de suscripción.