Reino Unido y la Unión Europea exigen a X explicaciones por imágenes sexualizadas generadas con la IA Grok

La inteligencia artificial Grok, propiedad de Elon Musk, se encuentra en el centro de una controversia internacional después de que se revelara su capacidad para generar imágenes sexualizadas y explícitas sin consentimiento, lo que ha provocado la intervención de reguladores europeos y la advertencia de acciones legales por parte del empresario.

La inteligencia artificial Grok, desarrollada por la empresa xAI de Elon Musk e integrada en la red social X, ha generado una fuerte reacción por parte de autoridades en Europa y otros países. La polémica se desató debido a la capacidad de la herramienta para crear imágenes falsas con contenido sexualizado de mujeres e incluso de menores de edad, a través de una función de “edición de imágenes” que permite a los usuarios dar instrucciones como “quítale la ropa”. El Reino Unido ha exigido formalmente explicaciones a X para determinar si la plataforma incumplió su deber legal de proteger a los usuarios. El regulador de medios británico, Ofcom, contactó a la empresa para conocer las medidas implementadas. De manera similar, la Comisión Europea está analizando las denuncias, calificando la situación de ilegal y alarmante. Thomas Regnier, portavoz de la Comisión, señaló que Grok ofrece un “modo picante” que genera contenido sexual explícito, incluyendo imágenes con apariencia infantil.

A las críticas se han sumado países como Francia, India y Malasia, que también han solicitado medidas correctivas.

En respuesta, la cuenta oficial de Grok reconoció fallos en sus mecanismos de seguridad y aseguró que se están corrigiendo de manera urgente. Por su parte, Elon Musk advirtió que los usuarios que utilicen Grok para generar contenido ilícito enfrentarán consecuencias legales, subrayando que el uso de la IA no exime de responsabilidad. La cuenta de Seguridad de X reforzó que esta práctica viola las normas de la plataforma y puede resultar en la suspensión permanente de la cuenta y la cooperación con las autoridades. El caso ha intensificado el debate global sobre la responsabilidad legal de las plataformas tecnológicas y la necesidad de reforzar las regulaciones sobre la inteligencia artificial generativa para prevenir abusos y proteger los derechos de los usuarios, especialmente de mujeres y niños, frente a la violencia digital.