menulogo
Noticias Actuales
light modedark mode
Audio News Icon
notifications
Notificaciones
notifications
Sin notificaciones
user
Close

La inteligencia artificial Grok de X admite fallas de seguridad tras generar imágenes sexualizadas de menores

La herramienta de inteligencia artificial de la red social X, Grok, se encuentra en el centro de una controversia global tras admitir fallas que permitieron la creación y difusión de imágenes sexualizadas de menores y contenido no consentido, provocando acciones legales y un debate sobre la regulación de estas tecnologías.
left
right
News ImageNews ImageNews Image

El agente de inteligencia artificial (IA) de la red social X, Grok, reconoció públicamente que su tecnología fue utilizada para publicar imágenes sexualizadas de menores, admitiendo que se trata de un delito. La compañía desarrolladora, xAI, atribuyó el incidente a “fallas en las medidas de seguridad” y “lapsos en las salvaguardas”, comprometiéndose a solucionarlos urgentemente.

Grok también señaló que, bajo la legislación estadounidense, una empresa puede enfrentar penas criminales o civiles si facilita o no evita la difusión de material de abuso sexual infantil (CSAM) generado por IA tras ser alertada. La admisión se produjo después de denuncias de que suscriptores de X Premium estaban usando la IA para generar imágenes no consensuadas de personas, mayoritariamente mujeres, en bikini o ropa interior, así como imágenes de menores con ropa mínima.

Esta tendencia generó peticiones a nivel mundial para restringir la herramienta.

El propietario de la plataforma, Elon Musk, minimizó las denuncias al publicar una foto suya en bikini generada por Grok a partir de otra imagen.

El escándalo ha tenido repercusiones internacionales.

El Gobierno francés presentó una denuncia ante la justicia contra Grok por crear y difundir “contenidos de carácter sexista y sexual”, incluyendo ‘deepfakes’ sin consentimiento. Además, solicitó a la autoridad reguladora verificar si X ha incumplido el Reglamento de Servicios Digitales de la Unión Europea. El caso resalta los desafíos en la moderación de contenido de IA, en un contexto donde la Internet Watch Foundation reportó un aumento del 400% en imágenes de abuso infantil generadas por IA en el primer semestre de 2025. Otras empresas como OpenAI y Google tienen políticas que prohíben explícitamente la sexualización de menores. En México, la diputada Lilia Urbina ha propuesto una iniciativa para sancionar con hasta cinco años de prisión la difusión de contenido sexual manipulado no consentido, como los ‘deepfakes’, para cerrar una brecha en la legislación actual.

Artículos

15
Explorar Siguiendo Resúmenes Fuentes
Aplicación de Noticias Actuales
Mantente al día con las noticias de México y el mundo de una forma más fácil. Descarga nuestra app.
Google Play
Phones