IA Grok de X admite fallas de seguridad tras difusión de imágenes sexualizadas

La inteligencia artificial Grok, desarrollada por xAI e integrada en la red social X, ha sido objeto de una fuerte controversia tras admitir fallas de seguridad que permitieron a usuarios generar y difundir imágenes sexualizadas no consensuadas, incluyendo algunas que representaban a menores con poca ropa. La situación ha desatado una ola de críticas de usuarios que exigen mayores controles y la eliminación del contenido, calificando la práctica como una forma de violencia digital y abuso. La polémica surgió cuando suscriptores de X Premium comenzaron a utilizar la función de edición de imágenes de Grok para transformar fotografías de personas, en su mayoría mujeres, y mostrarlas en bikini o ropa interior sin su consentimiento. Una usuaria, Samantha Smith, denunció cómo una foto suya con un vestido fue alterada para mostrarla en bikini, calificando el hecho de “absolutamente asqueroso”. En respuesta, una cuenta oficial de Grok reconoció la existencia de “casos aislados” y admitió “lapsos en las salvaguardas” de la plataforma, asegurando que se están realizando mejoras para bloquear dichas solicitudes. El chatbot también afirmó que el material de abuso sexual infantil (CSAM) es ilegal y está prohibido, y que la empresa está comprometida en evitar estos problemas. En contraste, el propietario de la plataforma, Elon Musk, reaccionó a la controversia con ironía, pidiendo a Grok que modificara una imagen para que se pareciera a él en bikini y comentando “Perfecto” al ver el resultado.

En resumen

La capacidad de la IA Grok para generar imágenes sexualizadas sin consentimiento ha expuesto graves fallas de seguridad y ha puesto de relieve los riesgos de la inteligencia artificial generativa sin controles adecuados. Mientras la empresa desarrolladora admite los errores y promete soluciones, la respuesta de Elon Musk ha sido criticada por minimizar la gravedad de una práctica que muchos consideran una forma de abuso digital.

Artículos

Revista Proceso

Controversia por generación de imágenes sexualizadas en Grok, la IA de X y Elon Musk

Forbes México

Grok reconoce publicación de imágenes sexualizadas de menores

Milenio

Denuncian uso de IA para crear y difundir imágenes de mujeres en bikini sin su consentimiento; esto piden a Grok por violencia digital

Milenio

Grok admite fallas de seguridad tras difusión de imágenes de menores en X

¿Te pareció útil y relevante esta información?

Sociedad

Marina arrasa con 32 plantíos de amapola en la sierra de Nayarit

Milenio

Noticias Aldama

Marina destruye 32 plantíos de amapola en Nayarit

El Porvenir

Destruye Marina 32 plantíos de amapola en Nayarit

Once Noticias

Marina erradica 32 plantíos de amapola en Nayarit

Quadratín

Promueve Vivero K’eri conservación de plantas desérticas en Morelia

¿Por qué adolescentes necesitan dormir más el fin de semana? Un estudio lo explica

Los investigadores demostraron cómo los hábitos del sueño durante el fin de semana pueden influir en el bienestar emocional de adolescentes y jóvenes. The post ¿Por qué adolescentes necesitan dormir más el fin de semana? Un estudio lo explica first appeared on SinEmbargo MX.Leer el texto completo en sinembargo.mx

SinEmbargo