Malasia e Indonesia bloquean el chatbot Grok por generar imágenes sexualizadas no consentidas

La inteligencia artificial Grok, de la empresa xAI de Elon Musk, enfrenta una creciente presión regulatoria a nivel mundial debido a su uso para crear imágenes sexualmente explícitas y no consentidas, lo que ha llevado a su bloqueo en dos países del sudeste asiático.

Malasia e Indonesia se han convertido en los primeros países en bloquear el acceso a Grok, el chatbot de inteligencia artificial de la compañía xAI de Elon Musk, debido a su uso indebido para generar imágenes sexualmente explícitas y no consentidas. Las autoridades de ambas naciones del sudeste asiático argumentaron que las salvaguardas de la herramienta, accesible a través de la red social X, son insuficientes para prevenir la creación y difusión de contenido pornográfico falso, incluyendo representaciones manipuladas de mujeres y menores de edad. El gobierno de Indonesia calificó los 'deepfakes' sexuales no consentidos como una “violación grave de los derechos humanos”, mientras que la Comisión de Comunicaciones y Multimedia de Malasia impuso la restricción temporal tras un “uso indebido repetido” de la herramienta. La respuesta de xAI a la controversia ha sido limitada. Tras una reacción global inicial, la compañía restringió la generación de imágenes a los usuarios de pago, pero los críticos señalan que la medida no resolvió el problema de fondo, ya que la creación de este tipo de contenido sigue siendo posible en la parte privada de Grok y su aplicación independiente. Las solicitudes de comentarios de la prensa a la empresa han sido respondidas con un mensaje automático que dice: “Legacy Media Lies” (Mentiras de los medios heredados).

La presión sobre Grok y X Corp.

se ha extendido a nivel mundial.

En Estados Unidos, tres senadores han solicitado formalmente a Apple y Google que retiren las aplicaciones de X y Grok de sus respectivas tiendas, argumentando que facilitan la difusión de contenido que viola las leyes federales y las políticas de las plataformas sobre abuso sexual infantil.

Los legisladores fijaron como fecha límite el 23 de enero para recibir una respuesta. En el Reino Unido, el regulador de medios Ofcom ha iniciado una investigación formal para determinar si la plataforma cumple con su deber de proteger a los usuarios de contenido ilegal. Además, se menciona que la herramienta enfrenta un creciente escrutinio en Francia, India y la Unión Europea, que podría tomar medidas bajo su Ley de Servicios Digitales.