Indonesia bloquea la inteligencia artificial Grok de X por generar contenido sexual falso

La inteligencia artificial Grok, de la plataforma X, enfrenta un escrutinio global por la creación de contenido sexual falso sin consentimiento, lo que ha provocado su bloqueo en Indonesia y acciones regulatorias en Europa.

El gobierno de Indonesia bloqueó el acceso a Grok, la herramienta de inteligencia artificial de la red social X, debido a la proliferación de imágenes y falsificaciones sexuales no consentidas. El Ministerio de Comunicación y Asuntos Digitales calificó esta práctica como una “violación grave de los derechos humanos” y una forma de “violencia digital”, argumentando que la medida busca proteger a mujeres, menores y a la comunidad en general de los riesgos asociados a este tipo de contenido. La ministra Meutya Hafid señaló que el bloqueo es de carácter temporal y que el futuro de la herramienta en el país dependerá de la disposición de X para ofrecer “aclaraciones inmediatas” sobre los efectos negativos de Grok. Las autoridades indonesias han exigido a la empresa de Elon Musk la implementación de filtros de contenido más estrictos y la aplicación de criterios éticos en el desarrollo y uso de su inteligencia artificial. El gobierno recordó que los proveedores de servicios de internet tienen la obligación de evitar la difusión de material prohibido. Esta acción se suma a la presión internacional sobre la plataforma.

En respuesta a las críticas, X restringió la función de generación de imágenes de Grok únicamente para suscriptores de pago. Por su parte, la Comisión Europea emitió una “orden de conservación”, obligando a la empresa a resguardar toda la documentación interna relacionada con la IA hasta finales de 2026. Este hecho se produce semanas después de que la Unión Europea sancionara a X con una multa por violar la Ley de Servicios Digitales (DSA). Asimismo, el gobierno del Reino Unido exigió a X una respuesta inmediata para detener la difusión de las imágenes falsas. La ministra de Tecnología, Liz Kendall, describió el contenido como “absolutamente repugnante e inaceptable”.

Elon Musk declaró que cualquier usuario que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que si subiera dicho contenido directamente.