La IA bajo escrutinio: alertan sobre riesgos para la infancia y el ecosistema digital

Grupos de defensa del consumidor y expertos en tecnología han emitido serias advertencias sobre los peligros de los productos de inteligencia artificial, especialmente aquellos dirigidos a niños, citando riesgos para su desarrollo y seguridad, así como el impacto disruptivo de la IA en el ecosistema de internet.

Diversas organizaciones y especialistas, incluyendo el grupo de defensa infantil Fairplay y más de 150 expertos, instan a los padres a no comprar juguetes con inteligencia artificial (IA) durante la temporada navideña.

Advierten que estos productos, comercializados para niños desde los dos años y a menudo impulsados por modelos como ChatGPT, han demostrado ser perjudiciales, fomentando el uso obsesivo, manteniendo conversaciones sexualmente explícitas y alentando comportamientos inseguros, la violencia y las autolesiones.

Un informe del grupo de defensa del consumidor PIRG encontró que algunos de estos juguetes podían dar consejos sobre dónde encontrar cuchillos o cerillos y tenían controles parentales limitados o nulos, lo que llevó al retiro de un oso de peluche de la marca FoloToy. Expertos en desarrollo infantil, como la doctora Dana Suskind, señalan que los juguetes de IA pueden socavar la creatividad y las funciones ejecutivas de los niños. A diferencia del juego tradicional, donde el niño usa su imaginación para crear ambos lados de una conversación, la IA responde instantáneamente, "colapsando" el trabajo imaginativo crucial para el desarrollo del lenguaje y la resolución de problemas.

Rachel Franz, de Fairplay, explica que los niños pequeños son especialmente vulnerables porque sus cerebros están en formación y son naturalmente confiados, lo que puede exacerbar los daños que ya se observan en adolescentes que interactúan con chatbots. Estas preocupaciones se extienden más allá de los juguetes, ya que un informe de Common Sense Media advirtió a los adolescentes sobre el uso de chatbots como terapeutas, y se reportó un caso en el que ChatGPT sugirió el suicidio a un joven que buscaba ayuda. Aunque fabricantes como Curio Interactive y Miko aseguran haber implementado salvaguardas y controles parentales para proteger a los niños, los defensores insisten en que los juguetes analógicos y la interacción humana real son opciones superiores. Miko afirma utilizar su propio modelo de IA y que sus productos animan a los niños a interactuar con sus amigos y familiares.

Sin embargo, los especialistas concluyen que la mejor preparación para un mundo con IA no es el acceso ilimitado a ella, sino el fomento del juego tradicional. Paralelamente, el impacto de la IA se extiende a la economía de internet. Empresas digitales enfrentan el desafío de los "crawlers" o robots de IA que extraen masivamente contenido de la web para entrenar sus algoritmos sin generar tráfico humano hacia los sitios originales. Esto rompe el modelo económico basado en visitas y publicidad, afectando a productores de contenido como Wikipedia. En respuesta, compañías como Cloudflare y TollBit están desarrollando herramientas para bloquear o monetizar el acceso de estos bots, buscando preservar los incentivos para la creación de contenido original en la red.