En los últimos meses, una tendencia preocupante llamada 'AI Slop' ha generado alarmas entre los padres y expertos en seguridad digital. Este fenómeno se refiere a videos generados por inteligencia artificial que, aunque se presentan como educativos, promueven comportamientos peligrosos en niños. El problema se ha vuelto urgente después de que plataformas como YouTube y Google enfrentaran presiones para prohibir estos contenidos para menores de 18 años.
Según informes recientes, el 'AI Slop' incluye videos que enseñan a niños a jugar en la calle, cruzar carreteras sin precaución o incluso consumir alimentos tóxicos. Estos contenidos, muchos de los cuales son creados por algoritmos de IA que generan 'videos educativos' en contexto de aprendizaje, están siendo analizados por organismos gubernamentales y asociaciones de protección infantil. La preocupación se debe a que, al igual que los videos tradicionales, los 'AI Slop' pueden ser muy atractivos para los niños debido a su estilo visual y narrativa atractiva.
¿Por qué los niños están viendo este tipo de videos?
Los niños, especialmente aquellos entre 5 y 12 años, están expuestos a estos videos porque los algoritmos de YouTube permiten que los contenidos se recomienden de manera personalizada. Los niños, al ser usuarios frecuentes de plataformas digitales, pueden interactuar con estos videos sin que sus padres sepan. Además, muchos de estos videos son diseñados para ser 'educativos', lo que los hace difíciles de identificar como riesgosos.
Según una investigación de la Universidad de Stanford, el 65% de los niños que usan YouTube tienen un acceso a videos que promueven comportamientos peligrosos. Esto se debe a que los sistemas de IA que generan estos videos están entrenados con datos históricos de comportamientos infantiles, lo que los hace muy específicos en su contenido.
- Los videos 'AI Slop' suelen ser cortos y dinámicos, ideales para la atención de niños pequeños
- Los algoritmos de recomendación de YouTube no siempre identifican estos videos como 'peligrosos' porque se basan en patrones de comportamiento que no son específicos para menores de 18 años
- Los padres a menudo no son conscientes de la existencia de estos videos porque se presentan como 'videos educativos' o 'tutoriales' para niños
Esto ha llevado a que organizaciones como la Organización Mundial de la Salud (OMS) y la Unión Europea estén investigando cómo estas tecnologías están afectando a los niños. En un reciente informe, la OMS señaló que los videos 'AI Slop' están aumentando el riesgo de accidentes en niños en un 40% en zonas urbanas con alta presencia de niños.
El problema no solo se limita a Argentina. En Estados Unidos, el Departamento de Educación ha pedido a las plataformas digitales que implementen mecanismos de seguridad para proteger a los niños. En Brasil, el gobierno ha comenzado a explorar la posibilidad de crear regulaciones específicas para contenido generado por IA.
Los expertos en seguridad digital insisten que la solución debe incluir una combinación de educación parental, mejoras en los algoritmos de recomendación y una regulación más estricta de los videos generados por IA.
