Durante las últimas décadas los educadores y psicólogos advertían con frecuencia de los peligros de convertir la televisión en una niñera improvisada, de soltar a los niños frente a la pantalla sin supervisión alguna con la esperanza de disfrutar de unos minutos de paz.

Sigue siendo un problema. Los niños españoles ven una media de dos horas y media de televisión al día, mucho más de lo que dedican los espectadores infantiles de otros países europeos. Los padres, sin embargo, tienen motivos para dudar de esta cifra. ¿Cuándo fue la última vez que vieron a sus hijos sentados frente a la gran pantalla?

El problema que tienen, ahora, es que resulta imposible despegarlos de YouTube.

El popular servicio de vídeos bajo demanda ha comenzado a suplantar el rol que hasta hace poco tenían los canales de infantiles. Gracias a la ubicuidad de tabletas y móviles los más pequeños crecen acostumbrados a tener una pantalla personal y entretenimiento durante las 24 horas al día. El catálogo de series animadas y vídeos orientados a su edad es prácticamente infinito.
Alphabet, la empresa propietaria del servicio, es consciente del éxito que tiene entre la población más joven. En 2015 lanzó al mercado YouTube Kids, una aplicación para móviles y tabletas que recopila vídeos orientados específicamente al público infantil y que, aunque mantiene los anuncios que hay en muchos de los vídeos, cuenta con una serie de protecciones adicionales y control parental para administrar el tiempo que los niños pasan frente a la pantalla.

El éxito de YouTube Kids se debe en buena parte a la preselección del contenido. En lugar de tener que bucear por los millones de vídeos que hay en YouTube, presenta a los padres listas de vídeos específicamente pensadas para los más pequeños y separados por edad recomendada.

Pero estas listas no se generan siempre de forma manual. Aunque hay editores humanos, un algoritmo es el encargado de identificar automáticamente vídeos de interés o relacionados con los ya seleccionados.

El algoritmo no es perfecto y se enfrenta a un problema inimaginable hace solo unos años: vídeos de dudosa procedencia protagonizados por los personajes populares de series infantiles, pero con historias violentas y con contenido inapropiado.

Nadie sabe exactamente quiénes o por qué motivos crean estos vídeos, pero consiguen engañar con facilidad al de selección de programas y el resultado es que, entre docenas de vídeos perfectamente adecuados para un niño de cuatro, seis o doce años, se puede colar uno con imágenes o diálogos perturbadores.

La voz de alarma la dio la periodista Laura Juneel pasado mes de marzo en la publicación The Outline. Su hija estaba viendo en la tableta vídeos de Peppa Pig cuando June escuchó una voz un tanto diferente a la que suele tener el personaje. El vídeo que la niña había seleccionado mostraba una visita de Peppa Pig a un dentista que usaba una jeringuilla de gran tamaño y hacía daño a la protagonista, elementos que no se encuentran nunca en una narración original de una serie dirigida a niños.
Investigando el historial de visualizaciones descubrió otros vídeos de aspecto similar a los originales, pero con las voces o el argumento cambiados, en ocasiones con giros violentos o que podrían asustar a los más pequeños.

Este fenómeno de los vídeos infantiles falsos también han llegado a España. Santiago M. se encontró recientemente con uno de ellos en la sesión de YouTube de su hijo. “Estaba en la lista de reproducción que generó al darle a un vídeo de la llamada La Súper Patrulla”, afirma.

Estas listas se generan al seleccionar un vídeo principal y suelen contener más episodios del mismo creador, pero también contenido parecido que proviene de otros creadores. “Se hace una mezcla en la que he podido observar que hay vídeos obviamente infantiles, pero otros más extraños o en este caso -y he de decir que por suerte el único-, imágenes inapropiadas”.

En el vídeo en cuestión los personajes de la serie La Patrulla Canina aparecían representados en dos dimensiones, en lugar de la estética tridimensional que suelen tener en el programa. En el episodio, uno de los personajes era atropellado y dejaba un reguero de sangre en la calzada. En otra captura, la miniatura del vídeo sugerido a continuación de un episodio de la Super Patrulla mostraba a uno de los protagonistas de La Patrulla Canina -también dibujado en dos dimensiones- orinando sobre la cara de otro.

Carlos R., de Valencia, asegura que también se ha encontrado con videos de contenido cuestionable en varias ocasiones. “No son accesibles en la selección inicial pero según vas viendo los vídeos, en la lista de relacionados puede sugerir alguno inapropiado. En mi caso, buscados vídeos de muñecos de plastilina de superhéroes, he encontrado vídeos en los que a mitad de la acción la imagen cambia a personas en su casa disfrazados haciendo tonterías, por ejemplo”, asegura.

En YouTube explican que hay herramientas para eliminar rápidamente este tipo de vídeos del catálogo de YouTube Kids. “Probamos y afinamos nuestros sistemas de forma rigurosa, pero ningún algoritmo es perfecto”, aseguran desde la compañía. “Cuando suceden estos casos es posible marcar el vídeo para revisión y el equipo de revisión trabaja durante las 24 horas del día, los siete días de la semana. cuando encontramos contenido ofensivo lo quitamos en cuestión de horas”, añaden.

La aplicación tiene también opciones de seguridad adicionales, como el bloqueo del sistema de búsqueda, que pueden ayudar a evitar un susto a más de un niño… y más de un padre.