A pesar de los algoritmos, es inevitable que cualquiera que pase un tiempo en internet se exponga a contenido violento o sexual, algo especialmente peligroso cuando son los más pequeños los que se sientan delante de la pantalla. De este tema, pocos sitios tienen tan claro los riesgos como YouTube, que tiene en YouTube Kids una app específica para ellos.

La popular plataforma de vídeos ya ha contratado a un auténtico ejército de personas con la misión de moderar su contenido, una misión un tanto complicada dado el volumen de usuarios y vídeos subidos diariamente. Sin ir más lejos, periódicamente se vuelven virales ciertas tendencias absurdamente peligrosas como comer jabón, sin que nadie puede hacer nada para evitarlo.

Y es que ni la inteligencia artificial es capaz de hacer frente de forma efectiva. Después de todo, el Machine Learning requiere de un entrenamiento profundo y nunca habrá nada como el factor humano para discernir cuándo una parte del cuerpo es algo artístico o natural y cuando vulnera las condiciones de uso.

Pero, ¿qué pasa con los niños? ¿cómo lidiar con este problema en una plataforma específica para el aprendizaje y la diversión infantil? Pues de la misma manera: usando curadores humanos, como leemos en Mashable.

Ver vídeos en YouTube kids será tan seguro como si estuvieras delante. Menores en red

¿Por qué nadie piensa en los niños?

Una nueva actualización de la app YouTube Kids podría permitir eliminar el algoritmo de YouTube encargado de seleccionar los vídeos que aparecen y ser sustituida por humanos que velarán por el contenido y los canales sean aptos para los más pequeños.

Un paso atrás tecnológicamente hablando, pero muy efectivo

Como explican en Buzzfeed, se tratará de una versión en forma de whitelist que podrá ser seleccionada por los padres, de forma que coexistirá con la versión tradicional.

Así, los padres tendrán la última palabra tanto a la hora de permitir a sus hijos acceder a la app como su contenido, librándose de vídeos completamente inadecuados con una efectividad tal que será como si ellos mismos lo estuvieran supervisando.

Esta modificación llega justo un mes después de que Business Insider publicase una investigación en la que se mostraba cómo YouTube Kids sugería vídeos conspiranoicos, por ejemplo aquellos que aseguran que la tierra es plana o que el planeta está gobernado por híbridos mitad humanos, mitad reptiles.

En palabras de la persona de confianza que ha filtrado la noticia, esta versión será lanzada en cuestión de semanas. Por el momento, YouTube no ha hecho público las características de esta actualización, ni siquiera ha negado el rumor, limitándose a afirmar que:

Nosotros siempre estamos trabajando para actualizar y mejorar YouTube Kids, aunque no hacemos comentarios sobre rumores o especulaciones relativas a nuestra plataforma.

Tras conocerse el escándalo de Facebook y Cambridge Analytica y comprobar cómo cada vez iba a peor, los grandes tecnológicos cada vez se están dando más cuenta de la importancia de anticiparse para evitar y minimizar los riesgos a los que se exponen los usuarios al usar sus productos.

Después de todo, esta versión whitelist de YouTube podría ser una señal de que una nueva filosofía está emergiendo en la que, por encima de los beneficios económicos y las grandes cifras, prevalece la seguridad y la privacidad. Es decir, que por fin parece que en internet el fin no justifica los medios.