El algoritmo para recomendar videos de YouTube es “una puerta abierta para los pedófilos”, alerta un reportaje del diario The New York Times. De acuerdo con diversos especialistas citados en la investigación, el sistema de recomendaciones de la plataforma de vídeos más popular del mundo está llevando a millones de usuarios a ver contenidos en los que aparecen niños y niñas, sexualizándolos.

De acuerdo con Jonas Kaiser, investigador del Centro Berkman Klein de Harvard para Internet y Sociedad, YouTube nunca tuvo la intención de ayudar a usuarios con intereses sexuales en infantes, pero su sistema automatizado los ha mantenido viéndolos con recomendaciones “perturbadoramente atinadas”.

Ni siquiera es necesario que un usuario esté buscando videos de niños en la plataforma para que termine viéndolos, sino que el algoritmo lo va guiando mediante una progresión de recomendaciones. Así, un usuario que podría comenzar viendo videos eróticos de mujeres, recibiría recomendaciones de mujeres que se ven cada vez más jóvenes, luego mujeres que se visten provocativamente en vestidos de niños, hasta eventualmente llegar a opciones de videos con niñas de cinco o seis años bañándose, vistiéndose o haciendo una pirueta.

Los usuarios, además, no solo tendrían acceso a estos videos, sino también a las cuentas de redes sociales de los infantes, incluidas a menudo en las descripciones de los vídeos. Esta no es la primera vez que YouTube o su algoritmo de recomendaciones se encuentran bajo crítica: recientemente se le acusó de ser un motor de la popularización de videos de “hechos alternativos” como historias sobre ovnis o teorías de conspiración.

La forma más contundente para lidiar con este problema, señalan especialistas al diario, sería que YouTube apague su sistema de recomendaciones para videos en los que aparecen niños, los cuales puede detectar de forma automática la plataforma, pero esto implicaría perder parcialmente su principal motor de tráfico, y en consecuencia, sacrificar parte de sus ingresos.


Imagen de Daniel AleksandersenCC BY 4.0 License