YouTube ha adelantado sus planes para expandir el uso de la tecnología de aprendizaje automatizado con el objetivo de detectar el contenido inapropiado.

A fines de 2020 esta herramienta se empleará en la aplicación de restricciones etarias para los videos.

En otras palabras, los algoritmos evaluarán el material subido y si encuentran algo que no es conveniente para los niños lo marcarán como tal.

Echa la ley, la trampa, y la nueva ley

Adicionalmente la plataforma aplicará otras técnicas para evitar algunos puntos ciegos. En el caso de los videos pegados en otros sitios web, cuando se intente reproducirlos Google hará una redirección a YouTube para que exija que el usuario pruebe que tiene más de 18 años.

Por supuesto, quienes suban los videos tendrán la oportunidad de apelar las calificaciones. La empresa también ha señalado que no habrá un cambio en los beneficios obtenidos por los videos.

Traumas

Uno de los mayores beneficios que tendría la automatización sería el filtrado de contenido sin tener que sacrificar la salud mental de los seres humanos.

Una ex moderadora ha presentado una demanda contra la empresa en California. En el escrito se señala que la exposición a contenido violento y perturbador la ha llevado a desarrollar una depresión y síntomas consistente con el trastorno de estrés postraumático.

Además de una compensación por su sufrimiento la demandante exige que la emprea implemente mejores programas para asistir a sus empleados.

Contenido no recomendable

Algunos ejemplos del contenido al que estuvo expuesta incluyen abuso de niños, ataques armados en escuelas en las que murieron menores, decapitaciones, un zorro siendo desollado en vida, gente comiendo de un cráneo destrozado y la cabeza de una persona siendo aplastada por un tanque.

La demanda señala que el equipo de moderación de YouTube es reducido y muchos de sus miembros tienen que ver de 100 a 300 videos por día. Por supuesto no todos son de igual contenido o la misma magnitud.