Los algoritmos de YouTube le han provocado varios problemas a la plataforma este año. Recientemente se conoció que su sistema encargado de marcar videos inapropiados empezó a marcar contenido oficial de Google. Pero antes de esto, otro problema se presentó cuando varios anunciantes decidieron retirar su publicidad porque aparecía junto a videos de grupos terroristas. Ahora, nuevamente YouTube vuelve a ser foco de críticas. Esta vez parece que su algoritmo completaba los términos de búsqueda con frases inapropiadas.
De acuerdo con BuzzFeed News, al introducir términos como ‘How to have’, el buscador completaba con frases como ‘s*x with kids’ y ‘s*x in school’. Así que, muchas marcas empezaron a retirar sus anuncios porque no querían que se les relacionaran con ese contenido. Por supuesto, estas sugerencias de búsqueda ya no aparece en YouTube. La plataforma no tardó en corregir este error gracias a los avisos de los usuarios y a los medios que denunciaron lo que estaba sucediendo.
Un vocero de YouTube le dijo a BuzzFeed News que el asunto aún está bajo investigación. “Hoy temprano nuestros equipos fueron alertados de este horrible resultado y trabajamos para eliminarlo rápidamente. Estamos investigando este asunto para determinar qué había detrás de la aparición de esto”.
Lo cierto es que, Google, la empresa matriz de YouTube, ha recibido diversas críticas por resultados controvertidos en las búsquedas. En un esfuerzo por educar a los usuarios sobre sus resultados algorítmicos, la compañía detalló su funcionamiento en una publicación en su blog el año pasado.
En dicha publicación, Google señaló que el “algoritmo de autocompletar está diseñado para evitar completar una búsqueda del nombre de una persona con términos ofensivos o despectivos”. La publicación también destacó que “Autocompletar no es una ciencia exacta, y el resultado de los algoritmos de predicción cambia con frecuencia. Las predicciones se producen en función de una serie de factores, incluida la popularidad y la frescura de los términos de búsqueda”.
Para reflexionar: ¿es culpa de YouTube?
La cuestión es que los algoritmos son intrínsecamente imperfectos. Las computadoras tienen dificultades para identificar el valle extraño que separa un simple video de uno que es completamente inapropiado. Por supuesto, los videos que violan los términos del servicio de YouTube pueden ser marcados y eliminados. YouTube también usa filtros algorítmicos para capturarlos antes de que se publiquen. El sistema no es perfecto, pero YouTube parece estar comprometido con él.
Entonces, ¿es culpa de una compañía tecnológica? Por supuesto no. YouTube soporta una tremenda carga a la hora de decidir cómo dejar subir los videos correctos y evitar los malos. Muchos se sorprenden cuando la plataforma no capta todos los videos inapropiados. Pero quienes graba esos videos son realmente el problema. Queda por ver si eso dice más sobre las limitaciones de YouTube o las propias perversiones humanas.