CK Geek: Twitter intenta responder por qué su algoritmo siempre destaca a personas blancas: Mira lo que dijeron

“Ayuda. ¿Por qué Twitter solo se enfoca en el tipo blanco?“, se preguntó un usuario de la red social, acompañado de fotografías de varias personas: una de tez blanca y otra de tez negra. En los cuatro intentos (cada vez más llevados al límite), el algoritmo siempre privilegiaba al hombre blanco para generar la imagen miniatura.

help does twitter only focus on the white dude?? pic.twitter.com/AYZvOa5iMb
— uncle nole / dhara (@onyowalkman) September 21, 2020

Este fenómeno no solo ocurre con personas desconocidas para el ojo público: un ingeniero en criptografía e infraestructura y usuario de Twitter había experimentado previamente con el senador republicano Mitch McConell y el expresidente de Estados Unidos, Barack Obama:

“Probando un horrible experimento… A quién elegirá el algoritmo de Twitter: ¿Mitch McConnel o Barack Obama?”

El testeo siguió expandiéndose y se obtuvo el mismo resultado cuando se trataba de fotografías de mujeres y personas del mundo del espectáculo, como comprobó otro usuario:

Probando si es cierto que el algoritmo de Twitter elige gente blanca para las miniaturas, cuando hay dos personas en las fotos. pic.twitter.com/Lr3Tn1NhO0
— Leo (@loeanrdo) September 20, 2020

¿Qué ha dicho Twitter al respecto?

Las dudas llegaron hasta el equipo de la red social, desde donde una miembro del equipo de comunicación de Twitter, Liz Kelley, quien agradeció la preocupación y aseguró que “probamos el sesgo antes de enviar el modelo y no encontramos evidencia de sesgo racial o de género en nuestras pruebas, pero está claro que tenemos más análisis por hacer”.

Kelley también afirmó que facilitarán este peculiar código para que otras personas lo puedan revisar, analizar y reproducir, para así encontrar respuesta a la lógica del bullado algoritmo.

thanks to everyone who raised this. we tested for bias before shipping the model and didn't find evidence of racial or gender bias in our testing, but it’s clear that we’ve got more analysis to do. we'll open source our work so others can review and replicate. https://t.co/E6sZV3xboH
— liz kelley (@lizkelley) September 20, 2020

Por su parte, el Director de Tecnología de la plataforma, Parag Agrawal, agregó que “es una pregunta muy importante. Para solucionarlo hicimos un análisis de nuestro modelo cuando lo enviamos, pero necesita una mejora continua. Amo esta prueba pública, abierta y rigurosa y estoy ansioso por aprender de esto”.