Lo que para un adolescente de 16 años debía ser una tarde cualquiera después de un entrenamiento de fútbol americano terminó convertido en una escena de película de acción. Ocho coches patrulla, con sus correspondientes agentes de policía gritando "¡Al suelo!" pistola en mano, acababan de congregarse frente a la entrada del instituto Kenwood.
¿El motivo? Un algoritmo de IA del sistema de videovigilancia había identificado la forma de un arma de fuego en el bolsillo de uno de ellos.
Un error con consecuencias
El joven en cuestión era Taki Allen, estudiante del centro y jugador de su equipo de fútbol americano, que se encontraba charlando con sus amigos después de entrenar, y de pronto se vio rodeado de policías que le apuntaban con sus armas:
"Me dijeron que me tirara al suelo. Me esposaron. Pensé que me iban a matar".
La supuesta 'arma' que desató el operativo era, en realidad, una bolsa de Doritos sabor picante, que se encontraba arrugada en el bolsillo del pantalón del estudiante. El sistema de detección de armas, basado en inteligencia artificial y operado por la empresa Omnilert, había emitido una alerta automática al identificar la forma del envoltorio como un posible arma de fuego.
Horas más tarde, Allen lo recordaba así:
"Me mostraron la foto y dijeron: 'Esto parece una pistola'. Yo les respondí que 'No, son unas chips'".
Su abuelo, Lamont Davis, lo resumió de forma dramática, pero no errónea: "Dios no lo quiera, mi nieto podría estar muerto si se hubiera movido un poco".
El estudiante y el 'arma' protagonistas de la noticia (Imagen | WBFF FOX45 Baltimore) La tecnología (y el protocolo) tras el error
El sistema implicado pertenece a Omnilert Gun Detection, implementado en 2024 en varias escuelas del condado de Baltimore. Según la compañía, su software "usa inteligencia artificial para analizar en tiempo real las imágenes de las cámaras de seguridad e identificar posibles armas", enviando alertas inmediatas a las autoridades.
En teoría, la detección es verificada por un operador humano antes de que la policía actúe. En la práctica, el incidente de Kenwood High demostró que el proceso puede fallar de manera grave. Omnilert calificó el suceso como un 'falso positivo', pero defendió que el sistema "funcionó según lo previsto", ya que "priorizó la seguridad y la verificación rápida por humanos".
-
La noticia Una IA confundió una bolsa de Doritos con un arma, y ocho coches de policía terminaron rodeando a un adolescente fue publicada originalmente en Genbeta por Marcos Merino .
☞ El artículo completo original de Marcos Merino lo puedes ver aquí
No hay comentarios.:
Publicar un comentario