Una imagen de una familia humilde española de los años 50 se ha convertido recientemente en el epicentro de una polémica viral en X. La fotografía acabó desatando la histeria de muchos usuarios, una histeria provocada por una confianza ciega hacia las respuestas de una inteligencia artificial, en este caso la de Grok. Otro ejemplo de que verificar información histórica con IA tiene sus cosas.
Lo que ocurrió. Todo comenzó cuando el usuario @kritikafull publicó una fotografía en blanco y negro de una familia en condiciones de pobreza, acompañada de la siguiente frase en tono irónico: “Con Franco vivíamos mejor”. La imagen generó miles de visualizaciones, pero también despertó el interés de muchos usuarios que dudaron de que la fotografía fuese tomada en España y acabaron recurriendo a Grok, como habitualmente suele pasar últimamente en la red social, para verificar la información.
El origen de la polémica. Imagen: Estudio Fotográfico Arenas Una respuesta problemática. Grok identificó erróneamente la fotografía como una imagen tomada durante la Gran Depresión estadounidense, atribuyéndola al fotógrafo Walker Evans y afirmando que mostraba a la familia Burroughs. Esta respuesta se replicó masivamente en decenas de publicaciones que acumularon miles de visualizaciones, convirtiendo el error en una aparente verdad que sirvió para desacreditar la publicación original.
Si la IA dice que no, me lo creo. Cuando la historiadora le aportó a Grok la documentación real, la inteligencia artificial se mostró inflexible durante horas, insistiendo en que se trataba de un "error de la UMA" y manteniendo que había "verificado" la similitud con la foto americana. Incluso después de que la historiadora le proporcionara enlaces directos y comparativas visuales evidentes, Grok tardó casi dos horas en reconocer su equivocación.
El daño ya estaba hecho, ya que las publicaciones que tomaban por cierta la verificación de Grok acabaron inundando la red social con miles de visualizaciones. Mientras tanto, la comprobación real de la historiadora (y de otros usuarios como @RemusOkami, según nos recuerda en su hilo) apenas acumularon al principio una fracción de lo que consiguieron el resto de publicaciones que viralizaban la respuesta errónea de Grok.
En contextos polarizados cuando cualquier información puede instrumentalizarse políticamente, la IA puede acabar convirtiéndose también en una herramienta peligrosa. Sobre todo por su capacidad para generar respuestas rápidas y sin verificar para contrastar determinados hechos. Por suerte, este caso no ha sido grave, pero refleja la masiva adopción de las herramientas de IA y lo mucho que comenzamos a confiar en ellas.
Imagen de portada | Estudio Fotográfico Arenas y Walker Evans
En Xataka | Microsoft lo apostó todo a OpenAI para ganar la carrera de la IA. Empieza a darse cuenta de su error
-
La noticia "¿Es esto verdad, Grok?": los problemas de derivar a la IA algo tan sencillo como reconocer una foto del franquismo fue publicada originalmente en Xataka por Antonio Vallejo .
☞ El artículo completo original de Antonio Vallejo lo puedes ver aquí
No hay comentarios.:
Publicar un comentario