Todo el debate sobre la IA gira en torno a lo mismo: empleo, deepfakes, derechos de autor, automatización. Son preguntas razonables. Pero hay una que importa en un nivel superior: ¿quién controla lo que la IA considera la verdad? Porque la IA, que parecía la gran descentralizadora, es en realidad la tecnología más centralizadora desde la imprenta.
El telón de fondo. Cuando llegó la imprenta, los reformistas protestantes la vieron como el fin del monopolio papal sobre el conocimiento: si cualquiera podía leer la Biblia, el papa perdía su autoridad. Y en parte tenían razón. Pero la imprenta también estandarizó el inglés como lengua dominante, liquidó dialectos regionales y, de paso, hizo posible al Estado moderno: sin texto barato y reproducible no hay leyes uniformes ni recaudación de impuestos a gran escala.
Lo que parecía una liberación también fue una centralización. Solo que tardamos dos siglos en darnos cuenta.
Entre líneas. Con la IA el proceso va mucho más rápido. Cuando Google muestra una respuesta de Gemini en AI Overviews, la mitad de los usuarios ya no hace clic en nada y el 26% cierra la búsqueda directamente. Las búsquedas sin clics han pasado del 54% al 72%.
La web abierta, con toda su diversidad y su caos, está perdiendo usuarios a manos de una sola respuesta sintetizada, como ha analizado la periodista Jerusalem Demsas en The Argument.
Y esa respuesta no es neutral. Los LLMs se entrenan sobre todo con grandes periódicos anglófonos, Wikipedia y textos académicos. Las fuentes locales o minoritarias apenas existen en el corpus. Y durante el ajuste fino los modelos se calibran para alinearse con el consenso experto y esquivar posiciones incómodas. No es un espejo de la diversidad humana sino una foto de lo que aparece en el centro de ella.
Sí, pero. Se puede argumentar que los usuarios pueden pedirle a la IA que defienda cualquier postura y que la diversidad está en el uso aunque no en la producción. Es un argumento que tiene algo de razón. Pero la imprenta también producía contenidos muy variados, lo que centralizaba era quién fijaba los estándares. Aquí los estándares los fija un corpus hecho en Silicon Valley para los chatbots occidentales.
El caso de Grok es bastante ilustrativo. Cuando Musk intentó que el modelo se alejara del consenso progresista, el sistema empezó a generar contenido antisemita en cuestión de días. Tuvo que dar marcha atrás. Los valores de un LLM no están en una capa superficial que se pueda retocar, están metidos en el corpus desde el principio.
La gran pregunta. ChatGPT está cada vez más cerca de los mil millones de usuarios semanales. Los modelos de élite los desarrollan unas pocas empresas: OpenAI, Anthropic y Google, fundamentalmente. Podemos añadir a xAI. Lo que viene después llega desde China: DeepSeek, Moonshot, Alibaba... Los investigadores de esos modelos de élite, en gran medida, han estudiado en los mismos sitios, han trabajado en las mismas oficinas y comparten, en líneas generales, las mismas referencias culturales.
El riesgo de esta descentralización no es que la IA mienta más que Google. El riesgo es que cuando la IA se equivoca, lo hace hacia el centro, no hacia el conspiracionismo. El riesgo es que ese centro lo estén fijando, sin que nadie lo haya decidido, unas pocas personas en San Francisco.
Imagen destacada | Xataka
-
La noticia La IA prometía descentralizar el conocimiento. Está haciendo exactamente lo contrario fue publicada originalmente en Xataka por Javier Lacort .
☞ El artículo completo original de Javier Lacort lo puedes ver aquí
