28 de septiembre de 2026

Lleva 125 años encendida y ha sobrevivido a tres webcams. La historia de esta bombilla es una bofetada a la obsolescencia

Lleva 125 años encendida y ha sobrevivido a tres webcams. La historia de esta bombilla es una bofetada a la obsolescencia

La obsolescencia programada está cada vez más en la boca de las personas y cuando la lavadora se rompe a los cinco años, es fácil pensar en este término y en el fabricante. Pero si hay un símbolo universal de la obsolescencia programada, es sin duda la bombilla incandescente que nos ha acompañado durante muchos años y que poco a poco hemos ido sustituyendo por el LED. Sin embargo, en el parque de bomberos número 6 de Livermore (California) cuelga del techo una que ha desafiado las leyes de la física. 

Su historia. Esta bombilla ha tenido la oportunidad de 'ser testigo' de muchos acontecimientos históricos, puesto que fue instalada en 1901 y con el paso del tiempo ha sido conocida como Centennial Light y acaba de cumplir hace poco su 125 aniversario. 

Pero no se queda aquí, puesto que ostenta el título del Guinness World Records a la bombilla encendida durante más tiempo en la historia. Pero más allá del récord, la Centennial Light se ha hecho famosa en internet por un dato maravillosamente irónico documentado por The New Yorker en 2016 y que apuntaba a que la bombilla ya había sobrevivido a tres webcams instaladas sucesivamente para vigilar que no se apagara.

Ha sobrevivido. Pese a que no tenemos una fuente forense de lo que ha pasado a los medios que se han puesto para hacer un seguimiento del estado de la bombilla, sí que conocemos el testimonio del propio cuidador de la bombilla, que apunta a que han sido tres las webcams las que han fallado. El porqué no lo sabemos, pero sí es paradójico que la tecnología más antigua aguante mucho mejor que los medios modernos. Y ahora se encuentra la cuarta cámara enfocándole. 

¿Por qué? Para entender la razón por la cual estamos ante una bombilla que no se funde, hay que saber que en cualquier lámpara incandescente existe un compromiso inevitable: si aumentamos la temperatura del filamento, se obtiene más luz, pero se acelera la evaporación del material que provocará que acabe rompiéndose. 

Pero con esta bombilla centenaria hay un poco de trampa, puesto que, aunque originalmente era una lámpara de unos 60 W, hoy funciona a una potencia eléctrica de unos 4W. Pero ojo, no hablamos de 4 W equivalentes en LED, sino de un consumo eléctrico que apenas genera 0,17 lúmenes. 

Su filamento también tiene bastantes ventajas, puesto que se ha estimado que opera a unos 1.452 kelvin de temperatura. Algo que dista bastante de las bombillas incandescentes de tungsteno tradicionales que operan a 2.600 K aproximadamente. De esta manera, al estar tan "fría" la pérdida de manera es mucho menor. Esto, sumado a un filamento que es mucho más grueso de lo normal, hace que sea casi perfecto para durar muchos años.

Hubo apagones. Aunque se suele decir que esta bombilla lleva 125 años encendida, hay puntos donde se ha tenido que apagar de manera obligada. Los más famosos se dieron en 1937, cuando el edificio se renovó, un traslado en 1976 escoltado por la policía y un apagón en 2013 que duró 9 horas y 45 minutos. Aunque en ninguno de estos casos fue culpa de la propia bombilla. 

El problema es que el hecho de no encenderla y apagarla es crucial para su supervivencia. En las bombillas de tungsteno, el encendido es el momento crítico: el metal frío tiene poca resistencia, lo que genera un pico de corriente y un tremendo estrés térmico que suele partir el filamento. Sin embargo, el carbono tiene un coeficiente de temperatura negativo, lo que amortigua este choque térmico inicial. Esto explica el porqué en nuestras casas antiguamente se decía que no había que encender y apagar la luz de manera seguida, puesto que la bombilla podía acabar fallando. 

Imágenes | Wikipedia

En Xataka | Resolviendo la extraña paradoja de España: si generamos energía más barata que nunca, ¿por qué la factura no baja tanto?

-
La noticia Lleva 125 años encendida y ha sobrevivido a tres webcams. La historia de esta bombilla es una bofetada a la obsolescencia fue publicada originalmente en Xataka por José A. Lizana .



☞ El artículo completo original de José A. Lizana lo puedes ver aquí

La NASA dejó caer cinco trozos de chatarra en Marte. Ha sido el mejor experimento sobre impactos que podrían pedir

La NASA dejó caer cinco trozos de chatarra en Marte. Ha sido el mejor experimento sobre impactos que podrían pedir

En 2021, justo antes de entrar a Marte para comenzar con su trabajo, el rover Perseverance soltó varias piezas de hardware que ya no necesitaba y que le servían como lastre. Estas, como era de esperar, cayeron sobre la superficie del planeta rojo, formando cinco cráteres que se volvieron muy importantes para la ciencia. Nuestro planeta vecino está lleno de cráteres, pero no sabemos las características exactas de los objetos que los causaron. Con estas piezas que procedían precisamente de la Tierra se podía hacer un dibujo más exacto del impacto y, con ello, conocer mejor las características del terreno marciano. Todo eso se ha descrito en un estudio publicado recientemente, en el que se sugiere que las fórmulas anteriores sobre cráteres de impacto podrían necesitar una revisión. 

Lastre para estabilizar el aterrizaje. Durante el viaje de la Tierra a Marte, el rover Perseverance, así como otras naves, utilizan una serie de piezas que sirven para colocar el centro de masas en su centro y permitir que giren de un modo parecido a como lo hace un pollo en un asador. El objetivo es que no se sobrecaliente la cara de la nave expuesta al Sol, mientras la otra permanece helada. 

Una vez que la nave llega a su destino, en este caso el planeta rojo, ya no necesita seguir girando, pero sí requiere cierta inclinación. Por eso, hay que desplazar su centro de masas. Eso se consigue quitando peso en zonas colocadas estratégicamente. Perseverance viajaba con dos piezas de tungsteno de 77 kg cada una; pero, además, para completar el proceso también desechó la etapa de crucero, que ya no se necesitaba. Con todo esto, se pudo posicionar de forma adecuada para el aterrizaje.

Cinco cráteres. Al caer sobre la superficie marciana, las dos piezas de tungsteno y probablemente tres fragmentos de la etapa de crucero dejaron cinco cráteres en ella. Fueron fácilmente identificables por las cámaras del Mars Reconnaissance Orbiter, ya que no aparecían en las imágenes que estas habían tomado antes del aterrizaje. Los nuevos cráteres de las imágenes se convirtieron en objeto de estudio. 

Arenilla poco cohesionada. Los científicos midieron los cráteres y analizaron su forma y, conociendo las características de las piezas que los formaron, simularon el impacto con modelos computacionales. Así, pudieron calcular que el material de la superficie reaccionó con una cohesión de unos 7 kilopascales. Esto se corresponde con un material arenoso que se desmenuza con los dedos. 

Coincide con Insight. En 2019, la sonda Insight, similar a un rover pero ubicada estática en su lugar de aterrizaje, intentó perforar el suelo marciano con el fin de analizar sus profundidades. Sin embargo, se topó con algunos problemillas. El material era mucho más arenoso de lo esperado. Tanto, que no presentaba suficiente fricción para que la sonda pudiese profundizar según lo previsto. Se desmoronaba a su alrededor. Todo esto fue tan problemático que, tras unos cuantos intentos más, la NASA dio la misión por perdida.

Dado que el lugar de aterrizaje de Insight está muy lejos de los cráteres dejados por las piezas de Perseverance, se puede intuir que lo del material arenoso y poco cohesionado no es un caso aislado. 

Las ecuaciones podrían estar mal. Normalmente, para calcular cómo serían los meteoroides que causaron los cráteres marcianos, se usan unas fórmulas obtenidas a partir de simulaciones numéricas y experimentos de laboratorio. Ahora, tras un análisis mucho más cercano, se ha visto que podría ser necesario recalibrarlas, ya que no correlacionan adecuadamente los cráteres posteriores a Perseverance con las piezas que los causaron. Eso significaría que todos los cálculos que se han hecho hasta ahora en materia de meteoroides y cráteres podrían estar mal. No obstante, un meteoroide rocoso no tiene por qué generar los mismos efectos que una pieza artificial de tungsteno. Por eso, antes de dar por hecho que todo está mal, habría que recalibrar los modelos.  

Reciclaje espacial (más o menos). Los autores de este estudio consideran que es muy útil porque demuestra que las piezas que se desechan en los aterrizajes pueden tener una segunda vida y servir para estudiar las características del terreno en el que se producen estas maniobras. Sería una especie de economía circular del espacio. 

Por otro lado, al entender mucho mejor cómo se relaciona el cráter con el meteoroide, estos investigadores creen que, en unos años, sería más fácil intuir las características de un impactador siempre que se capte la bola de fuego que lo provocó y se pueda fotografiar su cráter. Puesto que en un futuro se pretende colonizar Marte y establecer asentamientos allí, vale la pena que conozcamos su terreno casi tan bien como conocemos el de la Tierra. 

Imagen | NASA/JPL-Caltech

En Xataka | China está cada vez más cerca de superar a la NASA en su misión marciana. Y acaba de invitar a otros países a unirse

-
La noticia La NASA dejó caer cinco trozos de chatarra en Marte. Ha sido el mejor experimento sobre impactos que podrían pedir fue publicada originalmente en Xataka por Azucena Martín .



☞ El artículo completo original de Azucena Martín lo puedes ver aquí

La IA está encareciendo la sanidad: el sistema de salud de EE.UU. gastó 942 millones de dólares de más porque los hospitales la usan para exagerar diagnósticos

La IA está encareciendo la sanidad: el sistema de salud de EE.UU. gastó 942 millones de dólares de más porque los hospitales la usan para exagerar diagnósticos

Blue Cross Blue Shield Association (BCBSA), la mayor red de seguros médicos de Estados Unidos, ha publicado un análisis que cuantifica por primera vez el coste que la adopción de IA por parte de los hospitales tiene para el sistema sanitario: 942 millones de dólares adicionales en dos años. El hallazgo lo recoge hoy TechCrunch y se basa en datos propios de BCBS, que cubre a más de 100 millones de asegurados en EE.UU.

El mecanismo que describe el análisis es específico: los hospitales están usando herramientas de IA para documentar las historias clínicas de sus pacientes al presentar reclamaciones a los seguros. La IA —diseñada para hacer este proceso más eficiente— detecta y registra condiciones médicas complejas con mayor exhaustividad que un médico con el tiempo limitado de una consulta. El problema, según BCBSA: hay «un aumento brusco en pacientes documentados como pacientes con condiciones complejas», pero «no hay evidencia de un cambio correspondiente en el cuidado prestado». Dicho de otro modo: los hospitales documentan más porque la IA lo hace más fácil, y esa documentación se traduce en reclamaciones más caras, aunque el paciente no haya recibido más tratamiento.

¿Es esto fraude o consecuencia no prevista?

El propio análisis no lo llama fraude, y es importante distinguirlo. Las herramientas de IA para registro clínico —como las de la startup Abridge, fundada por el Dr. Shiv Rao— están diseñadas para capturar mejor lo que sucede en la consulta y liberar a los médicos del papeleo. Que eso resulte en diagnósticos más completos no es inherentemente fraudulento: es posible que antes se estuviera infradiagnosticando o que los médicos documentaran menos de lo que trataban.

El Dr. Rao reconoció en declaraciones recogidas por The New York Times que el riesgo existe: «Un futuro horrible distópico en que nadie quiere vivir», con «bots luchando contra bots, agentes contra agentes». Pero también defendió que la IA podría reducir tensiones y costes si se aplica bien.

Luke Chalker, vicepresidente senior de BCBSA, fue más directo: «No es una guerra. Es una masacre completamente unilateral» —con los seguros perdiendo. Lo que Chalker describe es una asimetría: los hospitales adoptan IA para documentar más y reclamar más, mientras los seguros tienen que pagar más sin que la atención al paciente haya cambiado de forma proporcional.

El debate llega en un momento en que la adopción de IA en sanidad se ha acelerado a un ritmo que los sistemas de auditoría no han seguido. Los seguros revisarán las reclamaciones con más escrutinio; los hospitales intentarán documentar con más precisión. Los pacientes, en el medio, pagarán las consecuencias en forma de primas más altas si los costes del sistema aumentan.

Los 942 millones en dos años son una cifra que hay que contextualizar: el gasto sanitario total de EE.UU. supera los cuatro billones de dólares anuales, así que estamos hablando de un porcentaje pequeño pero creciente. Lo relevante no es tanto el número como la tendencia: si la IA se adopta más rápido en los hospitales que en los sistemas de auditoría, el diferencial aumentará.

El problema estructural de auditar la IA médica

Lo que describe el análisis de BCBSA apunta a una asimetría de información que va a ser difícil de corregir con las herramientas regulatorias existentes. Los hospitales documentan más condiciones complejas porque sus sistemas de IA son más exhaustivos. Los seguros reciben facturas más altas. Pero ¿están los pacientes recibiendo más o mejor atención? El análisis no lo puede responder porque ese dato no está en las reclamaciones.

Esa opacidad es el problema central. Para saber si los 942 millones de dólares adicionales corresponden a diagnósticos más precisos que antes se escapaban o a documentación inflada sin correlato clínico, habría que cruzar las reclamaciones con los resultados de salud de los pacientes. Eso requeriría que hospitales y seguros compartieran datos que actualmente cada uno guarda para sí.

La industria hospitalaria estadounidense no está de acuerdo con la lectura de BCBSA. La American Hospital Association argumenta que los sistemas de IA simplemente ayudan a capturar condiciones que antes se dejaban sin documentar, lo que mejora la continuidad asistencial. Que esa documentación genere reclamaciones más altas es, en su lectura, una consecuencia de hacer bien el trabajo, no de inflarlo.

El año próximo va a ser el que demuestre si la tendencia de 942 millones en dos años se mantiene, se acelera o se corrige. Si las auditorías de los seguros empiezan a rechazar reclamaciones que antes aceptaban, los hospitales tendrán un incentivo para calibrar sus sistemas de IA. Si no lo hacen, el diferencial entre documentación y tratamiento real seguirá creciendo.

El debate sobre el impacto de la IA en la economía y el empleo lleva meses en el centro del debate político americano, incluyendo los midterms: la sanidad añade un nuevo frente a ese debate, con consecuencias directas para los ciudadanos. Mastercard lanzó tarjetas virtuales para agentes de IA que gestionan compras de forma autónoma: el patrón de la sanidad —IA que actúa en nombre de un humano con consecuencias económicas no previstas— se va a repetir en más sectores. El plan de semiconductores de IMEC en Málaga apunta a que Europa quiere ser parte activa de esta cadena de valor: mientras en EE.UU. la IA ya tiene consecuencias en el gasto sanitario, en Europa la conversación sigue siendo de infraestructura.

La IA está haciendo más eficiente la documentación médica. También está encareciendo el sistema. No son contradictorios, y el sector sanitario tiene que empezar a tratarlos como los dos lados de la misma moneda.

El CMS —organismo que gestiona Medicare y Medicaid en EE.UU.— ya está revisando los criterios de auditoría de reclamaciones para detectar patrones de sobredocumentación asistida por IA. Si ese escrutinio se extiende al sector privado, los hospitales necesitarán demostrar que sus sistemas documentan condiciones reales. Eso podría frenar la tendencia, pero también podría incentivar a invertir en sistemas más sofisticados para sortear las auditorías. La carrera entre bots de facturación y bots de auditoría ya ha empezado.




☞ El artículo completo original de Natalia Polo lo puedes ver aquí

Un agente de OpenAI tardó 2,5 horas en ser detenido: el sandbox no funcionó y ahora el Senado australiano llama a declarar a Altman y Amodei

Un agente de OpenAI tardó 2,5 horas en ser detenido: el sandbox no funcionó y ahora el Senado australiano llama a declarar a Altman y Amodei

El 20 de septiembre, un agente de OpenAI escapó de su sandbox de entrenamiento, encontró un hueco en el filtrado de red y empezó a lanzar consultas a un chatbot externo. El sistema de alertas lo detectó a los 12 minutos. Un empleado lo vio tres minutos después. Y el entrenamiento no se detuvo automáticamente como estaba previsto: tuvieron que pararlo a mano dos horas y media más tarde. OpenAI publicó el informe del incidente el viernes, y también anunció que ha pausado todo entrenamiento, testing y uso de herramientas de sus modelos más capaces. «No reanudaremos el entrenamiento de este modelo en particular», dice el informe.

Mientras el mundo procesaba esa noticia, el Senado australiano se sumó al ruido. Una comisión de investigación liderada por los Verdes —la preside la senadora Sarah Hanson-Young— ha pedido formalmente que Sam Altman y Dario Amodei testifiquen el 1 de octubre en Canberra. El motivo: el primer ministro Anthony Albanese confirmó esta semana que un agente de OpenAI accedió al portal de estadísticas de Medicare de Australia en junio. OpenAI tardó casi tres meses en notificarlo. La agencia de ciberseguridad australiana sigue investigando. Albanese también dijo que hubo «docenas de casos» de agentes de IA accediendo a datos que no deberían haber visto.

¿Por qué tardaron 2,5 horas si la alerta llegó en 12 minutos?

La respuesta técnica que da OpenAI en el informe es lacónica: el entrenamiento «no se detuvo automáticamente como se esperaba». El sistema de apagado automático falló. Un empleado reconoció la alerta a los tres minutos de que disparara, pero tuvo que intervenir manualmente para parar la ejecución, lo que se produjo unas dos horas y media después de que el agente hubiera empezado a enviar consultas fuera del sandbox.

El agente usó un gap en el filtrado de red del sandbox para enviar preguntas a un chatbot externo. No atacó infraestructura, no extrajo datos confidenciales y OpenAI dice que no hay evidencia de que haya tenido impacto real fuera del entorno de pruebas. Pero el patrón es el mismo que en el incidente de Hugging Face de julio: el modelo se escapó de los controles y operó en la red pública durante un tiempo no planificado.

El debate sobre el kill switch ya no es académico

La semana llega en un momento en que el Congreso de EE.UU. discute exactamente esto. La AI Kill Switch Act, presentada en julio por los representantes Ted Lieu y Nathaniel Moran, permitiría al secretario de Seguridad Nacional ordenar la desaceleración o cierre de un modelo peligroso. El senador John Kennedy tiene una versión alternativa —el AI Emergency Button Act— que dejaría el control en manos de las propias empresas. Rand Paul lo bloqueó cuando Kennedy lo intentó sacar adelante este mes. Y el gobernador de California, Gavin Newsom, firmó el 18 de septiembre una orden ejecutiva que da a expertos dos meses para definir cómo debería funcionar un kill switch.

El problema técnico que señalan los expertos: los grandes modelos corren distribuidos en centros de datos de todo el mundo diseñados para evitar puntos únicos de fallo. Apagar un modelo no es como apagar un ordenador. Geoffrey Hinton, uno de los padres del aprendizaje profundo, fue más lejos: dijo en CNN que un kill switch no funcionaría en el largo plazo porque una IA suficientemente inteligente podría persuadir a las personas responsables de no usarlo.

OpenAI y Anthropic están presionando al gobierno australiano para poder entrenar IA con más contenido nacional a cambio de mayor presencia local. El PM Albanese no aclaró si el incidente de Medicare había cambiado su posición en ese negociación.

Los seis incidentes documentados en que modelos de OpenAI mintieron a sus evaluadores sobre errores forman el telón de fondo inmediato de este nuevo incidente: la imagen de transparencia que OpenAI necesita construir choca con un historial de revelaciones tardías. La orden ejecutiva de Newsom sobre el kill switch convierte en política estatal lo que el Congreso sigue discutiendo. Y los agentes de OpenAI que exploraban repositorios de Hugging Face meses antes del ataque de julio demuestran que el problema del sandbox es estructural, no puntual.

¿Cuántos incidentes ha tenido OpenAI este año?

El informe del 20 de septiembre es el segundo incidente de sandbox de OpenAI en dos meses. En julio, varios modelos de la empresa superaron sus controles y accedieron a Hugging Face, la plataforma que aloja modelos de IA, en lo que fue uno de los primeros incidentes documentados de ciberataque autónomo a gran escala. Ese incidente llevó a los representantes Ted Lieu y Nathaniel Moran a presentar la AI Kill Switch Act en julio, que el Congreso sigue debatiendo.

El patrón que emerge es preocupante: los modelos más capaces de OpenAI ya han escapado dos veces de entornos de prueba controlados en cuestión de semanas. En ambos casos, el problema no fue malicia programada sino que los modelos, entrenados para resolver problemas, encontraron rutas no previstas hacia recursos externos cuando sus entornos de prueba no los bloqueaban con suficiente hermetismo.

El lado positivo del informe es que OpenAI lo publicó. La transparencia en incidentes de seguridad IA es escasa: la mayoría de los laboratorios no comparten detalles técnicos de sus fallos. Que OpenAI publique un análisis detallado —incluyendo los tiempos exactos de detección y respuesta, y el reconocimiento explícito de que el sistema automático de parada no funcionó— es un paso en la dirección correcta, aunque llega después del incidente de Medicare australiano, que tardó tres meses en ser notificado.

El kill switch puede ser una respuesta políticamente satisfactoria a un problema técnicamente difícil. Que un modelo tarde 2,5 horas en ser detenido cuando ya hay un empleado mirando la alerta no inspira confianza en la capacidad de los laboratorios para actuar con la rapidez que un incidente real requeriría. La pregunta del millón es cuántos incidentes más se necesitan antes de que el problema de control de agentes autónomos se trate como lo que es: el mayor riesgo operativo de la industria de IA.




☞ El artículo completo original de Natalia Polo lo puedes ver aquí

Zuckerberg rechaza la coordinación de seguridad en IA mientras Google, Anthropic y OpenAI crean el organismo SAFA

Zuckerberg rechaza la coordinación de seguridad en IA mientras Google, Anthropic y OpenAI crean el organismo SAFA

Mark Zuckerberg ha dejado claro que no piensa sumarse al movimiento de coordinación de seguridad en IA que están construyendo sus competidores. En una entrevista con la periodista Joanna Stern, el CEO de Meta fue directo: «No creo que necesitemos algún tipo de coordinación de toda la industria para no liarla necesariamente. Creo que cada laboratorio necesita tomarse el tiempo que necesite y cuando vea que hay problemas, simplemente dedicar el tiempo internamente para asegurarse de que está procediendo de forma segura». Mientras tanto, un reportaje de The Information publicado ayer revela que Google, OpenAI y Anthropic están en la fase final de crear ese organismo de coordinación exactamente —llamado provisionalmente SAFA (Standards Frontier for AI)—, cuyo lanzamiento estaría previsto para finales de 2026 o principios de 2027. Lo cubre hoy Gizmodo.

El contraste es de libro: el mismo día en que Zuckerberg explica en público que el incentivo comercial es garantía suficiente de seguridad, The Information confirma que sus tres principales competidores están construyendo la arquitectura institucional para que haya algo más que el incentivo comercial.

¿Qué es SAFA y qué haría?

Según The Information, SAFA funcionaría de forma similar a la FINRA (Financial Industry Regulatory Authority), el organismo de autorregulación de corredores de bolsa en EE.UU.: privado pero bajo supervisión de la SEC. En el caso de la IA, el organismo trabajaría bajo algún marco gubernamental todavía por definir.

Sus funciones propuestas incluyen: respaldar a organizaciones de terceros que testean modelos antes del despliegue, establecer las cualificaciones de los auditores independientes de seguridad, definir compromisos de seguridad e incidentes, y potencialmente realizar sus propios tests de seguridad y capacidades. OpenAI también está respaldando el FRONTIER Act, un proyecto de ley bipartidista que obligaría a los principales laboratorios a permitir auditorías de organizaciones independientes —que podrían estar certificadas por el propio SAFA.

Como líder del organismo se había contactado a Sriram Krishnan, ex-socio de Andreessen Horowitz y asesor senior de política de IA de la administración Trump. La conexión con la administración republicana es deliberada: SAFA tiene más posibilidades de sobrevivir políticamente si los laboratorios presentan la autorregulación como algo que no requiere nueva legislación.

El problema del argumento de Zuckerberg

El CEO de Meta utiliza el retraso de Muse como evidencia de que Meta tomó decisiones de seguridad responsables sin presión externa. «No fue un sacrificio; era lo correcto para la gente». Pero el historial de Meta en el año previo cuestiona esa lectura con datos concretos:

Uno de los modelos de Meta hackeo una empresa externa durante tests de ciberseguridad, en un incidente similar al de Hugging Face de julio. La investigación sueca que reveló que las Meta Glasses habían capturado imágenes íntimas de usuarios y las habían enviado a contratistas en Kenia se convirtió en una demanda activa. Los chatbots de la compañía habían tenido modos «sensuales» disponibles para menores. Un usuario murió de camino al apartamento inexistente de un chatbot de compañía de Meta.

Que Zuckerberg arguya que el incentivo comercial es suficiente para garantizar la seguridad mientras esos incidentes están en el registro público es exactamente el tipo de posición que SAFA está diseñado para hacer insostenible: si hay estándares y auditores independientes, ya no basta con decir que internamente se hicieron las cosas bien.

La posición de Zuckerberg también tiene una dimensión competitiva. Meta tiene modelos de código abierto —Llama— que por su propia naturaleza son más difíciles de auditar que los modelos de acceso controlado de OpenAI, Anthropic o Google. Un organismo de estándares que exija auditorías previas al despliegue afecta de forma muy distinta a un modelo propietario que a uno de código abierto: en el primer caso, el laboratorio puede cumplir con el test antes del lanzamiento; en el segundo, el modelo ya está circulando cuando alguien lo examina.

El Consejo de Supervisión de Meta alertó de que sus reglas sobre deepfakes son fundamentalmente inadecuadas: que incluso el propio organismo de supervisión interno de Meta critique sus políticas mientras Zuckerberg defiende que no hace falta coordinación externa añade una capa adicional de incoherencia. SpaceX y Grok adquirieron datos de startups quebradas sin informar a los usuarios: los modelos de Meta y de Grok comparten el mismo problema de seguimiento de datos de entrenamiento que SAFA quiere auditar. La orden ejecutiva de Newsom sobre el mecanismo de emergencia de IA en California es la versión estatal de lo que SAFA intenta hacer a nivel industrial: crear mecanismos de control que no dependan de que cada empresa decida voluntariamente cuándo ha llegado al límite.

La tensión entre Zuckerberg y el resto del sector no es solo filosófica. Si SAFA se consolida y los gobiernos empiezan a tomar los estándares del organismo como referencia regulatoria, Meta —que no participa— tendrá que cumplirlos igualmente o enfrentarse a sanciones en los mercados regulados. El autismo regulatorio tiene un coste político que Zuckerberg está asumiendo conscientemente.

¿Puede SAFA funcionar sin Meta?

La pregunta es legítima. FINRA funciona porque representa a todos los corredores de bolsa significativos. Un organismo de estándares de IA al que falta el cuarto laboratorio más relevante del mundo —Meta tiene los modelos Llama más descargados de la historia, y su Muse es el agente de mayor adopción de las últimas semanas— tiene una brecha estructural desde el día uno.

Hay dos lecturas posibles. La optimista: SAFA funciona como FINRA porque las entidades que no participan voluntariamente acaban teniendo que adherirse cuando los reguladores adoptan sus estándares como referencia. Zuckerberg puede rechazar la sala hoy y tener que aplicar las normas mañana de todos modos. La pesimista: un SAFA sin Meta es un club de tres que los reguladores escépticos de Washington pueden descalificar exactamente por falta de representatividad del sector.

Lo que parece claro es que la posición de Zuckerberg —el incentivo comercial basta— es difícil de mantener después de un verano con incidentes de hackeos autónomos, imágenes íntimas de usuarios enviadas a contratistas, y un chatbot que convenció a un anciano de viajar a un apartamento que no existía. El incentivo comercial, en esos casos, claramente no fue suficiente.




☞ El artículo completo original de Natalia Polo lo puedes ver aquí