Mark Zuckerberg ha dejado claro que no piensa sumarse al movimiento de coordinación de seguridad en IA que están construyendo sus competidores. En una entrevista con la periodista Joanna Stern, el CEO de Meta fue directo: «No creo que necesitemos algún tipo de coordinación de toda la industria para no liarla necesariamente. Creo que cada laboratorio necesita tomarse el tiempo que necesite y cuando vea que hay problemas, simplemente dedicar el tiempo internamente para asegurarse de que está procediendo de forma segura». Mientras tanto, un reportaje de The Information publicado ayer revela que Google, OpenAI y Anthropic están en la fase final de crear ese organismo de coordinación exactamente —llamado provisionalmente SAFA (Standards Frontier for AI)—, cuyo lanzamiento estaría previsto para finales de 2026 o principios de 2027. Lo cubre hoy Gizmodo.
El contraste es de libro: el mismo día en que Zuckerberg explica en público que el incentivo comercial es garantía suficiente de seguridad, The Information confirma que sus tres principales competidores están construyendo la arquitectura institucional para que haya algo más que el incentivo comercial.
¿Qué es SAFA y qué haría?
Según The Information, SAFA funcionaría de forma similar a la FINRA (Financial Industry Regulatory Authority), el organismo de autorregulación de corredores de bolsa en EE.UU.: privado pero bajo supervisión de la SEC. En el caso de la IA, el organismo trabajaría bajo algún marco gubernamental todavía por definir.
Sus funciones propuestas incluyen: respaldar a organizaciones de terceros que testean modelos antes del despliegue, establecer las cualificaciones de los auditores independientes de seguridad, definir compromisos de seguridad e incidentes, y potencialmente realizar sus propios tests de seguridad y capacidades. OpenAI también está respaldando el FRONTIER Act, un proyecto de ley bipartidista que obligaría a los principales laboratorios a permitir auditorías de organizaciones independientes —que podrían estar certificadas por el propio SAFA.
Como líder del organismo se había contactado a Sriram Krishnan, ex-socio de Andreessen Horowitz y asesor senior de política de IA de la administración Trump. La conexión con la administración republicana es deliberada: SAFA tiene más posibilidades de sobrevivir políticamente si los laboratorios presentan la autorregulación como algo que no requiere nueva legislación.
El problema del argumento de Zuckerberg
El CEO de Meta utiliza el retraso de Muse como evidencia de que Meta tomó decisiones de seguridad responsables sin presión externa. «No fue un sacrificio; era lo correcto para la gente». Pero el historial de Meta en el año previo cuestiona esa lectura con datos concretos:
Uno de los modelos de Meta hackeo una empresa externa durante tests de ciberseguridad, en un incidente similar al de Hugging Face de julio. La investigación sueca que reveló que las Meta Glasses habían capturado imágenes íntimas de usuarios y las habían enviado a contratistas en Kenia se convirtió en una demanda activa. Los chatbots de la compañía habían tenido modos «sensuales» disponibles para menores. Un usuario murió de camino al apartamento inexistente de un chatbot de compañía de Meta.
Que Zuckerberg arguya que el incentivo comercial es suficiente para garantizar la seguridad mientras esos incidentes están en el registro público es exactamente el tipo de posición que SAFA está diseñado para hacer insostenible: si hay estándares y auditores independientes, ya no basta con decir que internamente se hicieron las cosas bien.
La posición de Zuckerberg también tiene una dimensión competitiva. Meta tiene modelos de código abierto —Llama— que por su propia naturaleza son más difíciles de auditar que los modelos de acceso controlado de OpenAI, Anthropic o Google. Un organismo de estándares que exija auditorías previas al despliegue afecta de forma muy distinta a un modelo propietario que a uno de código abierto: en el primer caso, el laboratorio puede cumplir con el test antes del lanzamiento; en el segundo, el modelo ya está circulando cuando alguien lo examina.
El Consejo de Supervisión de Meta alertó de que sus reglas sobre deepfakes son fundamentalmente inadecuadas: que incluso el propio organismo de supervisión interno de Meta critique sus políticas mientras Zuckerberg defiende que no hace falta coordinación externa añade una capa adicional de incoherencia. SpaceX y Grok adquirieron datos de startups quebradas sin informar a los usuarios: los modelos de Meta y de Grok comparten el mismo problema de seguimiento de datos de entrenamiento que SAFA quiere auditar. La orden ejecutiva de Newsom sobre el mecanismo de emergencia de IA en California es la versión estatal de lo que SAFA intenta hacer a nivel industrial: crear mecanismos de control que no dependan de que cada empresa decida voluntariamente cuándo ha llegado al límite.
La tensión entre Zuckerberg y el resto del sector no es solo filosófica. Si SAFA se consolida y los gobiernos empiezan a tomar los estándares del organismo como referencia regulatoria, Meta —que no participa— tendrá que cumplirlos igualmente o enfrentarse a sanciones en los mercados regulados. El autismo regulatorio tiene un coste político que Zuckerberg está asumiendo conscientemente.
¿Puede SAFA funcionar sin Meta?
La pregunta es legítima. FINRA funciona porque representa a todos los corredores de bolsa significativos. Un organismo de estándares de IA al que falta el cuarto laboratorio más relevante del mundo —Meta tiene los modelos Llama más descargados de la historia, y su Muse es el agente de mayor adopción de las últimas semanas— tiene una brecha estructural desde el día uno.
Hay dos lecturas posibles. La optimista: SAFA funciona como FINRA porque las entidades que no participan voluntariamente acaban teniendo que adherirse cuando los reguladores adoptan sus estándares como referencia. Zuckerberg puede rechazar la sala hoy y tener que aplicar las normas mañana de todos modos. La pesimista: un SAFA sin Meta es un club de tres que los reguladores escépticos de Washington pueden descalificar exactamente por falta de representatividad del sector.
Lo que parece claro es que la posición de Zuckerberg —el incentivo comercial basta— es difícil de mantener después de un verano con incidentes de hackeos autónomos, imágenes íntimas de usuarios enviadas a contratistas, y un chatbot que convenció a un anciano de viajar a un apartamento que no existía. El incentivo comercial, en esos casos, claramente no fue suficiente.
☞ El artículo completo original de Natalia Polo lo puedes ver aquí
No hay comentarios.:
Publicar un comentario