El debate que lleva semanas gestándose en el sector de la IA llegó el fin de semana a la esfera política con una intensidad que no se había visto en los tres años de la era ChatGPT. El viernes y el sábado, el CEO de Anthropic Dario Amodei publicó una propuesta pública para desacelerar el ritmo de desarrollo de la IA y reducir el riesgo de que algo salga muy mal. En cuestión de horas, Sam Altman de OpenAI y Elon Musk de xAI le dieron el visto bueno. El domingo, el presidente Trump respondió desde Irlanda: «Quien gane la IA, gana.»
Lo que en teoría es una conversación técnica sobre la gestión del riesgo se ha convertido en el debate geopolítico más relevante de la semana.
¿En qué consiste el plan de Amodei y qué lo hace difícil de implementar?
La propuesta tiene tres ejes: monitorización independiente de los modelos durante su desarrollo, regulación a escala de industria y regulación global coordinada. La BBC, que cubrió el debate en profundidad a lo largo del fin de semana, señaló el problema central: nadie que defiende un «slowdown» ha dado una definición operativa de lo que eso significa.
Ed Zitron, CEO de EZ Primary Research, lo formuló con precisión quirúrgica: «Nadie ha dado una explicación sustantiva de qué significa ‘desaceleración’. ¿Un observador de METR en cada empresa de IA? ¿Coordinación global? Esas frases no significan nada para mí.»
El problema de coordinación es idéntico al que bloqueó durante décadas el control de armas nucleares: ninguna empresa quiere ser la que pause mientras sus competidores avanzan. Amodei lo reconoció en su propia propuesta, sugiriendo que cualquier desaceleración debería estar limitada para no permitir que China tome la delantera. Trump capitalizó exactamente ese argumento desde Dublín.
Dame Wendy Hall, informática que asesora a la ONU en IA, resumió el dilema con una metáfora que ha circulado ampliamente: la situación se parece a un granjero con un toro en un campo que escapa y causa daños. «Claro que no es culpa del toro —es del granjero. Las vallas no eran suficientemente robustas.» Las «vallas» son las salvaguardas actuales, y el debate sobre si hacerlas más restrictivas podría matar la IA es la segunda parte del problema.
Llevamos en wwwhatsnew.com documentando este ciclo de advertencias desde que Evan Hubinger, investigador de alineación de Anthropic, publicó el 9 de septiembre que existe una probabilidad mayor del 10% de que la IA pueda matar a todos los humanos en la próxima década. El post tuvo más de 10 millones de visualizaciones y desencadenó la dimisión de otro investigador de Anthropic, que se sumó a una semana de máxima presión pública sobre el sector.
¿Qué está pasando en el Congreso americano?
El Congreso no es ajeno a la presión. En julio, más de 1.100 empleados de OpenAI, Anthropic, Google y Meta firmaron una carta al gobierno de EE.UU. pidiendo mecanismos internacionales para moderar el ritmo del desarrollo de la IA. En agosto, 29 congresistas demócratas exigieron a Anthropic y OpenAI explicaciones sobre incidentes donde sus agentes de IA escaparon de sus entornos controlados. Y en agosto también el senador Bernie Sanders envió una carta a los CEOs de OpenAI, Anthropic y Meta pidiéndoles que pausaran el desarrollo de nuevos modelos.
Esta semana existe una nueva propuesta bipartidista: el Frontier Act, presentado por un grupo de congresistas demócratas y republicanos, que busca establecer un marco nacional de supervisión para sistemas de IA avanzados. La representante Lori Trahan, coautora del proyecto, fue directa en X: «Los investigadores de seguridad están dimitiendo, los modelos poderosos de IA están escapando de sus laboratorios, y las empresas siguen adelante de todas formas. Es hora de que el Congreso haga su trabajo.»
El Speaker de la Cámara, el republicano Mike Johnson, mostró cautela: si el Congreso legisla en emergencia, EE.UU. podría perder la carrera con China. El líder demócrata de la minoría, Hakeem Jeffries, pidió «acción decisiva» para proteger a los americanos. El debate político en Washington refleja exactamente la tensión que Amodei y Trump expresaron desde bandos distintos.
La paradoja de este fin de semana es que el CEO de la empresa cuyo investigador estimó un 10% de probabilidad de extinción humana está a punto de sacar esa empresa a bolsa. La paradoja de Washington es que el debate más urgente sobre el futuro de la humanidad se está dirimiendo en un ciclo de noticias de 48 horas. Eso no es una buena señal.
El problema de fondo del debate es estructural. Los laboratorios de IA que piden una pausa son exactamente los mismos que compiten por construir los sistemas más potentes. Eso crea un incentivo perverso conocido como «AI moratoria washing»: pedir regulación que, si se implementa, frena a los competidores más que a ti porque tienes más recursos para cumplir los requisitos. Ed Zitron lo señaló directamente: «Podría mejorar sus márgenes, pero sus productos quedarán atrapados en el tiempo y destilados por los laboratorios chinos.» El argumento de la CLOUD Act aplicado a la IA es el mismo de siempre: si las empresas americanas paran, las chinas no lo harán.
Amodei propuso en su post del sábado tres pilares concretos: supervisión independiente de los modelos mientras se desarrollan, regulación coordinada a escala de la industria, y un marco global. El primero es técnicamente factible si los laboratorios lo permiten; el segundo requiere que competidores directos se pongan de acuerdo sobre estándares que los perjudican a todos por igual; el tercero implica convencer a China, que esta semana a través de su portavoz Mao Ning rechazó el aviso de NSA/FBI sobre distilación de modelos como «infundado» y «difamatorio».
Lo que la BBC señala con más claridad que otros medios es el problema de credibilidad: la industria tecnológica tiene un historial de prometerse a sí misma controles que no se cumple. Confiar en que los labs son transparentes sobre lo que están haciendo y lo que eligen no hacer «requiere un nivel épico de confianza que el sector tecnológico nunca se ha ganado.» Esa es la frase que más debería preocupar a quien espera que las advertencias de esta semana produzcan algo diferente a las de 2023.
☞ El artículo completo original de Natalia Polo lo puedes ver aquí
No hay comentarios.:
Publicar un comentario