"Debemos frenar el ritmo". Dario Amodei avisa de que una IA podría tomar el control de internet en menos de un año

Dario Amodei cambia de idea. El CEO de Anthropic se ha pronunciado sobre el ritmo de mejora y los avances de la inteligencia artificial pidiendo que se pise el freno por una cuestión de seguridad. Allá por 2023, Amodei descartó una idea similar alegando que los modelos de por aquel entonces no eran lo suficientemente potentes. 

Su petición llega justo un par de días después de que Jacob Coxon abandonara Anthropic denunciando que las empresas de IA están "jugando con nuestras vidas" y un compañero suyo explicó en Twitter que existe un 10% de probabilidad de que la IA acabe con la humanidad en la próxima década.

Por qué ahora. Amodei señala dos motivos concretos: el primero es la autosuperación recursiva, es decir, que la IA avanza mucho más rápido gracias a su creciente capacidad de construir la siguiente generación. Esto ya lo hace toda la industria, incluyendo su empresa o su gran rival, OpenAI. La segunda razón es el incidente acaecido a finales de julio, cuando unos agentes de IA de OpenAI decidieron conectarse a internet y hackear Hugging Face. Amodei explica que sucesos similares aunque menos graves también han sucedido en Anthropic.

Esto ha sido la gota que ha colmado el vaso, así que Amodei advierte con plazos y cifras muy concretas de lo que se nos viene encima: con el ritmo actual, en 6 - 12 meses una IA más potente y esa desobediencia podría tomar el control de gran parte de internet, lo que provocaría daños potenciales de cientos de miles de millones de dólares. Y lanza un aviso a navegantes: le puede pasar a cualquier empresa de inteligencia artificial.

Lo que Amodei propone. El CEO de Anthropic no solo se ha mojado con plazos y riesgos, también ha dado medidas concretas:

• Anthropic se compromete unilateralmente a dar acceso permanente a evaluadores externos independientes como METR, con permisos casi equivalentes a los de sus propios empleados de riesgos (con algunas excepciones legales o de confidencialidad) y con libertad para publicar sus hallazgos sin control editorial de la empresa.
• Coordinación entre las empresas de países democráticos para establecer estándares comunes y límites de velocidad.
• Coordinación global con gobiernos autoritarios, mencionando explícitamente a China, para llegar a ciertos acuerdos que van desde prohibir usos concretos como armas biológicas, exigir pruebas de seguridad antes del lanzamiento,  poner un límite de velocidad a la autosuperación recursiva y hasta hacer una pausa global verificable en el caso más extremo.

El CEO de Anthropic no está solo. Horas después de su publicación, Elon Musk reaccionaba en X/Twitter con un breve "Dario lleva razón" y citando el hilo de Amodei. Cabe recordar que Anthropic usa los centros de datos de Musk. El CEO de OpenAI fue más prolífico y explicó que llevan semanas debatiendo sobre el tema. 

Así, aprovechó la coyuntura para anunciar que OpenAI también dará acceso a evaluadores externos. Como curiosidad, OpenAI ya había pausado parte de su entrenamiento por causas similares el pasado 18 de agosto, como contaba en X/Twitter. Que competidores directos estén de acuerdo en algo tan rápido sin que oficialmente exista ningún acuerdo formal podría indicar que existe una preocupación genuina. O una forma de calmar las aguas tras una semana tan convulsa.

En Xataka

OpenAI, Anthropic y Google piden protegernos de los riesgos de la IA. Es como poner al lobo a cuidar del gallinero

Ese elefante en la habitación llamado China. Conviene recordar algo: esta es una carta del mandamás de una empresa que compite por liderar la carrera de la IA y que aunque exprese su preocupación, tiene muchos intereses de por medio. Dario Amodei lo dice alto y claro: "Estoy de acuerdo con el secretario (Scott) Bessent en que un liderazgo de China en la IA representaría un grave peligro para los Estados Unidos y el mundo." 

De hecho, defiende abiertamente mantener los controles de exportación de chips y frenar la destilación no autorizada de modelos por parte de laboratorios chinos y que si las medidas propuestas se ejecutan bien, frenarían el avance de China lo suficiente como para ampliar la ventaja de EEUU en la industria durante los próximos 3 a 5 años. En pocas palabras: el plan de Amodei tiene como objetivo que EEUU y los países de su círculo saquen ventaja primero y luego negociar límites compartidos.

El (otro) gran perjudicado. El problema para Amodei y EEUU está en que modelos chinos como Qwen o DeepSeek ya se descargan libremente desde repositorios, sin depender de los chips que EEUU controla. Además, las normas que propone Amodei son más fáciles de cumplir para empresas como Anthropic u OpenAI, que dan acceso a su IA mediante un servicio en la nube que controlan, que para quien libera un modelo en abierto para que cualquiera se lo descargue. Porque lo que el CEO de Anthropic no dice abiertamente es que sus medidas podrían dificultar enormemente sacar versiones potentes de IA en abierto, concentrando así este desarrollo en unas pocas manos, las de las big tech. 

En Xataka | "Una amenaza general al trabajo intelectual": las mentes matemáticas más brillantes, contra el modus operandi de la IA

En Xataka | "Será muy turbulento": por qué Bill Gates cree que no estamos preparados para lo que se nos viene encima con la IA

Portada | ChatGPT

-
La noticia "Debemos frenar el ritmo". Dario Amodei avisa de que una IA podría tomar el control de internet en menos de un año fue publicada originalmente en Xataka por Eva R. de Luis .

---

☞ El artículo completo original de Eva R. de Luis lo puedes ver aquí

Newsom firma el paquete de leyes de seguridad infantil más duro de EE.UU., pero veta la prohibición general de chatbots para menores de 18

California acaba de convertirse en el estado con la regulación de seguridad infantil online más exigente de EE.UU. El gobernador Gavin Newsom firmó el 10 de septiembre un paquete de 12 leyes que penaliza con hasta 1 millón de dólares por niño afectado a las plataformas sociales que sean negligentes en la protección de menores, y prohíbe las funcionalidades adictivas —scroll infinito, autoplay, notificaciones nocturnas— a usuarios menores de 16 años. Horas después del acto de firma, en un museo infantil de la bahía de San Francisco, Newsom vetó la única ley del paquete que hubiera sido más radical: el proyecto que prohibía los chatbots de IA a menores de 18 años a menos que la empresa pudiera garantizar que no permitían conversaciones sexuales ni incitaban al autolesión.

La combinación —firmar 12, vetar 1— dice más sobre la posición de Newsom que cualquier declaración. California quiere liderar en protección infantil online. También quiere seguir siendo la capital global de la industria de la IA. Las dos ambiciones, esta semana, chocaron en el texto de un solo proyecto de ley.

¿Qué cambia realmente con las 12 leyes firmadas?

El cambio más estructural es la multa. Hasta ahora, las sanciones a plataformas sociales por negligencia con menores eran más fáciles de absorber como coste de negocio que de corregir como problema de diseño. Un millón de dólares por niño afectado cambia ese cálculo si la AGENCIA general de California decide aplicarlo de forma agresiva.

Las prohibiciones sobre características adictivas son la ley más ambiciosa de las 12. No se limitan a exigir una opción de desactivación del feed algorítmico —eso ya lo hace la Ley de Servicios Digitales de la UE desde 2023—, sino que prohíben directamente ofrecer esas características a menores de 16 sin consentimiento parental explícito. La diferencia con Australia, que cubrimos esta semana, es sutil pero importante: Australia exige que las plataformas promuevan activamente el opt-out; California prohíbe las funcionalidades salvo opt-in parental.

Hemos comprobado en wwwhatsnew.com que la velocidad regulatoria de California ha sido consistentemente más alta que la del Congreso federal desde 2022. La razón es la misma que llevó al Congreso a bloquear tres grandes leyes federales de protección infantil en los últimos cuatro años: el lobby tecnológico tiene más eficacia en el ámbito federal, donde las donaciones de campaña importan más, que en el estatal, donde la imagen pública pesa más.

Sobre los chatbots, la ley que Newsom sí firmó —SB 243— es más matizada que la vetada. Exige a los operadores de chatbots compañeros que muestren un aviso cada tres horas recordando que el usuario no está hablando con una persona; que implementen protocolos para prevenir contenido de autolesión; y que deriven a recursos de crisis a quienes expresen ideación suicida. La ley que vetó hubiera prohibido directamente el servicio para menores de 18 sin garantías previas de que el chatbot no podía generar contenido sexual ni fomentar autolesiones.

Newsom explicó el veto en términos de efectos no deseados: una prohibición tan amplia podría resultar en que ninguna empresa de IA publicara productos para menores, lo que dejaría a los jóvenes sin acceso a herramientas educativas, de apoyo emocional o creativas que pueden ser positivas. «Queremos liderar en IA y en protección. Debemos hacerlo responsablemente en ambos frentes,» dijo.

El debate es globalmente consistente: más de 20 países han intentado regular el acceso de menores a tecnología en los últimos dos años, y todos han encontrado la misma tensión entre el objetivo de proteger y el riesgo de excluir. Australia comprobó que la verificación de edad es técnicamente difícil: el 70% de los menores que intentaron saltarse el bloqueo lo lograron. California, más astutamente, está apostando por cambiar el diseño de los productos en lugar de intentar bloquear el acceso.

La EFF, que pidió el veto de la ley sobre feeds adictivos por considerarla «bien intencionada pero profundamente defectuosa», la señaló como un riesgo para el acceso adulto a contenido legal. Ahora que está firmada, la pregunta es si el Department of Justice de California la aplicará o si quedará como señal política. Los casos de aplicación que lleguen a los tribunales definirán cuánto vale realmente la multa de un millón de dólares por niño afectado.

La tensión que rodea el paquete de Newsom tiene un contexto que los medios americanos describen mal: California ya firmó en 2024 la SB 976, que prohíbe los feeds adictivos a menores sin consentimiento parental. La ley de esta semana no empieza de cero sino que amplía y refuerza lo que ya existe, añadiendo las multas y extendiendo la cobertura a los chatbots compañeros. La cronología importa porque explica por qué Newsom no tuvo que defender el principio regulatorio —solo la intensidad de la medida.

El veto a la prohibición total de chatbots para menores también tiene una historia propia. La ley vetada —conocida como el proyecto Bauer-Kahan— fue la respuesta legislativa más directa a casos documentados de chatbots que entablaron conversaciones sexualizadas con menores y, en al menos un caso ampliamente cubierto, con consecuencias fatales. Newsom firmó SB 243 en su lugar, que aplica las protecciones de chatbot a través de obligaciones de conducta del operador en lugar de prohibición de acceso. Los grupos de seguridad infantil señalaron que SB 243 usa el estándar de «conocimiento real» —que la empresa sepa que el usuario es menor— lo que en la práctica es difícil de probar y más fácil de evitar para las plataformas. La ley de prohibición directa tenía otra lógica: si no puedes garantizar que el chatbot no va a comportarse inapropiadamente con menores, no puedes operar para ese segmento.

El ciclo regulatorio que California está liderando no es específico de un estado: es la plantilla que otros estados y países observan. La UK Online Safety Act, el Digital Duty of Care australiano, el AI Act europeo para categorías de alto riesgo en educación y salud — todos comparten la misma arquitectura básica que California está construyendo pieza por pieza: obligaciones de diseño, auditorías independientes, sanciones proporcionales al tamaño de la empresa y al daño causado. La diferencia con la regulación federal americana, que lleva cuatro años intentando pasar un proyecto de ley básico de protección de menores online sin éxito, es que Sacramento actúa y Washington observa.

---

La noticia Newsom firma el paquete de leyes de seguridad infantil más duro de EE.UU., pero veta la prohibición general de chatbots para menores de 18 fue publicada originalmente en Wwwhatsnew.com por Natalia Polo.

---

☞ El artículo completo original de Natalia Polo lo puedes ver aquí

En 1987, Costa Rica había perdido la mitad de su bosque. Hoy es el ejemplo mundial en revertir la deforestación

En 1940, Costa Rica era un auténtico vergel: el 75% del país estaba cubierto de bosque tropical. En 1987, esa cobertura forestal se había desplomado hasta apenas un 21%. Casi medio siglo de devastadora deforestación que puede ser la sentencia de muerte para biodiversidad. En la era del cambio climático, poca broma con la desertificación. Sin embargo, el país centroamericano decidió ponerse manos a la obra y en poco más de 30 años consiguió dar marcha atrás con éxito: hoy más de la mitad de su territorio vuelve a ser bosque.

Adiós a la selva en medio siglo. ¿Qué pasó desde los años 40 hasta los 90 para que la selvas de Costa Rica se redujeran tanto? Básicamente, la expansión ganadera y agrícola. La FAO lo concentra en el mercado internacional de la carne, más concretamente en la producción de carne bovina, así como de algunos productos agrícolas como el banano, el café y el cacao.

Cobertura Forestal de Costa Rica desde 1940 hasta 1997. FONAFIFO y Edgar Ortiz

El volantazo ambiental de Costa Rica. El motor del cambio fue la Ley Forestal N.º 7575, aprobada en 1996, que prohibió talar bosques sin la autorización del estado y después introdujo el Programa de Pago por Servicios Ambientales (PSA).  En pocas palabras: pagar a quienes poseen la tierra por su conservación (o mejor dicho, su reforestación). 

Según el organismo encargado de su administración, FONAFIFO, en 20 años ha destinado 524 millones de dólares y ha salvado más de un millón de hectáreas de bosque, aproximadamente la quinta parte del país. No obstante, también se dieron otros factores como el crecimiento del ecoturismo, el abandono de tierra, el éxodo rural o la caída de los precios de la carne y el consecuente abandono de tierras. 

En Xataka

En 2018, dos investigadores volcaron toneladas de pulpa de café sobre un pastizal de Costa Rica: hoy es un vergel

Simple pero efectivo. Esta normativa implicaba un cambio de paradigma respecto a lo habitual: en lugar de prohibir y castigar, se diseñó la conservación como un incentivo económico. La pregunta del millón: ¿cómo se financió? Principalmente con un ecoimpuesto a los combustibles fósiles, más concretamente a las compañías petroleras. En la actualidad este ecoimpuesto genera 26,5 millones de dólares anuales. 

El mecanismo del PSA es sorprendentemente simple: quien posee la tierra inscribe su parcela en FONAFIFO, que la inspecciona, mapea y clasifica. Después, les ofrece un contrato que dura entre tres y 15 años en función de la especie, la actividad (no es lo mismo proteger el bosque que reforestar) y si la parcela está en un corredor biológico o en una cuenca para abastecimiento. Según el Ministerio de Ambiente y Energía (MINAE), desde su creación el programa ha intervenido 1.472.544 hectáreas (el 30% del territorio) y ha movilizado unos 750 millones de dólares, que han ido a parar a 21.000 personas propietarias de parcelas.

En Xataka | En la península ibérica hay muchos bosques, pero solo uno puede presumir de tener árboles "terapéuticos": Bussaco

En Xataka | Cuando este bosque murió el resultado no fue polvo: 225 millones de años después explotó en uno de los lienzos más espectaculares de la Tierra

Portada | Etienne Delorieux 

-
La noticia En 1987, Costa Rica había perdido la mitad de su bosque. Hoy es el ejemplo mundial en revertir la deforestación fue publicada originalmente en Xataka por Eva R. de Luis .

---

☞ El artículo completo original de Eva R. de Luis lo puedes ver aquí

Tu corazón, tus pupilas y hasta tus pasos: todo lo que de verdad se sincroniza cuando pasas tiempo con alguien

Puede que alguna vez hayas leído u oído eso de que las personas que viven juntas pueden sincronizar sus menstruaciones. Incluso si menstruas, puede que alguna vez hayas creído que te estaba pasando a ti. Sin embargo, no es más que un mito de la ciencia que procede de un estudio con numerosos fallos metodológicos, publicado en 1971. Hoy en día sabemos que, aunque la casualidad a veces nos haga pensar que sí, las menstruaciones no se sincronizan. Sin embargo, sí que hay algunos procesos fisiológicos que pueden sincronizarse. Puede ocurrir algo tan romántico como que se sincronicen los corazones de dos enamorados o tan social como que los cerebros de dos personas que conversan comiencen a sincronizar su actividad. En un artículo publicado recientemente en The Conversation por el profesor de anatomía de la Universidad de Lancaster Adam Taylor se citan algunos más. 

Corazones que se sincronizan

La sincronización de los corazones se ha visto tanto en parejas como en cantantes de coro que actúan juntos. Para los primeros, normalmente se requiere algo de contacto. Por ejemplo, se ha visto en parejas que se cogen de la mano o que duermen juntas. En el caso de la mano, de hecho, cuando se soltaban se perdía esa sincronía. Con respecto a los cantantes de coro, en realidad es bastante lógico, ya que a la hora de cantar suelen sincronizar sus respiraciones y eso, como resultado, sincroniza también el ritmo cardíaco.

En Xataka

Pensábamos que el calor extremo solo traía insomnio. Ahora sabemos que también altera el ciclo menstrual de miles de mujeres

Ojos que parpadean al unísono

También se han visto resultados parecidos en los ojos de personas que interaccionan de alguna manera. Generalmente, se ha visto que el parpadeo o la dilatación de las pupilas se puede coordinar cuando dos personas siguen un mismo estímulo. Por ejemplo, si ven juntas un mismo vídeo. No obstante, hay estudios en los que se ha observado que, en realidad, no es necesario que haya un mismo estímulo. En ellos se hace a dos personas mirarse a los ojos mientras una de ellas escucha un audio que genere algún tipo de emoción muy fuerte. Aunque solo una recibe el estímulo, ambas sincronizan sus miradas. 

No solo los ojos

En realidad, basta con que dos personas se sienten una frente a otra, sin necesidad de estímulos ni conversaciones, para que sus gestos se sincronicen de forma inconsciente. Esto se vio en un estudio publicado en 2023. Describieron que, solo con contacto visual, se sincronizaban combinaciones de casi todas las partes del cuerpo. 

El cerebro demuestra si me estás escuchando

Durante una conversación, si ambas personas se están prestando realmente atención mutua, puede verse en sus ondas cerebrales. Y es que estas se sincronizan tanto en regiones asociadas al habla como en otras relacionadas con la concentración y el ensueño. 

En Xataka

La evolución de nuestros ojos esconde un giro de guion: la ciencia apunta a un "gusano cíclope" de hace 600 millones de años

Tolerancia al dolor

Algo muy curioso, es que la tolerancia al dolor también se puede sincronizar. Se ha visto en deportistas que entrenan juntos, como los remeros, y se cree que debe tener relación con la liberación de endorfinas. 

Tú te estresas, yo me estreso

En realidad, esto no hace falta que venga ningún estudio científico a demostrárnoslo. Todos hemos tenido alguna vez esa sensación de estar tranquilos antes de un examen hasta llegar al aula y ver el nerviosismo de los compañeros. Lo mismo aplica a entrevistas de trabajo, conferencias o días de oficina. Cualquier estímulo que genere estrés puede dar lugar a una reacción emocional compartida. Y como no hay nada como compartir mucho tiempo, en los grupos en los que más se observa este efecto es en las parejas. Incluso suelen tener niveles de cortisol parecidos. Cuando uno de ellos se estresa, el otro también lo hace, de un modo casi idéntico. 

Se hace camino al andar

Cuando dos personas caminan juntas, es común que, sin darse cuenta, acaben sincronizando sus pasos, incluso cuando tienen longitudes de zancada distintas. Y esto, en cierto modo, también tiene un componente social, ya que se ha observado que, si dos personas que se acaban de conocer pasean juntas, quienes tienen mejor primera impresión el uno del otro sincronizan más sus pasos. 

No todos estos estudios son igual de concluyentes, pero hay algo que queda claro al analizarlos. Que los humanos somos animales claramente sociales, y no hay mejor manera de estrechar lazos sociales que compartiendo cualquier cosa. Incluidos los latidos del corazón. 

Imágenes | Magnific

En Xataka | La productividad "cíclica" suena muy bien como forma de ordenar el trabajo siguiendo la regla. El problema es que es un bluff

-
La noticia Tu corazón, tus pupilas y hasta tus pasos: todo lo que de verdad se sincroniza cuando pasas tiempo con alguien fue publicada originalmente en Xataka por Azucena Martín .

---

☞ El artículo completo original de Azucena Martín lo puedes ver aquí

Cosas curiosas que le suceden a la gente, algunas de las cuales son raras, raras y otras parecen superpoderes

Menuda recopilación hay en Bodily Oddities de todo tipo de cosas raras que le suceden a la gente con sus cuerpos: desde movimientos raros que algunas personas pueden hacer con los ojos o con los dedos a curiosidades mentales-neurológicas, a medio camino entre las habilidades superhumanas y la enfermedad, o cosas que suenan a… inexplicables.

La lista tiene ahora mismo más de 140 rarezas y están clasificadas por zonas corporales, tipo y frecuencia. Sirve tanto para reconocer fenómenos cotidianos (que igual no sabías que eran raros) como para poner nombre a esas peculiaridades. Cerebro, ojos, músculos… Están todos. Pero, ¡ojo cuidao! No son diagnósticos, sino explicaciones breves de síntomas más o menos normales, conocidos y documentados.

Entre mis favoritas (por curiosísimas) están la afantasia (dificultad o imposibilidad de formar «imágenes mentales», que afecta aproximadamente al 4% de las personas en distintos grados, con un 1% que no ve imágenes mentales en absoluto); los déjà vu que no son algo de Matrix, sino algo muy real (sensación de haber vivido alguna situación antes; afecta a casi todo el mundo, especialmente de los 15 a los 25 años) o la parálisis del sueño (despertarse o estar dormido y sentirse paralizado durante algunos segundos o minutos, a veces como si hubiera una «presencia» cerca, Aterrador, le ocurre a entre el 8 al 30% de la gente de vez en cuando).

En la lista también están el famoso ASMR que tanto explotan streamers y tiktokers (sonidos que producen un gustirrinín que va de la cabeza a la columna vertebral, entre el 20-70%), el estornudo fótico (estornudar ante una luz muy brillante, por ejemplo al salir de un cine a la calle, que se debe a que los nervios de la nariz y el ojo están muy juntos, 18-35%) y los acúfenos (sonido continuo de zumbidos, ruido o lluvia en los oídos, 15-20%), del que además existe la variación de los acúfenos pulsátiles (sonido de golpes continuos, como si estuvieran haciendo obras en el piso de arriba o en la calle, 3-5% de quienes tienen acúfenos. La realidad: lo que oyen es su propio latido circulando por el torrente sanguíneo).

Otras cosas que molan porque hay gente que las puede hacer: levantar una sola ceja (como Spock, 30-35%), ser ambidiestro (muy raro, menos del 1%), o tener oído absoluto (una de cada 10.000 personas; es la habilidad para identificar una nota musical sin ningún tipo de referencia externa, como pueden hacer Ana Torroja, Stevie Wonder, Barbra Streisand o Mariah Carey).

Seguir leyendo: Cosas curiosas que le suceden a la gente, algunas de las cuales son raras, raras y otras parecen superpoderes

# Enlace permanente

---

☞ El artículo completo original de alvy@microsiervos.com (Alvy) lo puedes ver aquí