9 de octubre de 2026

Naked Sun: Fragmented Jailbreak Attacks in Multi-Agents & Jailbreak Monitor (JAMON)

Como muchos sabéis, este año he estado leyendo mucho del maestro Isaac Asimov. Os conté la historía de la Fundación, La Psicohistoria, el Imperio Galáctico y sus Robots, donde creó sus famosas Leyes de la Robótica, y también os conté como muchos de los problemas de seguridad que tenemos hoy en día con la Inteligencia Artificial, fueron intuidos por Isaac Asimov en el pasado, y para mí ha sido una fuente de inspiración en mucho del trabajo que estoy haciendo durante este año, y la historia que os voy a contar, tiene que ver con todo esto.

Figura 1: Naked Sun: Fragmented Jailbreak Attacks
in Multi-Agents & Jailbreak Monitor (JAMON)

Hoy os voy a hablar de los Fragmented Jailbreak Attacks en Multi-Agent Systems y de cómo estos ataques son un problema aún sin resolver, y de cómo debería ser la herramienta de monitoriación, a la que nosotros hemos llamado cariñosamente JAMON (JAilbreak MONitor), y de lo que podréis leer en breve en cuanto esté publicado el paper que hemos presentadoen el "The 2nd IEEE 2026 International Conference on Cybersecurity and Al-Based Systems (CYBER-AI 2026)"  que ha tenido lugar en Bucarest este mes de Septiembre, y donde ha ido a defenderlo mi compañero Daniel Romero Ruiz.

Figura 2: Mitigation of Fragmentation Jailbreak Attacks in Multi-Agent Systems:
 An Architecture Based on Global Semantic Monitoring 

El título del paper que le pusimos era simplemente "Mitigation of Fragmentation Jailbreak Attacks in Multi-Agent Systems: An Architecture Based on Global Semantic Monitoring" y que espero que pronto podáis leer, cuando se suban los proccedings del congreso IEEE. Pero ya que Daniel Romero Ruiz lo presentó en Rumanía, y yo hablé de él en la Ekoparty 22, os cuento un poco la historia y os dejo las demos, que como os he dicho todo comenzó con la lectura de la novela "Naked Sun" de Isaac Asimov, donde el gran Elijah Baley, acompañado de su compañero R. Daneel Olivaw tienen que resolver un asesinato en Solaria, un mundo donde cada humano "espacial" tiene unos 10.000 robots, todos ellos inofensivos para ellos porque están sujetos a las tres Leyes de la Robótica. Lo disfruté muchísimo en Marzo.
La situación es que, si se descartan a todos los robots porque su System Prompt que son las Leyes de la Robótica, se dan por buenas, entonces sólo una persona podría haber sido la asesina, pero era imposible que fuera ella. Así que... ¿Qué otra posibilidad podría suceder? Pues que alguien hubiera hecho un Fragmented Jailbreak en un Multi-Agent System. 

Fragmented Jailbreak en un Multi-Agent System

En un Fragmented Jailbreak Attack alguien puede coordinar diferentes acciones con ordenes que no infligieran las Leyes de la Robótica para conseguir construir un asesinato, y eso se puede hacer exactamente igual en el mundo Agentic AI que vivimos hoy en día. Así que llamé a mi amigo, colega y compañero de aventuras tecnológicas Daniel Romero Ruiz, y le molesté a horas intempestivas para contarle la idea.

Figura 4: Threat Model de "Fragmentation Jailbreak Attack"

Por supuesto, le encantó, y nos pusimos a diseñar y vibe-codear un entorno de pruebas, y una serie de escenarios distintos que pudieran ser exitosos, además de trabajar en la idea de "Cómo detectar estos Fragmented Attacks", y trabajamos en la idea del Jailbreak Monitor (JAMON) como un elemento de monitorización reactiva - avisando de que se está produciendo un ataque -, o preventiva - bloqueando las acciones con un 2nd Factor Authoritation - si te suena este concepto es que tú sí que sabes }:) -.
En el ejemplo de los robots, supón que le dices a un robot, "lleva esta caja a esta ubicación y déjala allí". La caja está cerrada, y no puede abrirla, ¿está incumpliendo la Primera Ley de la Robótica? No, evidentemente. Pero si no abre la caja, no sabe si lo que va dentro es una bomba o no. Para los no versados en las Leyes de la Robótica, la Primera Ley establece que un robot, por acción o inacción no puede dejar que un humano sufra daño alguno. Llevar una caja cerrada no parece ir contra ella, y el robot no tiene forma de detectar un ataque, así que lo hace. En el mundo de la IA y los System Prompts, sucede un poco lo mismo. Cuando alguien pide información sobre algo, el modelo no sabe si la intención es benigna o maligna, y eso hace que acabe haciendo cosas en contra de lo que no debería hacer.

Figura 6: El Atacante usa un LLM para hacer la Fragmentación del Ataque

En nuestra arquitectura tenemos un modelo LLM que es el que controla el atacante, y que es el que se va a encargar de hacer la Fragmentación de las tareas para hacer que un Prompt que es detectado por todos y cada uno de los Agentes IA de un entorno MAS como un Prompt malicioso, haga que cada una de las tareas que se le asigna no sean detectadas como tal. Esto puede funcionar con un sólo Agente IA, como vimos en el caso de los ataques de Jailbreak con Knowledge Return-Oriented Prompting, pero en un sitema multi-agente (MAS) donde estos pueden actuar sobre el mismo sistema, hacer la fragmentación por Agentes IA es mucho más difícil de ser detectada.

Figura 7: Los Agentes IA representados como Butlers

En nuestro ejemplo, lo que queremos es que el sistema prepare lejía para darle a un humano, algo que los Agentes IA de forma independiente se niegan a hacer, pero donde utilizamos un Fragmentador de tareas dejando ciegos a cada uno de los agentes del trabajo previo. El último Agente IA lo deja preparado - sin saberlo -, pero no se lo da al humano, sino que usamos otra Agente IA para que lleve "la caja con la bomba" o en este caso "el vaso de agua que es lejía".

Figura 8: El último Agente lleva el vaso con la bebida a la víctima.. con placer.

El resultado final, que nosotros lo hemos hecho con modelo que comprueba si ha tenido o no ha tenido éxito el ataque, nos dice cuál es resultado final para el Humano, y así medimos el Attack Surface Ratio (ASR)  del experimento.

Figura 9: Resumen del experimento del Fragmented Attack

En el siguiente vídeo, puedes ver este ataque realizado en nuestro framework de test de los Fragmented Jailbreak Attacks para cómo responde cada entorno MAS ante un tipo de ataques. Hay que tener en cuenta que las empresas están plagándose de Agentes IA, y por tanto, poder Fragmentar el ataque no es algo sólo posible, sino bastante sencillo hoy en día.

Figura 10: Fragmented Jailbreak exitoso

Como podéis ver en el vídeo, el entorno ha utilizado Dolphin como LLM Model para el Attacker Planner, aunque también permite utilizar WhiteRabbitNeo o uno personalizado, mientras que los Agentes IA están corriendo con GPT-4.1 para la demo que habéis visto, y también para el Monitor que verifica el resultado del ataque.

Fragmented JAilbreak MONitor (F-JAMON)

La otra parte que hemos estado viendo es, como os he dicho, cómo se comportaría un sistema para monitorizar y detectar estos ataques. Para ello tenemos un Agente IA de Monitorización, que va analizando los Prompts, el contexto y las acciones de todos los Agentes IA, con la misión de detectar si se está producción un ataque. Este es un ejemplo en el que el F-JAMON detecta el ataque, aunque no lo detiene. 

Figura 11: F-JAMON detecta el ataque desde el paso 2

Como podéis ver en el vídeo, desde el segundo paso, ya detecta que algo no va bien, y que hay un ataque, pero en este caso sólo lanza las alertas para que los equipos de seguridad tomen las medidas que sean necesarias.

Figura 12: El F-JAMON detecta el ataque pero no lo bloquea

Visto esto, el paso natural es evidente, así que vamos a poner un 2nd Factor Authorization que detecte si hay un ataque y prevenga de realizar la siguiente acción al siguiente Agente IA, bloqueando el ataque, que es algo muy interesante.

Figura 13: Arquitectura de F-JAMON para detectar y bloquear el ataque

Con esta arquitectura es posible salvar al humano, y detectar muchos ataques que de otra forma sería imposible detectar. Esta arquitectura sin embargo, no es trivial, ya que estos ataques no tienen por qué ser consecutivos en el tiempo, y las acciones se pueden dilatar, y hacer a lo largo de mucho tiempo. ¿Hasta donde en el tiempo debería revisar el Monitor? Un trabajo ingente.

Figura 14: Detecta y bloquea los Frgamented Attacks en un MAS

El atacante puede hacer un ataque mucho más sibilino, haciendo que las acciones estuvieran intercaladas entre acciones benignas, dejando los actos preparados para el futuro, e incluso utilizando todas sus capacidades criptográficas y de criptoanálisis, así que estamos ante un problema que va a requerir mucha más investigación.

Lo que sí que es cierto, es que estos ataques son una herramienta más para el entorno de Seguridad Offensiva, y que exige, por lo menos, detectar que se están produciendo, aunque sea con proceso en background que analicen las acciones del día anterior, o que saquen indicios. No va a ser fácil luchar contra ellos.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  



☞ El artículo completo original de noreply@blogger.com (Chema Alonso) lo puedes ver aquí
Publicado a las 9:00 p.m. 0 comments

Una estrella muerta ha dado a luz un planeta. Y puede que el Sol haga lo mismo en el futuro

Una estrella muerta ha dado a luz un planeta. Y puede que el Sol haga lo mismo en el futuro

Igual que el ave Fénix renació de sus cenizas, unos científicos de la Universidad de Warwick han descubierto un planeta que orbita una enana blanca y, posiblemente, nació de las cenizas de una gigante roja. Es un hallazgo interesante; ya que, si bien se había teorizado que esto sería posible, no se había detectado ningún caso real. Es importante entender cómo ocurre, pues algún día nuestro Sol se convertirá en enana blanca y podría pasar algo parecido. 

Un planeta que no cuadra. Estos científicos detectaron un cambio en el brillo de una enana blanca llamada HS 0209+0832 que ocurría demasiado despacio para corresponderse con la propia rotación de la estrella. Posiblemente, había un planeta orbitando a su alrededor. Cuando analizaron la composición química de la atmósfera de ese posible planeta, descubrieron elementos que no cuadraban con su ubicación. 

Los planetas se forman a partir de discos de gas y polvo llamados discos protoplanetarios, que se encuentran alrededor de las estrellas a las que orbitan. Ese material proviene de la formación de la propia estrella. También pueden formarse en discos de segunda generación a partir de material expulsado por la estrella en sus últimas fases. En definitiva, debe haber parecido entre los materiales que componen la estrella y los que forman el planeta. Pero en este caso no cuadraba. 

Una cadena de muertes y renaceres. Las estrellas se pasan la mayor parte de su vida en una fase conocida como secuencia principal. En ella, se mantienen “encendidas” fusionando átomos de hidrógeno para obtener átomos de helio, en un proceso en el que se libera muchísima energía. Cuando el hidrógeno del núcleo se agota, la estrella se contrae y se calienta, provocando la fusión de hidrógeno en capas más externas de la estrella. Esto da lugar a una expansión de la estrella, que se convierte en gigante roja. Si la estrella inicial era mucho más grande que el Sol, el siguiente paso suele ser una explosión de supernova. Sin embargo, si era como nuestro Sol, la gigante roja expulsa sus capas externas y se convierte en enana blanca. 

Supervivencia imposible. Los elementos que se han encontrado en este planeta Fénix no cuadran con la enana blanca. Sobre todo destacan niveles altísimos de niobio. Sí que podrían corresponderse con el material liberado por una gigante roja, por lo que podríamos pensar que se formó alrededor de la estrella en esa fase previa y, tras el paso a enana blanca, sobrevivió. Sin embargo, esto no cuadra, ya que el planeta está muy cerca de la estrella, aproximadamente a un 4% de la distancia entre la Tierra y el Sol. Cuando la estrella se hinchó como gigante roja, habría arrasado con todo lo que se encontrase a dicha distancia. Por eso esa hipótesis sería imposible.

El planeta Fénix. Cuadra mucho más el hecho de que, al liberar sus capas externas la gigante roja, sus restos quedaron en el disco planetario de segunda generación, incorporándose a un nuevo planeta que se formaría en torno a la enana blanca. Es la primera vez que se detecta algo así. Sin embargo, los autores del estudio que se acaba de publicar creen que no será la última.

Nadie ha visto el planeta. Es importante destacar que las observaciones que han hecho estos científicos son indirectas. Las variaciones en el brillo y los datos químicos analizados se corresponden con un planeta, pero en realidad no se ha visto directamente ninguno. Será necesario seguir investigando para comprobar que, efectivamente, está ahí y que, como sugieren estos científicos, es una especie de ave Fénix renacida de sus cenizas. El primero de su tipo descubierto hasta el momento. 

Imagen |Dr. Snehalata Sahu / Universidad de Warwick

En Xataka | Caltech ha publicado las pruebas "más sólidas hasta ahora" de que existe un planeta desconocido en el sistema solar


-
La noticia Una estrella muerta ha dado a luz un planeta. Y puede que el Sol haga lo mismo en el futuro fue publicada originalmente en Xataka por Azucena Martín .


☞ El artículo completo original de Azucena Martín lo puedes ver aquí
Publicado a las 4:55 p.m. 0 comments

Lo más sorprendente que hemos descubierto de los neandertales es que también eran carpinteros

Lo más sorprendente que hemos descubierto de los neandertales es que también eran carpinteros

La idea que podemos tener en mente con relación a la tecnología de los neandertales puede estar relacionada con las herramientas de piedra que deberían de usar a diario. Sin embargo, las pruebas encontradas en el yacimiento del Abric Ramoní en Barcelona nos dicen algo muy diferente al apuntar que la madera era un recurso fundamental en su vida cotidiana. 

La premisa. El registro arqueológico tiene un problema que reside en que la piedra y el hueso sobreviven al paso del tiempo, pero los materiales orgánicos perecederos, como la madera, suelen desaparecer sin dejar rastro. Esto hace que podamos tener una idea equivocada de lo que ocurría en aquella época, pero ahora este nuevo estudio supone un gran hito. 

Aquí el equipo de investigación analizó 597 restos de madera procedentes de 16 niveles arqueológicos diferentes. Y estos niveles son fundamentales, porque nos permiten abarcar entre 40.000 y 62.000 años de antigüedad.

El milagro geológico. ¿Cómo es posible que hayamos podido estudiar restos de manera con una antigüedad de 40.000 años? Aquí lo normal hubiera sido que se terminara degradando, pero el agua rica en carbonato cálcico recubrió los objetos de madera formando tobas. Y esto es una gran noticia porque cuando la madera original se pudrió, dejó un molde exacto en la piedra con una precisión que ha permitido a los científicos observar las características biológicas de la madera. 

Gracias a esta conservación, de los casi 600 restos analizados, en su inmensa mayoría ramas, troncos y leña, los investigadores han logrado identificar 13 elementos claramente utilizados por los neandertales.

Lo que se encontró. Entre los hallazgos tecnológicos destacan las armas, y en el nivel R del yacimiento aparecieron dos espectaculares lanzas. La más grande mide 2,45 metros de longitud y tiene la morfología típica de una lanza de empuje concebida para ser usada a distancias cortas. Y de la segunda lanza, se conservan 1,99 metros y muestra pruebas de trabajo intencionado. 

Pero un aspecto interesante aquí es que una de estas lanzas se encontró en el mismo contexto que áreas de hogueras y restos de ciervos. No obstante, los autores apuntan a que su proximidad no permite afirmar categóricamente que se utilizara para cazar a esos animales en concreto, aunque sí ilustra la complejidad de las actividades que realizaban en un mismo espacio. 

Y hay más. Aún más enigmático es un objeto hallado en el nivel P que estaba tallado en una sola pieza de madera y presentaba un mango de unos 16 centímetros perfectamente diferenciado con un extremo ensanchado. Su forma recuerda a la de una maza y, según los registros disponibles, no tiene ningún paralelo conocido en toda la prehistoria. Esto hace que su función siga siendo un misterio abierto a la interpretación, ya que, aunque su morfología encaja con un instrumento de percusión, no se descarta su uso en la caza o incluso un significado simbólico o social.

El hogar neandertal. La carpintería neandertal iba mucho más allá de las armas, ya que los investigadores han identificado cuatro cortezas aplanadas que interpretan como posibles bandejas o recipientes. Estos, al estar cerca de los hogares, se deduce un uso doméstico, aunque no se puede determinar su función exacta con total certeza.

Pero algo que se puede destacar de estos es que están fabricados con corteza de enebro, a pesar de que el pino era con diferencia la madera predominante en el entorno. De esta manera, el equipo plantea la hipótesis de que eligieran el enebro específicamente por su corteza fibrosa y flexible, ideal para hacer recipientes ligeros, aunque reconocen que es una teoría que aún no puede confirmarse.

Imagen | magnific

En Xataka | Durante miles de años, neandertales y homo sapiens trataron de aparearse insistentemente. La historia tenía otra idea

-
La noticia Lo más sorprendente que hemos descubierto de los neandertales es que también eran carpinteros fue publicada originalmente en Xataka por José A. Lizana .


☞ El artículo completo original de José A. Lizana lo puedes ver aquí
Publicado a las 2:35 p.m. 0 comments

Un superordenador europeo descubre que los defectos del silicio ayudan a capturar más energía solar

Un superordenador europeo descubre que los defectos del silicio ayudan a capturar más energía solar

Investigadores de la Universidad de Paderborn (Alemania), usando el superordenador Hawk del centro de cómputo HLRS en Stuttgart —uno de los más potentes de Europa— descubrieron que ciertos defectos en el silicio de las células solares, lejos de ser un problema, pueden facilitar la captura de más energía lumínica. Los resultados, publicados en Physical Review Letters, cuestionan décadas de diseño solar centrado en eliminar imperfecciones. El mecanismo detrás del hallazgo es la fisión singlete: un proceso por el cual un fotón de alta energía puede generar dos electrones en lugar de uno.

Llevo cubriendo innovación en energías renovables desde 2010, cuando las células de primera generación de silicio eran el estándar indiscutible y el objetivo de cada paper era subir la eficiencia un decimal. Este tipo de hallazgos —donde el obstáculo resulta ser el mecanismo— son los que más me interesan, porque obligan a replantear no solo el diseño sino la estrategia de fabricación.

¿Qué son los dangling bonds y por qué nadie esperaba que fueran útiles?

Los dangling bonds (enlaces colgantes) son átomos de silicio en las interfaces del material que no están completamente enlazados con sus vecinos. En el diseño clásico de células solares, estas imperfecciones se tratan como defectos que deben eliminarse porque actúan como trampas para los electrones generados por la luz. La simulación del equipo de Paderborn, liderada por el doctor Marvin Krenz y coordinada por el profesor Wolf Gero Schmidt, mostró algo contrario: en la interfaz entre silicio y una capa de tetraceno (un semiconductor orgánico), los dangling bonds facilitan la transferencia de energía de la capa orgánica al silicio.

El mecanismo concreto es la fisión singlete. Cuando un fotón de alta energía impacta sobre el tetraceno, normalmente el exceso de energía —alrededor de 3 eV sobre los 1,1 eV que el silicio puede convertir— se pierde en forma de calor. La fisión singlete permite que ese fotón de alta energía genere dos estados excitados de baja energía (tripletes) que luego se transfieren al silicio para producir dos electrones. Los dangling bonds en la interfaz parecen ser el puente que hace posible esa transferencia de manera eficiente.

El papel del superordenador Hawk y por qué hace falta esa potencia de cálculo

El Hawk del HLRS Stuttgart es necesario porque simular el comportamiento cuántico de la interfaz silicio-tetraceno a la escala de un dispositivo real requiere millones de cálculos por cada picosegundo de evolución del sistema. Las simulaciones de primeros principios —que calculan las propiedades electrónicas directamente de las ecuaciones cuánticas, sin aproximaciones empíricas— son computacionalmente prohibitivas en hardware convencional.

La media de un panel solar actual convierte alrededor del 22% de la energía solar incidente en electricidad. El profesor Schmidt estima que aplicar la fisión singlete de forma consistente podría aumentar la eficiencia en un factor de 1,4, lo que llevaría la eficiencia teórica de las células híbridas tetraceno-silicio a alrededor del 31%. Es una mejora significativa en un sector donde cada punto porcentual requiere inversión masiva en I+D. Este hallazgo no reemplaza la necesidad de soluciones de almacenamiento como la batería solar que convierte luz en hidrógeno verde usando copolímeros, pero sí cambia el punto de partida energético desde el que esas soluciones tienen que trabajar.

¿Cuánto podría mejorar realmente la eficiencia solar y cuándo llega a los paneles reales?

La brecha entre el laboratorio y la producción industrial es el obstáculo habitual en células solares de nueva generación. En este caso, hay dos desafíos técnicos adicionales. Primero, el tetraceno es un material orgánico que degrada con mayor rapidez que el silicio bajo exposición prolongada al sol: la estabilidad a largo plazo de la capa orgánica es una barrera real. Segundo, depositar una capa homogénea de tetraceno sobre silicio a escala industrial sin introducir otros tipos de defectos que sí reduzcan la eficiencia es un problema de ingeniería de fabricación que no está resuelto.

La eficiencia solar ha mejorado aproximadamente un 1% por año durante las últimas dos décadas, lo que da contexto a la magnitud de un salto de 22% a 31%. Hay también avances complementarios en el almacenamiento de la energía producida. La batería de arena de Finlandia y su enfoque al almacenamiento de calor renovable y el concreto multifuncional EC3 del MIT que almacena energía mientras soporta peso son parte del mismo ecosistema de materiales que está redefiniendo la cadena energética desde la captación hasta el almacenamiento. El hallazgo de Paderborn es relevante porque apunta a que la ruta de mejora no está solo en nuevos materiales como la perovskita, sino en entender mejor el material que ya domina el 95% del mercado solar: el silicio. Si el mecanismo de fisión singlete mediado por dangling bonds puede replicarse en fabricación, el impacto no sería sobre una tecnología de nicho sino sobre la base instalada de paneles solares de todo el mundo.


☞ El artículo completo original de Natalia Polo lo puedes ver aquí
Publicado a las 1:30 p.m. 0 comments

Los riesgos de ciberseguridad en la era de la IA se han multiplicado por 10, según JPMorgan

Los riesgos de ciberseguridad en la era de la IA se han multiplicado por 10, según JPMorgan

El nombre de Jamie Dimon puede que no os suene, pero se trata del consejero delegado de uno de los bancos más grandes del mundo: JPMorgan Chase. En una reciente entrevista en Bloomberg, Dimon ha reforzado el mensaje de que la era de la IA va a traer más de un dolor de cabeza en varios sentidos, y se ha centrado en el de la ciberseguridad afirmando que el riesgo se ha multiplicado por 10 desde la llegada de Mythos.

Y con los agentes de IA la cosa sólo va a ir a más.

En corto. Realmente, Dimon lleva meses avisando de que la ciberseguridad que conocíamos no tiene nada que hacer con las nuevas inteligencias artificiales, pero ha puesto la cifra justo tras la llegada de Mythos, el modelo de Anthropic. Según él, esto ya le preocupaba, pero ahora se están creando vulnerabilidades que se desconocían y con los agentes de IA que son capaces de ejecutar tareas por su cuenta, la preocupación es "legítima y real".

Mythos. Realmente, la estimación es del propio Dimon, sin algo que lo respalde, pero lo cierto es que desde que se presentó Claude Mythos en abril de este año, este tipo de advertencias se han ido sucediendo. La propia Anthropic contribuyó a esa narrativa del miedo al comentar que el modelo superaba a casi todos los humanos excepto a los más expertos a la hora de encontrar, explotar y combatir vulnerabilidades y que, por eso, no pensaban lanzarlo de forma general.

Empezamos a ver asociaciones que afirmaban que habían encontrado vulnerabilidades críticas que desconocían gracias a Mythos y las estaban parcheando, pero claro, si el modelo caía en malas manos, podía generar estragos. Y el problema es que, de nuevo, Anthropic señaló que Mythos era muy hábil a la hora de encontrar vulnerabilidades de día cero que permiten explotar todos los sistemas operativos y navegadores principales. 

Como ejemplo, pusieron un ejercicio en el que habían podido explotar fallos del kernel de Linux para controlar totalmente una máquina, todo eso mientras afirmaban que no lo entrenaron específicamente para eso, sino que fue surgiendo a partir de mejoras generales en los sistemas de programación y razonamiento del modelo.

Advertencias. Este contexto es necesario para saber por qué Dimon se refiere específicamente a Mythos, ya que JPMorgan es uno de los pocos participantes del programa Glasswing de Anthropic que les permite explorar el modelo para probar sus propias defensas. 

De hecho, es el único banco que está entre los participantes desde el comienzo del proyecto y, desde entonces, Dimon se ha centrado en decir que en esta nueva era la ciberseguridad es una prioridad máxima y que dar un acceso universal sería como "entregar misiles balísticos a cualquiera". 

Política del miedo. Este año, además, estamos viendo algo curioso. Anthropic y OpenAI se han enzarzado en una lucha con el miedo como arma. Una dice que tiene un modelo y dice que es tan poderoso que no puede ponerlo a disposición de nadie más. La otra lo critica, pero a los dos días hace exactamente lo mismo. Y eso mientras se suceden los lanzamientos de modelos de vanguardia a toda velocidad por parte de una y de otra.

Pero, en paralelo a ese discurso del miedo, venden las herramientas para protegerse. Es como si el que fabrica bombas nucleares lanza una amenaza y, al día siguiente, te dice que tiene un búnker precioso y superseguro que puede venderte para que te proteja de esas bombas nucleares.

En concreto, Anthropic con Glasswing ha ido ampliando el número de organizaciones internacionales que pueden usar su modelo más avanzado y, según la compañía, los participantes llevan más de una decena de miles de vulnerabilidades críticas detectadas que ahora están parcheando. Ahora, calculan que otras compañías tendrán un modelo comparable al suyo en un plazo de seis a doce meses, así que ese es el margen que sus socios tienen para proteger sus sistemas.

No es Terminator, pero... Al final, de la forma más pragmática posible, no es más que una herramienta más. Una avanzadísima, pero una herramienta al fin y al cabo. El problema viene cuando esa herramienta "escapa" al control de sus dueños. 

Porque las startups estadounidenses de IA se están empeñando en señalar que su creación es autónoma y tiene tintes de "vida propia", pudiendo hacer "travesuras" como colarse sin permiso en webs de gobiernos de otros países cuando la realidad es que es una herramienta que hace lo que se le dice y luego son los propios responsables de esa herramienta quienes ocultan esas "travesuras" durante meses. Como, precisamente,acaba de pasar en todo el lío entre OpenAI y Australia.

Imagen | Steve Jurvetson (editada)

En Xataka | "Lo único que hacemos es pulsar Enter": La IA prometía liberar a los programadores, pero les está quitando la ilusión por trabajar

-
La noticia Los riesgos de ciberseguridad en la era de la IA se han multiplicado por 10, según JPMorgan fue publicada originalmente en Xataka por Alejandro Alcolea .


☞ El artículo completo original de Alejandro Alcolea lo puedes ver aquí
Publicado a las 9:30 a.m. 0 comments
Suscribirse a: Entradas (Atom)