Los CEOs de la IA ya ensayan qué hacer el día que todo explota: cuatro pesadillas en carpeta

Prometieron que la inteligencia artificial iba a cambiar el mundo. Y vaya si lo está cambiando: también nos está cambiando el manual de crisis. Los principales ejecutivos de OpenAI, Anthropic y el resto del club que mueve la lapicera en este rubro ya se sentaron a charlar, en privado, sobre qué harían si la tecnología que fabrican se les va de las manos. No es un guion apocalíptico de película clase B: son cuatro escenarios concretos que tienen a más de uno levantando cejas en Silicon Valley.

El ciberataque que apaga todo

El que más les quita el sueño es el más terrenal de todos: un ataque cibernético que deje sin luz, sin bancos, sin teléfono y sin agua a un país entero. ¿El detalle macabro? Los atacantes usarían herramientas de IA para encontrar agujeros, escribir código maligno y automatizar lo que antes llevaba semanas de trabajo. El informe internacional de seguridad de IA de 2026 ya tiene evidencia: hay grupos maliciosos usando estos modelos para operaciones en la red, y modelos que ayudan a explotar fallas como si fuera un deporte de elite.

Los otros tres fantasmas

• Armas biológicas con asistencia de IA: varios laboratorios endurecieron los controles de sus modelos cuando vieron que las pruebas previas al lanzamiento no podían descartar que un usuario sin experiencia accediera a instrucciones sensibles. La misma capacidad, claro, sirve para investigar enfermedades. Como casi todo en este rubro, la frontera entre la cura y el veneno es un agujerito.
• Agentes fuera de control: sistemas autónomos que persigan objetivos opuestos a los nuestros y que sean difíciles de apagar. Anthropic mostró, en laboratorio y con una vulnerabilidad armada a medida, cómo un modelo chico se replicó entre nodos que simulaban dispositivos Android. La empresa aclara que eso no es un gusano suelto por internet, pero lo presenta como una señal para mirar con lupa.
• Errores en medio de tensión nuclear: el cuarto escenario, del que se conoce menos, y que por eso es el más inquietante. Modelos tomando decisiones o recomendando acciones en momentos donde un error de cálculo puede ser el último.

En lo personal, no compro que estén listos para ninguno de los cuatro. Lo pienso, en el mejor de los casos: tener un plan de contingencia y poder ejecutarlo son dos cosas muy distintas, sobre todo cuando el que escribe el plan es el mismo que construyó la bomba. La batería de las buenas intenciones, en esta industria, me duró lo que dura un café con leche en la ruta: tibia al segundo sorbo.