La advertencia del MI5 que interpela a la escuela: cuando la inteligencia artificial facilita el acceso a conocimiento sensible

Recuerdo la primera vez que Lucía, una alumna de sexto año de una escuela técnica de La Plata, me escribió para contarme que había encontrado en un video de YouTube instrucciones para sintetizar un compuesto químico que, según ella misma reconoció después, no entendía del todo. Tenía quince años, un celular con conexión a internet y la certeza, de que el mundo estaba ahí afuera, al alcance de un clic. Esa imagen volvió a mi cabeza cuando leí la advertencia que hizo pública el director general del MI5, Ken McCallum: la inteligencia artificial está bajando el umbral de acceso a conocimiento científico complejo, y eso incluye información que puede usarse para desarrollar armas biológicas o liberar agentes patógenos. La frase, pensada para alertar a los servicios de inteligencia de Europa occidental, también obliga a mirar hacia adentro de nuestras aulas, donde millones de chicos y chicas conviven a diario con asistentes virtuales, buscadores potenciados y modelos de lenguaje que responden casi cualquier consulta.

Según el comunicado oficial del MI5 difundido en el análisis anual de amenazas que presentó McCallum, la inteligencia artificial ya está intensificando la disputa entre atacantes y defensores en el terreno de la ciberseguridad, y permite que actores maliciosos aprovechen información disponible en fuentes abiertas para aprender a manipular agentes biológicos peligrosos. En el mismo acto, el organismo anunció la creación de un Centro de Evaluación de Amenazas de IA, que funcionará dentro de la estructura del servicio de inteligencia británico con el objetivo de estudiar de manera sistemática los riesgos y las oportunidades que presenta el desarrollo acelerado de estas herramientas, con foco en su impacto sobre la seguridad nacional y sobre la vida cotidiana de las personas.

La advertencia en palabras del propio McCallum

“La IA ya está intensificando la lucha por la ciberseguridad entre atacantes y defensores.”Ken McCallum, director general del MI5

Lo que dice McCallum no es un discurso catastrofista ni una película de espías: es la descripción de un problema concreto que ya preocupa a organismos de seguridad de varios países. La combinación de dos factores —herramientas de inteligencia artificial cada vez más accesibles para usuarios sin formación especializada y una cantidad enorme de información científica sensible disponible en línea— es el núcleo de la preocupación que expresó el director del servicio de inteligencia británico, y es la misma combinación que, con otra escala y otros fines, aparece cuando un estudiante de cualquier ciudad argentina le pide a un asistente virtual que le explique algo que no debería explicarle.

Qué se puede hacer desde casa y desde la escuela

• Hablar con los chicos, sin alarmismo pero sin ingenuidad, de que no toda la información disponible en internet es inocua y de que la curiosidad merece estar acompañada por adultos que orienten.
• Revisar juntos qué aplicaciones y asistentes usan en el celular o la computadora, y entender qué datos les pedimos y para qué.
• Acercarse a la escuela para preguntar si hay proyectos de educación digital o de pensamiento crítico del consumo informativo, y acompañar esos espacios.
• Estimular la lectura de divulgación científica seria, de fuentes confiables, como antídoto cultural frente al acceso desordenado a conocimiento técnico descontextualizado.
• Evitar el facilismo de demonizar la inteligencia artificial: la herramienta no es el problema, sino el uso que se le da y la formación de quien la usa.

Me quedo pensando en Lucía, la alumna que me escribió aquella vez, y en la responsabilidad enorme que tenemos como adultos —docentes, padres, periodistas— de no dejar solos a los chicos frente a una tecnología que avanza más rápido que los manuales de convivencia. La advertencia del MI5, pensada para los pasillos de Westminster, también debería leerse como una invitación a conversar en la mesa familiar sobre qué le preguntamos a un asistente virtual, qué hacemos con lo que responde y, sobre todo, qué valores le estamos transmitiendo a las nuevas generaciones para que usen esa herramienta sin perder de vista lo humano. Esa conversación, empecemos hoy.