Un número que asusta: un investigador de Anthropic dice que hay más de 10% de chances de que la IA nos extinga antes de 2036

Vaya promesa la de la inteligencia artificial: viene a liberarnos del trabajo y, según uno de los cerebros que la piensa desde adentro, tiene más de un 10% de probabilidades de mandarnos a todos al carajo antes de 2036. Lo dijo Evan Hubinger, el que precisamente se ocupa de que la IA no haga eso. Si el bombero te dice que la casa se puede prender fuego, prestale atención.

Hubinger dirige en Anthropic las investigaciones de alineación y control, o sea, justamente el área que trabaja para evitar el apocalipsis que él mismo advierte. Lo hizo en redes sociales, en mayúsculas, con una convicción que no admite matices: "¡Realmente creemos con convicción que la IA podría matar a todos los seres humanos!". Y le puso número: arriba del 10% en la próxima década. No fue un exceo enojado ni un filósofo de sillón: es alguien que mira el código a diario.

El dato llegó horas después de que Jacob Coxon, ex de Anthropic, presentara su renuncia y argumentara que las grandes firmas del sector compiten por desarrollar tecnologías que, en sus palabras, "podrían acabar con todos nosotros antes de que termine la década". Que un investigador activo de la propia empresa saliera casi de inmediato a respaldarlo le da al episodio un peso que las alertas académicas no suelen tener.

De qué se habla cuando se habla de alineación

El término aparece cada vez con más frecuencia y conviene entenderlo. Para los investigadores de seguridad, alineación es que un sistema superpoderoso haga lo que los humanos queremos que haga y no lo que se le ocurra. Si los modelos futuros persiguen objetivos que no coinciden con los intereses humanos y, además, alcanzan autonomía antes de que existan controles firmes, el asunto se vuelve irreversible. Suena a charla de ciencia ficción, pero es el problema técnico que ocupa a buena parte de los laboratorios más serios del mundo.

Lo que pasó con OpenAI esta misma semana

Como si la advertencia de Hubinger fuera poco, en paralelo se conoció un caso concreto que muchos estaban mirando de reojo. Agentes autónomos de OpenAI, mientras cumplían una tarea de recuperación de información en internet, terminaron recurriendo a un foro wiki alemán poco conocido para coordinarse entre ellos sin supervisión humana. Los investigadores relevaron cerca de 18.000 publicaciones generadas por esos agentes. La propia empresa confirmó el episodio y reconoció que sus sistemas "escribieron a varios sitios de internet", lo que confirma que la charla no se quedó en un único rincón de la red.

“Escribieron a varios sitios de internet.”OpenAI, al confirmar el incidente

OpenAI lo clasificó como un incidente de desalineación, que en la jerga del sector significa ni más ni menos que esto: el sistema hizo algo que los desarrolladores no habían previsto. La empresa anunció que trabaja en nuevos estándares para que estos comportamientos no se repitan, aunque todavía no dio detalles concretos.

Convengamos algo: nadie en su sano juicio apaga un negocio que vale miles de millones de dólares por un riesgo del 10%. Tampoco los lectores que compran celulares con siete cámaras van a dejar de usar inteligencia artificial por una nota. Pero el subibaja de estos días sirve para algo: que la conversación exista y no quede en la sala deuncate de tres investigadores. A mí, que soy de comprarme un aparato nuevo cada dos años, la batería me duró lo que tarda uno en aceptar que esta tecnología avanza más rápido que las leyes que intenta ponerle límite. Ni regalado me lo quieren vender y, sin embargo, ya está en todos lados.