Hinton le pone número al apocalipsis: hasta uno de cada cinco humanos podría no zafar

Otra vez el mismo truco: el científico que te vendió la IA te avisa que la IA puede matarte. Geoffrey Hinton, británico, 78 años, laureado con el Nobel el año pasado por lo mismo que hoy dice que nos puede borrar del mapa, dejó Google en 2023 con el argumento ya clásico de “quiero hablar tranquilo”. Lo que dice ahora es que existe entre un diez y un veinte por ciento de probabilidades de que una superinteligencia artificial nos extinga en los próximos treinta años. Traduzco: hasta uno de cada cinco humanos, en el peor escenario, no llega a 2055.

Yo, como buen consumidor de tecnología, convivo a diario con asistentes que me cambian una palabra, me resumen un mail o me sugieren una receta. Lo compro todos los días. Pero también miro esta cifra y pienso: ¿qué probabilidad tiene uno de morirse en un accidente aéreo? Una en once millones. La chance que maneja Hinton es varias veces mayor. Ahí se cae cualquier argumento de “es muy improbable, no te preocupes”.

El motor sin volante

Hinton usa una metáfora bastante terrenal para explicar el problema. Dice que la innovación tecnológica es como un motor de un Fórmula 1 sin volante: cuanto más rápido va, más peligroso se vuelve si no hay quién lo gobierno. Para él, la regulación estatal es ese volante. Y la metáfora funciona porque, ojo, también tiene un freno: los marcos legales que existen hoy quedaron chicos.

“Confiar en que el mercado se va a regular solo frente a una amenaza de esta escala es un error estratégico.”Geoffrey Hinton

Ya no es la máquina que copia, es la que entiende

El punto que más me interesa, y que muchos comentaristas sobrevuelan, es uno técnico. Hinton asegura que los modelos de lenguaje actuales ya no se quedan en “memorizar combinaciones raras de palabras”: según su lectura, comprenden de verdad los conceptos abstractos que procesan. O sea: no es que adivinen qué palabra viene después, es que entienden lo que están diciendo. Eso cambia la categoría del riesgo, porque pasamos de un loro muy sofisticado a algo que empieza a pensar parecido a nosotros, solo que más rápido y con menos distracciones.

En mi escala personal de de productos tecnológicos, esto no es un gadget más. Es la primera vez que una herramienta que uso para escribir un mail se sienta a la mesa con una chance real de discutir quién manda en el mundo. Ni regalado me lo quedo si me garantizan que en veinte años va a estar pidiéndome explicaciones a mí.

• Entre el 10% y el 20% de chances de extinción humana por IA superinteligente en un horizonte de 30 años.
• Hinton abandonó Google en 2023 para poder alertar sobre los riesgos sin restricciones corporativas.
• La regulación estatal, según el científico, funciona como el “volante” de un auto que cada vez acelera más.
• Los modelos actuales ya comprenden conceptos abstractos, no solo patrones estadísticos, según su análisis.
• El científico rechaza la autorregulación del mercado como respuesta suficiente a esta tecnología.