Gates se bajó del caballito: ahora le preocupan más los riesgos de la IA que sus promesas

Prometen que la IA va a curarte la malaria, salvar al planeta y, de paso, resolverte la vida. Mientras tanto, el debate sobre qué hacer cuando todo eso salga mal queda encerrado en un grupo de Telegram de ingenieros y se acabó. Algo de eso vio Bill Gates, que decidió soltar un memorándum para sacudir a quienes todavía creen que el problema está lejos. Lo subí al alcanfor: ni regalado el optimismo a esta altura.

El planteo de Gates en pocas palabras

• La velocidad de los modelos superó las expectativas del público general.
• El debate sobre cómo controlar la IA se concentra casi exclusivamente en el sector tecnológico.
• Falta participación de expertos en políticas públicas, ciencias sociales y organismos estatales.
• Gates reconoció un cambio de postura: esta vez ve posible que los efectos negativos superen a los positivos.
• No propone frenar la innovación, sino anticipar problemas antes de que sean difíciles de revertir.

En concreto, el cofundador de Microsoft sostuvo que muchas personas todavía imaginan a los sistemas avanzados de IA como algo que recién aparecerá en varias generaciones. Para él, ese cálculo está mal hecho. Los desafíos más espinosos, dijo, pueden llegar antes de lo previsto. Y cuando lleguen, el mundo no debería descubrirlos mirando el techo.

“Me sorprende la falta de participación fuera de la industria en cuanto a los problemas que se plantearán y cómo evitar o minimizar los posibles efectos negativos de la IA.”Bill Gates

La movida tiene su ironía: durante años Gates ofició de vendedor entusiasta de la transformación tecnológica. Ahora admite que esta vez la cosa puede salir mal si no hay reglas claras. Para el memorándum no se trata de pedir una ley nueva cada semana, sino de ampliar la mesa. Que se sienten a discutir quienes estudian comportamiento social, quienes diseñan regulaciones y quienes ejecutan políticas públicas, no solo quienes escriben código. Lo compro: la advertencia tiene sentido. El ritmo lo marca el mercado, y cuando el mercado se acelera sin contrapeso, después aparecen los peros.

Párrafo final didáctico para los que recién se enganchan al tema: Gates también pidió colaboración global entre personas con formaciones muy distintas. Algunos desafíos técnicos exceden a cualquier empresa o país. El punto de partida, según él, es definir quiénes tienen voz en estas decisiones. El resto viene después.