Sam Altman marca la cancha: o controlamos la IA, o ella nos controla a nosotros

Vayan anotando este nombre, porque va a aparecer seguido: Sam Altman. Es el CEO de OpenAI, la empresa detrás de ChatGPT, y cada vez que habla, el mundo de la tecnología se queda en silencio unos segundos. En su última intervención volvió a poner sobre la mesa dos temas que suenan a película de ciencia ficción pero que, según él, son absolutamente reales. La pregunta de fondo es simple: ¿la inteligencia artificial va a estar al servicio de la gente o vamos a terminar nosotros al servicio de ella?

Dos peligros que van de la mano

El primero de los escenarios que Altman describe es lo que él llama perder el control del futuro. Piensen en un auto con piloto automático: funciona bárbaro hasta el día que deja de responder al volante. La idea que plantea es que, a medida que los sistemas de IA sean más capaces, también se vuelvan más difíciles de manejar, de entender y de corregir. Y si no podemos manejarlos, el que maneja somos nosotros, pero a merced de la máquina. Para evitarlo, sostiene que las técnicas de alineación —es decir, los métodos para asegurarse de que la IA haga lo que queremos que haga— tienen que correr al menos tan rápido como las capacidades de los modelos. O mejor aún, unos pasos más adelante.

El segundo peligro es más terrenal y, quizá por eso, más preocupante: que todo ese poder termine en una sola mano. Una empresa, una persona, un país. Altman lo dijo con todas las letras: si una IA extraordinariamente poderosa queda en manos de unos pocos que quieren imponer su visión del mundo al resto, los resultados pueden ser directamente distópicos, palabra que en criollo significa un futuro feo, injusto y opresivo. Evitar los dos riesgos al mismo tiempo, reconoció, es como caminar por una cornisa: hay que equilibrarse para no caerse ni hacia un lado ni hacia el otro.

Me lo crucé a Lucas, un becario del Laboratorio de Inteligencia Artificial de la UBA, y le tiré la pregunta al boleo: ¿qué te parece lo que dice Altman? Me miró como si le hubiera tirado un examen sorpresa y largó: "Mirá, lo de la alineación suena académico, pero pensalo en términos simples. Cuando vos dejás a tu hijo solo en la casa, no le das las llaves del auto y la tarjeta de crédito el mismo día. Le vas enseñando de a poco, con límites. Con la IA habría que hacer algo parecido, pero en lugar de años tenemos meses". Sirve para entender por qué los especialistas insisten tanto con los marcos regulatorios: no es para frenar la innovación, es para que la innovación no se nos vaya de las manos antes de que sepamos qué hacer con ella.

Qué propuso para frenar estos riesgos

• Un marco regulatorio federal, es decir, una ley nacional que fije requisitos de seguridad comunes para los llamados modelos de frontera, los más avanzados que existen. Piensen en ello como las reglas que tienen los autos para circular: no importa quién los fabrique, todos deben cumplir ciertos estándares básicos.
• La incorporación de auditores independientes en los mecanismos de supervisión. Una especie de controlador aéreo externo que revise si los sistemas funcionan como se promete, sin que tenga interés comercial en que el resultado sea favorable.
• Que las empresas no esperen a que se sancionen esas leyes para empezar a cuidarse solas. Algo así como el corredor que se hidrata antes de la carrera, no cuando ya se quedó sin aire.
• Coordinación internacional entre gobiernos, porque la tecnología no respeta fronteras y un país solo no puede regular algo que se mueve por todo el planeta a la vez.

“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia.”Sam Altman, CEO de OpenAI

¿Y eso para qué sirve? Sirve para entender que el debate sobre la inteligencia artificial dejó de ser una discusión entre ingenieros en Silicon Valley y pasó a ser un tema que nos toca a todos, desde el kiosquero que usa ChatGPT para responder mensajes hasta el Congreso que tendrá que decidir cómo regularlo. Altman, que es de los que más empuja el acelerador en esta industria, reconoce al mismo tiempo que alguien tiene que poner el freno. Y eso, queridas lectoras y queridos lectores, es exactamente la señal de que el tema es serio.

La pregunta que queda flotando

La cuestión que sigue abierta y que esta nota deja picando es la que la propia agenda plantea: ¿qué mecanismos concretos pueden ser efectivos para vigilar a los gigantes de la IA y evitar que acumulen poder en pocas manos? Porque una cosa es decir que hay que regular y otra muy distinta es sentarse a escribir las reglas que impidan que el futuro se nos vuelva en contra. La respuesta, por ahora, se está construyendo. Y todos, no solo los CEOs de las tecnológicas, deberíamos estar pendientes de cómo se construye.