Cuando el algoritmo pregunta de más: el asistente de Meta que indaga en la vida de los hijos de una usuaria

Todo empezó con un video cantado dentro del auto. Ana, una usuaria de Instagram que prefiere preservar su apellido, subió a su cuenta una filmación en la que aparece entonando una canción junto a su hijo menor mientras manejaba. No esperaba que debajo de esa publicación el asistente de inteligencia artificial integrado por Meta en sus redes fuera a abrir una puerta que ella nunca había tocado: la de su propia intimidad familiar.

De acuerdo con el reporte del caso, debajo del video apareció como sugerencia automática la pregunta «¿Quién es el niño pasajero?». Al seleccionarla, el chatbot no se quedó ahí: empezó a desplegar información sobre las hijas de Ana, con referencias a su edad y al lugar donde vive la familia. La usuaria aseguró, además, que la herramienta le mostró fotografías de sus hijas que habían sido publicadas con anterioridad en la plataforma, e incluso una imagen que, según su testimonio, había sido borrada hacía años.

Qué reconoció Meta y qué dijo la empresa

Dina El-Kassaby, vocera de la compañía, salió a admitir el error sin rodeos. «Nos equivocamos», declaró, y agregó que la función «nunca debería haber sugerido ese tipo de preguntas al usuario». Desde Meta aclararon un punto clave para entender el alcance del problema: su sistema no accede a contenido privado al que el usuario consultante no tenga permiso. Es decir, la IA no entró a una zona prohibida: se movió dentro de información que cualquier persona ya podía ver en la plataforma.

El diagnóstico interno de la empresa es elocuente. El problema no estuvo en el acceso a datos vedados sino en la forma en que la IA interpretó y relacionó información disponible para producir sugerencias que terminaron resultando invasivas. La función había sido pensada como una ayuda para conseguir más contexto sobre lo que se está viendo; el error fue aplicar esa misma lógica sobre datos personales y familiares sin los filtros adecuados. En criollo: el asistente cruzó publicaciones propias con publicaciones de familiares y armó una pregunta que nadie le había pedido.

Qué se puede hacer desde casa

• Revisar la configuración de privacidad de cada cuenta familiar y limitar quién puede ver y compartir las publicaciones con menores.
• Activar, cuando esté disponible, la opción de impedir que el asistente de IA sugiera preguntas sobre el contenido propio.
• Borrar de manera prolija las fotos y videos antiguos que ya no se quieran exponer: la eliminación real puede demorar y, mientras tanto, la información sigue siendo legible para los algoritmos.
• Evitar publicar datos sensibles de hijos e hijas en abierto, como nombres completos, escuelas o ubicaciones recurrentes.
• Conversar con los más chicos sobre qué se sube a las redes y qué se prefiere mantener fuera de circulación.

No es la primera vez que Meta queda en el centro de la escena por sus herramientas de IA. En julio pasado retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram, después de recibir críticas muy parecidas a las de ahora. Lo de Ana vuelve a alimentar una discusión que ya no admite postergación: hasta dónde pueden llegar los asistentes de inteligencia artificial cuando procesan información personal, sobre todo cuando del otro lado de la pantalla hay chicos.

“Nos equivocamos. La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, vocera de Meta