Lo mejor y lo peor del Internet que conocemos se ha construido sobre el anonimato. La IA trae malas noticias
Las cuentas sin foto de perfil ni nombre real plagan las redes sociales, puede que hasta tú, que lees estas líneas, seas dueño o dueña de una. No juzgamos, motivos para no dar la cara en redes hay muchos y, de hecho, el anonimato es el pilar sobre el que se ha construido internet. Sin embargo, si pensabas que llamarte ‘user84721’ y tener una foto de paisaje te protegía, unos investigadores acaban de demostrar que se pueden desanonimizar cuentas en minutos con IA (cómo no).
El estudio. Un equipo de investigadores ha publicado un estudio llamado “Desanonimización a gran escala en línea con grandes modelos de lenguaje” del que se hace eco The Guardian. En él, demuestran cómo un agente basado en LLM es capaz de comprometer cuentas anónimas de redes sociales con una eficacia asombrosa. El proceso consta de tres pasos: el LLM extrae datos identificadores (edad, ubicación, intereses…), busca posibles coincidencias en otros usuarios y por último razona cuáles son los mejores candidatos, verificando las coincidencias y eliminando falsos positivos.
Minutos. Es lo que tardaron en identificar usuarios de sitios como Reddit, Hacker News y participantes de Anthropic Interviewer Dataset con este método. En la imagen puede verse cómo, a partir de unos pocos datos como dónde estudia, la edad aproximada, la ciudad y el nombre del perro, logran una coincidencia con el perfil real del usuario. Esto es un caso ficticio, pero en el experimento lograron identificar usuarios reales cruzando información con perfiles de Linkedin y otras plataformas.
Según los investigadores, los LLM permiten la desanonimización de cuentas a gran escala, superando por mucho la rapidez y eficacia de métodos clásicos. También destacan que no siempre hay suficiente información para llegar a una coincidencia, por lo que todo depende de la huella online de cada usuario.
Consecuencias. Los investigadores alertan de que este uso de la IA podría usarse con fines problemáticos, como gobiernos que quieran identificar activistas o también cibercriminales que busquen lanzar ataques muy personalizados. Además, hay que tener en cuenta que el sistema no es infalible y puede haber falsos positivos. En declaraciones a The Guardian, Peter Bentley, profesor de ciencias de la computación en UCL, advierte que “Se va a acusar a la gente de cosas que no ha hecho”.
El fin del anonimato. Como decíamos al principio, internet se ha construido sobre el anonimato de sus usuarios, pero estamos viviendo un giro regulatorio que persigue precisamente acabar con él. Lo vemos con la prohibición de redes sociales o el bloqueo de webs pornográficas a los menores impulsado por países como Reino Unido, Australia, Dinamarca y ahora también España. Estas iniciativas requieren la identificación de los usuarios para poder acceder a ciertos contenidos mediante video selfies, DNI electrónico, sistemas de verificación con IA… Opciones hay muchas, lo que no está claro es su efectividad.
Imagen | Elaboración propia sobre fondo de Google DeepMind
En Xataka | No había que inventarse un “pajaporte”, Google ya lo incluye en Android. El verdadero reto está en Europa
