La vulneración de la propia imagen


#HuellaDigital | *Leo García (@leogarciamx)

La invitación parece inocua, simpática, divertida: “¿Cómo te verás al envejecer?”. No es difícil, mediante la aplicación FaceApp basta subir una foto, una selfie y el sistema lo calcula; no sólo envejecimiento, sino toda variedad de alteraciones al rostro. La trampa funcionó, la privacidad se vulneró, ha sido el usuario quien libre y voluntariamente ha cedido.

IA de Cambio de Estilo

FaceApp es una aplicación que ofrece “transformar tu rostro usando inteligencia artificial”. La aplicación altera el rostro modificando distintos rasgos, gestos y cualquiera de sus características en general. De hecho, este tipo de algoritmos se crearon iniciando por modificar rasgos visuales de estilo en celebridades, por la cantidad de imágenes disponibles. Son los algoritmos StyleGAN.

No sólo es envejecimiento, sino que ofrece cambiar la expresión modificando el gesto; ofrece no sólo envejecer en distintos rangos de edad sino también rejuvenecer; alterar rasgos agregando barba, modificando el peinado y tipo de cabello, el color de ojos, el color de piel, el tipo étnico; cambiar el género pasando de hombre a mujer o viceversa. Y todo de manera sumamente realista. ¿Cómo es posible?

Para llegar a este punto, los algoritmos de inteligencia artificial que se aplican han sido entrenados por mucho tiempo. Se aplican los algoritmos llamados “red generativa antagónica” que, dicho de manera sencilla, se trata de poner a competir dos sistemas de inteligencia artificial, uno generador de datos candidatos y uno supervisor evaluando su autenticidad. El dato final que se busca conseguir es cuando el supervisor logra ser “engañado” evaluando como auténtico el dato del generador.

Al aplicar esta técnica en fotografías es muy probable que el resultado final también sea considerado auténtico por un observador humano, aunque la imagen que muestre la fotografía no necesariamente sea real.

Lo interesante del caso de este tipo de aplicaciones (FaceApp no es la única) es que para evaluar como auténtico el resultado objetivo se dispone de enormes cantidades de información con la cual comparar. ¿Qué tipo de información? Usualmente información provista de antemano por los usuarios con otro tipo de dinámicas del estilo de #10YearChallenge; muestras de datos validadas de antemano por las personas al ofrecer su propia imagen con ‘x’ años de diferencia.

Lo que la inteligencia artificial hace es “aprender” a analizar los marcadores distintivos propios del rostro relacionados con sus facciones, características etarias, expresiones, tipos étnicos, para después calcular mediante la comparación de los puntos determinados del rostro original las alteraciones que corresponden según el modelo y modificación que se quiere obtener. Entre más imágenes dispone para analizar al ser entrenada el resultado obtenido es más convincente.

Esta persona no existe

El modelo de inteligencia artificial que se utiliza en este tipo de aplicaciones tiene otro uso que puede entenderse como un riesgo, generar rostros de personas que no existen.

Las redes antagónicas son capaces de construir imágenes tomando múltiples elementos de sus fuentes de información, que es lo que entendemos cuando se dice que son “entrenadas”. Estos resultados llegan a un punto donde son convincentes, pero no necesariamente significa que operaron sobre una imagen real, sino que construyeron una imagen nueva y diferente.

Los algoritmos de red generativa antagónica son capaces de producir resultados automáticos sin supervisión al tomar los rasgos de alto nivel que dotan de identidad al rostro, las características antropológicas como es el tipo étnico, además las que le dan rasgos distintivos como los lunares y peinado.

Pero no para ahí, además el muestreo estadístico de los datos provistos permite discriminar y evaluar la probabilidad de repetir un rostro por lo cual pueden estimar, teóricamente, los rostros que no existen y producirlos artificialmente. Sólo para considerar, por si en algún momento hay duda de donde pueden venir las fotos de perfil usadas en las cuentas falsas que abundan en redes sociales.

Este gatito no existe

La clave en la efectividad de estos modelos de generación de datos es disponer de muestras lo más amplias posible para que los algoritmos tengan más puntos de referencia al ser entrenados y afinar con eso sus resultados. Antes de operar sobre rostros hay un antecedente; estos algoritmos fueron entrenados sobre las imágenes más abundantes de internet: los gatitos.

Pese a lo que se pueda pensar, el tipo de imagen más abundante que los usuarios comparten en internet son fotos de gatos. Así, también es muy probable que muchas de las imágenes de gatitos que hoy día se comparten internet se hayan utilizado para entrenar algoritmos de inteligencia artificial.

Y esto debería ser la parte esencial del tema, la información que las personas comparten, no sólo en redes sociales sino en general en el entorno digital actual, en su interacción proveen datos que vulneran su privacidad, en algunos casos por desconocimiento, en otros por negligencia.

FaceApp en sus términos de uso especifica claramente que todas las imágenes provistas pasan a ser de su propiedad a perpetuidad y se reservan el derecho a disponer de ellas como quieran. Incluso, compartiéndolas con otras de sus tecnologías. Una empresa rusa, por cierto.

La imagen propia es uno de los datos personalmente identificables que más deberían estar a buen resguardo y parece que es el que con más facilidad el usuario en libertad y voluntariamente vulnera de sí mismo.

Hagamos red y sigamos conectados, siempre con responsabilidad.

*Leo García (@leogarciamx) es desarrollador web y analista de tendencias de Twitter.

Las opiniones expresadas en este artículo corresponden al autor y no representan necesariamente la postura de Quinto Poder.

Consigue más noticias en tu e-mail

Inscribirse al newsletter para recibir noticias en tu correo.

Quinto Poder

Denunciamos todo lo que apesta a corrupción, lacra e injusticia. No basta con que te indignes, mejor alza la voz y ayúdanos a impulsar una reflexión. Sin protegidos ni favoritos, Quinto Poder es tu voz.