En este post de Conversia vamos a comentar qué opiniones, quejas y denuncias ha suscitado el uso de la Inteligencia Artificial en la creación de avatares, a través de la app LENSA.

En 2018 Prisma Labs sacó al mercado la app LENSA, una herramienta de edición de imágenes. Por aquel entonces, la aplicación permitía editar imágenes, sin más. Sin embargo, recientemente se ha viralizado el uso de esta aplicación, que a principios del mes de diciembre se convirtió en la APP más descargada.

¿Cómo se crean los avatares?

Lensa utiliza la inteligencia artificial (IA) para convertir selfies en diferentes estilos de arte, como el anime o el pop art. El usuario solo debe subir diez imágenes y la red neuronal Stable Diffusion genera sus “magic avatars”, es decir, retratos en una gran variedad de estilos de arte digital, desde pinturas fotorrealistas hasta ilustraciones más abstractas.

Por 3,99 dólares recibes 50 avatares diferentes, con un periodo de prueba de 7 días. Una vez pasado este periodo de gracia, tiene un coste de uso ilimitado que oscila entre los 14,99 y los 49,99 dólares al año.

Varios artistas opinan que esta app les roba su trabajo

A pesar de su masiva popularidad, muchas personas han declarado su preocupación en torno a la herramienta. Varios artistas opinan que esta aplicación les roba el trabajo a los creadores digitales, y acusan al software de Inteligencia Artificial de haber “aprendido” gracias a los diseños de sus creaciones.

A principios de diciembre, Prisma Labs expresó que “la IA aprende a reconocer las conexiones entre las imágenes y sus descripciones, no las obras de arte. […] De esta manera, el modelo desarrolla principios operativos que se pueden aplicar a la generación de contenido. Por lo tanto, los resultados no pueden describirse como réplicas exactas de ninguna obra de arte en particular”.

No obstante, Lauryn Ipsum, influencer y diseñadora gráfica, subió un tuit en el que compartía una imagen de varias de estas creaciones de avatares. En ella, podemos ver la firma de los artistas en los que la IA se ha “inspirado” para generar los avatares.  

Problemas y quejas por el uso de datos privados

Por otro lado, la mayoría de estas aplicaciones que usan imágenes faciales, generan mucha controversia por culpa de la exposición y uso de los datos privados de los usuarios. Según la empresa creadora de la aplicación que se ha hecho viral, tan pronto como generas tus avatares, tanto estos, como las imágenes subidas, se eliminan permanentemente de sus servidores.

Como expertos en privacidad, en Conversia nos resulta especialmente relevante analizar si esta APP pueda almacenar datos de las imágenes que se hayan subido, a pesar de que digan que no es así. Las fotos se borras, pero los avatares se mantienen en sus servidores. En los términos de servicio, se explicita que no se requiere ni solicita ningún metadato adjunto a las fotos que se suben. Sin embargo, debemos tener en cuenta que cualquier aplicación que recopile datos de un teléfono podría recopilar este tipo de datos. Los metadatos contienen, entre otra información,  detalles sobre las etiquetas geográficas, lo que determina el lugar en el que se ha realizado la fotografía y, por tanto , resulta ser información privada del usuario.  En consecuencia, no queda claro si se está compartiendo la ubicación o los datos personales con la aplicación, incluso si se hace sin querer.

Polémica sobre sexualidad y rasgos étnicos

Una de las razones que ha catapultado al éxito de esta aplicación es la de perfeccionar y disimular las imperfecciones faciales, como retocar y hacer que los selfies se vean más atractivos. Pero, ¿de dónde ha obtenido la IA ese canon de belleza “estándar”? Al parecer, algunos usuarios de ascendencia no anglosajona, se quejaron porque Lensa blanqueó su piel y anglicanizó sus rasgos.  Lo que nos lleva a pensar que los desarrolladores de la herramienta determinaron que este “perfeccionamiento de los selfies” pasaba por filtrar a todos los usuarios dentro de la categoría de “ascendencia europea”.

Finalmente, Prisma Labs se ha metido en problemas al generar por accidente imágenes de desnudos y caricaturas sexualizadas, incluidas las de menores, a pesar de tener una política de “no desnudos” y “solo adultos”. El CEO y cofundador, Andrey Usoltev, alegó que esto ocurría como consecuencia de un mal uso de la herramienta, lo que representa una violación de los términos de uso. Usoltev puntualizó que “cualquier app si se utiliza mal puede convertirse en un arma ”.

Y tú, ¿qué opinas sobre el uso de la IA en la generación de avatares?