Usuarios señalan cómo la app genera imágenes sexualizadas del contenido que suben

 

NOTIPRESS.- En días recientes se popularizó en redes sociales la publicación de imágenes de perfil o avatares generados a través de inteligencia artificial (IA). Esto con la ayuda de la aplicación Lensa, de la empresa tecnológica Prisma AI, con sede en Sunnyvale, California. Pese a su popularidad, varias voces expertas en tecnología han advertido de las posibles desventajas y riesgos de recurrir a esta app.

Lensa puede descargarse en dispositivos inteligentes con Android y iOS y es capaz de generar imágenes en diversos estilos, a partir de fotografías que provee el usuario. Aunque la descarga de la aplicación no tiene costo, se requiere una suscripción de paga para utilizar sus funciones completas y existen varios paquetes de paga para descargar las imágenes.

No obstante, medios especializados como Wired advierten de diversas desventajas y riesgos asociados a la generación de imágenes mediante IA. Entre los más generales se encuentra el robo a artistas, a través del entrenamiento del algoritmo, y prácticas predatorias de intercambio de datos. Sin embargo, en el caso específico de Lensa, dicho medio destaca los señalamientos, principalmente de mujeres, de que la aplicación genera desnudos o les atribuye características caricaturescas y sexualizadas. Esto sucede aún cuando las fotos subidas a la app, son modestas y no sexuales.

También se recogen testimonios de cómo, además de la sexualización, existe un sesgo racial entre sus riesgos y desventajas, pues a menudo las fotos de personas de color resultan blanqueadas por la IA. Adicionalmente, este sesgo de sexualización y blanqueamiento también se aplica a menudo al subir imágenes de menores de edad.

Entre las políticas de uso de Lensa se pide no subir fotos de desnudos y únicamente de adultos, no de niños, aunque la investigación de Wired destaca, la app carece de algún tipo de moderación para vigilar el cumplimiento de estas directrices. De esta forma, según Wired, se corre el riesgo de que, por el contenido enviado por los usuarios y la falta de moderación pueda generar ampliamente material de explotación sexual infantil.

Otro aspecto a considerar entre los riesgos y desventajas son las concesiones dadas a la aplicación por hacer uso de ella. Así lo advierte el canal de TikTok No es Brujería, es Tecnología, quien revisó sus términos y condiciones de uso. Aunque la app no requiere de permisos invasivos, sí incluye una cláusula donde el usuario cede a perpetuidad, irrevocablemente, de manera no exclusiva y libre de regalías el uso de las imágenes generadas a partir de sus fotos. Particularmente, si las imágenes se suben a redes sociales, la empresa podría utilizarlas en campañas publicitarias sin consultar al usuario.

A menudo suelen mencionarse dilemas éticos en torno al funcionamiento de la inteligencia artificial y el caso de las imágenes generadas con esta tecnología no es una excepción. De esta forma, especialistas y usuarios han señalado los sesgos racistas y sexualizantes de Lensa entre sus riesgos. Además, señalan la importancia de conocer los términos de uso y utilizar la app con plena consciencia de cuáles son.

 

 

 


Espero que esta publicación sea de tu interés. Me gustaría seguir en contacto contigo. Por lo cual te dejo mis principales redes para dialogar y comentar los temas de interés para la sociedad y nosotros.

 

 

 

 

Artículo anteriorTwitter lanza la suscripción (otra vez) a 8 dólares para verificación de cuentas
Artículo siguienteCrece la adopción de carteras digitales en México: Capterra