sábado 24 febrero 2024

Sexualización y deepfakes, desafío ético de la IA generada

La Inteligencia Artificial (IA generada) cómo, a través de sus algoritmos y datos de entrenamiento, refleja e intensifica los sesgos y estereotipos de género arraigados en nuestra sociedad. Y con esto, los deepfakes están desafiando la ética social. 

La inteligencia artificial está cambiando el mundo. Es por ello que, a nuestro alrededor, surgen debates intensos sobre su impacto en nuestras vidas. Desde la preocupación sobre cómo podría transformar el mercado laboral hasta cuestiones sobre su papel en nuestras rutinas diarias, la IA es un tema omnipresente.  

La IA se desarrolla a través de algoritmos de aprendizaje automático, alimentados por grandes cantidades de datos. Estos datos, a menudo recogidos de fuentes dominadas por perspectivas y prejuicios humanos, pueden llevar a que la inteligencia artificial reproduzca patrones que incluyan sesgos de género y, por ende, la sexualización tanto del hombre como de la mujer. 

Ejemplos claros de esto incluyen algoritmos de generación de imágenes que representan a las mujeres de manera estereotipada o sexualizada o los deepfakes.

Obviamente, los deepfakes pueden tener usos útiles, positivos e, incluso, divertidos. Como, por ejemplo, la recreaciones de figuras históricas con fines educativos, mejorar la traducción de idiomas en vídeos, o su uso para efectos especiales en la industria cinematográfica. 

Lo peligroso de este tipo de contenidos es que están tan bien hechos que pueden parecer auténticos. Estos suelen implicar la sustitución o superposición de caras en vídeos, pero también pueden aplicarse a imágenes y a audios, que recrean la voz de una persona.

Deepfakes, contenidos multimedia (imágenes, vídeos o audios) falsos generados a partir de inteligencia artificial, que imitan la imagen física y sonido de personas reales. 

El impacto de los deepfakes, especialmente en el ámbito sexual, afecta predominantemente a mujeres, con el 99% del contenido deepfake pornográfico protagonizado por mujeres. Este tipo de práctica es una forma de violencia, sobre todo hacia la mujer, porque les causa un daño psicológico, además de que manipula y destruye la reputación de la afectada. Aunque las imágenes no sean reales, el impacto y la repercusión en las víctimas es muy alto.

Para abordar y reducir los sesgos de género en la inteligencia artificial, es esencial adoptar enfoques integrales. Esto implica garantizar la diversidad en los datos de entrenamiento para reflejar la complejidad humana, promover la concienciación mediante talleres y cursos éticos, y fomentar la participación activa de mujeres en el desarrollo tecnológico para diversificar perspectivas. 

Ante todo, la promoción de la transparencia en los algoritmos facilitaría la identificación y corrección de sesgos, contribuyendo así a una mejora continua.

Fuente: https://mercadeodigital.cl/2024/02/03/desafio-etico-de-la-ia-sesgos-de-sexualizacion-y-el-mal-uso-de-los-deepfakes/

publicidad

spot_img
spot_img

suscribete aquí

Recibe periodicamente en tu correo electrónico nuestro boletín de noticias con actualidad nacional e internacional.