IA conlleva oportunidades para repunte económico y riesgos de reproducción de desigualdades: experta de UNESCO

Gabriela Ramos, subdirectora general de Ciencias Sociales y Humanas de la UNESCO, instó a evitar que la inteligencia artificial incida en el proceso democrático de México y a tomar ventaja de la revolución que esta tecnología implica.

En entrevista con ‘Aristegui en Vivo’, Ramos definió a la inteligencia artificial como “la capacidad de las computadoras de hacer análisis, predicciones y de simular la inteligencia humana”, y advirtió que en periodos electorales como el que México atraviesa, la inteligencia artificial puede ser empleada para realizar falsificaciones de voces o reproducciones fraudulentas de imágenes.

“Tenemos que ser muy cuidadosos”, destacó Ramos. “Con los grandes modelos de lenguaje y la inteligencia generativa, muchas veces ya no es posible distinguir lo que es cierto de lo que es falso“.

Ramos puso como ejemplo un supuesto mensaje de voz del presidente de Estados Unidos,  Joe Biden, en el que “de repente salió a decir que no fueran a votar”, señalando que ése mensaje resultó ser una falsificación de la voz de Biden creada con inteligencia artificial.

Gabriela Ramos, subdirectora general de Ciencias Sociales y Humanas de la UNESCO. Foto: X (@gabramosp).

Ramos también recordó que durante un proceso electoral en Eslovaquia, la reproducción fraudulenta de la imagen de uno de los candidatos tuvo un impacto en los resultados de los comicios.

La IA como un factor de discriminación

Ramos señaló que la inteligencia artificial se utiliza para tomar decisiones como a quién otorgarle un crédito bancario o a quien invitar a una entrevista laboral, por lo que si los datos o los algoritmos usados en ésa tecnología están sesgados, eso conlleva a discriminar “de manera masiva” y a “reproducir desigualdades”.

Te podría interesar > ONU adopta la primera resolución global sobre Inteligencia Artificial

Por ejemplo, Ramos señaló que la menor presencia de la mujer en los datos y en el desarrollo de tecnologías relacionadas con la inteligencia artificial causa sesgos y resultados que pueden ser discriminatorios.

“Esta tecnología es impresionante y está llena de posibilidades pero tenemos que controlar estos posibles impactos negativos“.

Foto: Gerd Altmann / Pixabay.

Asimismo, Ramos señaló que hay muchas empresas en Europa que “no se atreven a utilizar masivamente las tecnologías por miedo a caer en algún problema de mala utilización, discriminación o uso fraudulento”

Oportunidades y riesgos de la IA

Por otro lado, Ramos subrayó la importancia del posicionamiento de México en cuanto a la Inteligencia Artificial y de las propuestas de los actuales candidatos para ésa tecnología.

Te podría interesar > Monreal presenta iniciativa en Senado para regular Inteligencia Artificial

“Es una revolución tecnológica que está cambiando la fisionomía económica, social y política,” destacó Ramos y agregó que “nos puede servir para dar un repunte al desarrollo económico y a la productividad“.

Sin embargo, Ramos advirtió México enfrenta el riesgo de quedarse atrás “si seguimos permitiendo que sea un desarrollo muy concentrado en ciertos países y en ciertas industrias”.

Foto: Pexels.

Ramos agregó que la UNESCO trabaja muy de cerca con el senado mexicano para explorar las acciones necesarias para que México se proteja de los impactos negativos de la IA, potencie e invierta más en investigación, desarrollo y competencias y ayude a las empresas a aprovechar “estos desarrollos tecnológicos que son tan promisorios”.

El rol de la UNESCO

Ramos señaló que la UNESCO se enfoca en poner el énfasis no en las tecnologías per se, sino en “resguardar los derechos humanos, la dignidad Humana y lograr que los resultados tecnológicos nos construyan un mundo más pacífico y menos dividido.”

Te podría interesar > La Inteligencia Artificial se une a la lucha contra el avispón asiático, especie invasora: Estudio

Por ejemplo, en 2021 la UNESCO desarrolló el único acuerdo internacional destinado a “aplicar un estándar ético” a la inteligencia artificial. Ramos subrayó que ése estándar se enfoca en proteger los derechos humanos y asegurar que los resultados del uso de la inteligencia artificial sean justos.

A su vez, Ramos subrayó que la UNESCO ha desarrollado una serie de guías para normar las plataformas de inteligencia artificial y para “tener algunos controles respecto de lo que sucede en el mundo cibernético”. Ramos subrayó que ésos controles sirven para que las autoridades puedan ayudar a los usuarios “a que no caigan en informaciones falsas“.