¿Cómo detectar imágenes realistas que fueron hechas por IA?

Midjourney, Photoleap, Craiyon y DALL-E2 son solo algunas de las aplicaciones de Inteligencia Artificial que se han puesto de moda por su capacidad de generar imágenes que a primera vista pueden parecer realistas.

Esta semana, imágenes hechas por IA del supuesto arresto del expresidente de Estados Unidos,  Donald Trump, se viralizaron en redes sociales y algunos internautas las compartieron bajo la falsa creencia de que eran verdaderas.

Lo anterior muestra el grado de refinamiento que han alcanzado estas nuevas tecnologías, mismas que solo mejorarán con el tiempo.

Afortunadamente existen herramientas virtuales para detectar imágenes generadas por IA. Asimismo, es posible detectar con la vista a estas ilustraciones, analizando algunos elementos característicos.

Aquí te compartimos algunos consejos para no caer en engañosas imágenes de inteligencia artificial.

Detalles extraños y errores de proporción

El estado actual de los generadores IA de imágenes comete errores en los detalles no centrales de aquello que humanos le piden crear.

Por ejemplo, en las imágenes de Donald Trump, el expresidente es el personaje principal por lo que la IA enfoca sus recursos en ilustrarlo de la manera más fiel que le sea posible. Así, las fallas pueden notarse en los bordes exteriores o en personas que no sean el foco central.

En la imagen, la mano del policía que está al extremo derecho está completamente desproporcionada si se compara con el cuerpo del agente. Además se puede ver una pierna y un zapato que no pertenecen a nadie; el pantalón y calzado asemejan a la ropa de Trump, pero por la posición del exmandatario no tiene sentido que allí se ubique su extremidad.

Te puede interesar > Chat GPT ‘es plagio de alta tecnología’ y ‘una forma de evitar el aprendizaje’: Chomsky

Asimismo, hay manos cuya ilustración es poco definida y tampoco pertenecen a sujetos que se puedan apreciar en la imagen.

Estos pequeños detalles, además de la textura que las imágenes IA generan son pistas que pueden ayudar a reconocerlas.

GAN Detector

El avance acelerado de la tecnología basada en Inteligencia Artificial hará que estos errores poco a poco sean arreglados y las imágenes sean cada vez más realistas. Como respuesta, han surgido herramientas que detectan los patrones en los que se basa las IA para producir sus ilustraciones.

Te puede interesar > Tu retrato hecho con Lensa quizá sea un plagio, alertan artistas

Un ejemplo es GAN Detector, desarrollado por Mayachitra Inc. Esta aplicación, actualmente en fase demo, analiza las imágenes y las contrasta con la base de datos de la que se alimentan las IA. Así, predice si una imagen fue generada artificialmente o no.

Además de las implicaciones en cuanto a desinformación, científicas como Joy Buolamwini han descubierto sesgos racistas en las imágenes generadas por Inteligencia Artificial.

La manera en que las nuevas tecnologías adoptan y promueven el racismo y discriminación ha sido documentada desde los primeros algoritmos de motores de búsqueda, por ejemplo Google o Bing (este último será reforzado con IA a través de GPT-4).  Así lo muestra el libro “Algoritmos de opresión” de la académica Safiya Noble.