IA. ¿Germinarán las semillas de las narrativas extremas que estaban tras bambalinas?

A finales de marzo de este año, con el nuevo modelo de ChatGPT, las redes sociales digitales comenzaron a inundarse de imágenes o fotografías personales en dibujos de diferentes estilos artísticos. Esta tendencia avivó dos debates. El primero, y tal vez no de los más recurrentes en Internet y el uso y reciclaje de indiscriminado de contenidos, se centró en los derechos de autor. Y es que Studio Ghibli, fundado por el japonés Hayao Miyazaki se caracteriza por ser uno de los impulsores de la animación tradicional en 2D, ha sido un defensor de la originalidad de cualquier obra artística. Incluso, se viralizó un video del 2016 en el que Miyazaki asegura que “jamás desearía incorporar esta tecnología (Inteligencia Artificial) a mi trabajo”. Su postura era y es clara. Ante esta disyuntiva, OpenAI, dueña de ChatGPT, ha afirmado en todo momento que lo que buscan es “brindar a los usuarios la mayor libertad creativa posible”.

La empresa fundada en 2015 por Sam Altman y Elon Musk (quien la abandonó antes que la firma alcanzará el firmamento tecnológico) se ha defendido de las críticas argumentando que su modelo está en constante perfeccionamiento.

Mensajes y una nueva narrativa en la que caben todos

El segundo debate es la intención de los mensajes. ¿Qué esperar de una herramienta a la que cualquier usuario introduce un ‘prompt’ para pedirle que genere una imagen sin importar que esta viole derechos de autor o busque generar una narrativa centrada en un discurso de odio?

La radicalización y el extremismo en redes sociales no es algo novedoso. Lo que sí es la forma en la que las juventudes consumen cierto tipo de contenidos o los productores de estos mensajes logran hacerlos masivos. Así, es común encontrar imágenes o mensajes generados por Inteligencia Artificial que han burlado la censura, por cierto, muy laxa en plataformas como X o Facebook, gracias al re-entrenamiento de los Modelos de Lenguaje Grande (LLM, por sus siglas en inglés).

Esto significa que cada ‘prompt’ (u orden que se le da a la IA) puede ser manipulada. Basta con que se haga un entrenamiento exhaustivo y constantemente se le dé una retroalimentación hasta modular o refinar el mensaje o imagen que se quiere obtener. En el estudio ‘IA y Holocausto: ¿reescribiendo la historia?’, la Unesco alerta y pone en el centro de la discusión digital la manera en que ciertos grupos neonazis han manipulado a dichos modelos de lenguaje para glorificar la ideología nazi. Incluso, en la aplicación ‘Historical Figures’ se puede iniciar un chat con algún personaje nazi en el que ellos se eximen de haber estado involucrados en cualquier tipo de genocidio.

Ahora bien, en el plano político actual es necesario entender que las tendencias, las noticias falsas y demás componentes de las redes sociales digitales se han convertido en las herramientas, tanto para la izquierda como para la derecha, para tratar de imponer sus narrativas. Quizá el ejemplo más claro lo tenemos en Donald Trump, presidente de Estados Unidos, quien tuvo que fundar su propia red social luego de ser expulsado de X. Ahí, el magnate republicano ha llevado su lucha por perpetuar su verdad a extremos irrisorios. Sin embargo, en las cuentas oficiales de su Gobierno ha echado mano de la Inteligencia Artificial para endurecer su política antinmigrante. Un ejemplo claro fue una imagen manipulada por la AI, y publicada el 18 de marzo en las cuentas oficiales de redes sociales de la Casa Blanca, en la que se burlan de una migrante latina detenida…al estilo Ghibli. LA mujer aparece esposada, llorando y custodiada por lo que parece ser un agente federal estadounidense quien la mira con desprecio.