Mercaderes de la Mentira
Cómo la IA Generativa está dinamitando la credibilidad de las redes sociales.
ÉTICA
Alby Ojeda
11/4/20247 min leer
Desde hace unos años, estamos siendo testigos del nacimiento de un nuevo terror social.
Como si el inconsciente colectivo nos estuviera alertando del peligro diez años antes de que pudiéramos palparlo en nuestro día a día, creando mitos y monstruos bajo nuestra cama para advertirnos de los depredadores que están llegando.
Me refiero a las mentiras digitales o, como se llaman en medios para suavizar su problema, Deep Fakes.
La manipulación de la realidad siempre ha estado conviviendo con nosotros, desde que surgió la civilización, para poner a la población del bando de un rey, de un papa o una marca comercial.
La propaganda se convirtió en marketing en el S.XX.
Y ahora está mutando delante de nuestros propios ojos a algo nuevo.
No sé el qué, pero algo nuevo, descomunal y descontrolado en el que la IA Generativa es solo el medio.
DEL MEME AL GENOCIDIO
El impacto de las mentiras en los medios de comunicación está ya más que comprobado y estudiado:
En 1993, una radio fue clave para impulsar el genocido de los tutsis durante la Guerra Civil de Ruanda.
En 2017, Facebook fue clave en el genocidio de los Rohinyá en Birmania.
Este verano, la extrema derecha irlandesa provocó graves disturbios en Dublín tras difundir por sus redes bulos racistas tras el apuñalamiento de un menor.
¿Qué va a ocurrir cuando se propaguen los bulos con imágenes y vídeos creados con IA, indistinguibles de la realidad?
Solo hay que pasearse por las redes para ver cómo los usuarios no es que no puedan distinguir un titular manipulado o una imagen falsa de la realidad.
Es que no quieren hacerlo.
La sobre-infoxicación que vivimos nos lleva a ser selectivos, así que descartamos todo lo que genera fricción en nuestra realidad y abrazamos aquello que nos la confirma.
Es decir, automáticamente negamos aquello que contradice nuestra opinión y consumimos solo lo que valida nuestra ideas.
Así que la sociedad no solo no está luchando contra el bulo. LO ESTÁ ABRAZANDO.
Por eso triunfan los memes de niños africanos artesanos, los bulos racistas en Irlanda o las llamadas al genocidio desde Facebook.
El Fake como arma política.
Es en este escenario cuando llega la IA Generativa para amplificar el caos.
OpenAI, la empresa que desató la carrera tecnológica de la IA al lanzar ChatGPT, lleva tiempo advirtiendo del impacto de su tecnología en las elecciones mundiales de este año hasta el punto de firmar un acuerdo con Google, Meta y otras 17 empresas para frenar su uso con motivos políticos.
De hecho, OpenAI ha dicho abiertamente que está reteniendo tecnología hasta después de las elecciones americanas.
Eso significa que a partir del 5 de Noviembre veremos una aceleración de la industria de la IA impensable ahora mismo. ¿Quizás lancen ChatGPT 5? ¿Quizás Strawberry? En un par de meses lo veremos.
Y aun así, la IA ha salpicado la campaña política tanto por uso como por omisión:
Donald Trump ha estado compartiendo montajes creados con IA con el supuesto apoyo de Taylor Swift.
Pero también acusa a Kamala Harris de usar la IA para crear multitudes en sus mítines.
Y cuando el caos empieza a calentarse, llega el irresponsable de Elon Musk para lanzar por su cuenta su IA sin censura "por el bien de la libertad de expresión", dando carta blanca a la generación con rostros famosos en situaciones "políticamente incorrectas".
Porn Fakes con menores
Si los líderes de opinión llevan años mintiendo y usando la manipulación para su beneficio, ¿por qué no lo iba a hacer la población?
Así llegamos a septiembre del 2024 con graves problemas sociales que parece que no están todavía despertando a la sociedad de este peligro.
Es algo que se lleva dando desde hace años, pero a nadie parece importarle salvo a las víctimas.
Me refiero a los Porn Fakes, montajes de imágenes y vídeos con carácter pornográfico usando IA para hacerlos realistas.
Ya en el 2018, famosas como Scarlett Johansson o Gal Gadot intentaron luchar contra los Deep Fakes sexuales que inundaron las webs porno. En esos montajes primitivos, se insertaban sus rostros en cuerpos de actrices de cine para adultos. Pero no han tenido forma de frenarlo ya que la tecnología está al alcance de cualquiera.
En enero de este año, Taylor Swift también fue víctima de los deep fakes, pero esta vez dando el salto a las redes sociales y la máxima difusión.
Sin embargo, el horror no está solo en la exposición a mujeres famosas de las que se pueden obtener imágenes suyas con solo una búsqueda en Google.
La normalización de esa violencia ha llevado ya a que el objetivo de los Porn Fakes sean menores, creando un auténtico mercado en redes de mensajería.
El año pasado ya vimos el caso en España donde un grupo de adolescentes crearon e intercambiaron por Whatsapp montajes de desnudos de sus compañeras de clase.
Ahora, esta misma semana, asociaciones de feministas de Corea del Sur se han organizado para denunciar públicamente la red de intercambio de deepfakes de estudiantes, incluyendo menores que hay en los centros educativos del país.
Una red organizada que de forma sistemática capta fotos de las estudiantes, las manipula e intercambia, incluso bajo pedido.
El nacimiento de un nuevo "Hombre del Saco"
Cuando al principio hablaba de la llegada de un nuevo terror social y del inconsciente colectivo no lo decía de forma gratuita.
Creo que esto que estamos viviendo lo empezamos a anticipar colectivamente creando mitos que han ido creciendo en redes en los últimos 10 años.
Me refiero a la proliferación de teorías de la conspiración como el Efecto Mandela o que la realidad es una simulación.
Con ellas, se dinamita la concepción que tenemos de la realidad.
Con el primero, ya no creemos lo que ven nuestros ojos sino priorizamos lo que recordamos.
Con el segundo, dudamos incluso de la importancia de la realidad.
Y siempre con el origen de la manipulación en los más poderosos. En todas ellas existe el mismo denominador común de que un gobierno oculto pretende manipularnos y ocultarnos la realidad.
Ya sea porque han hecho un pacto con entidades demoníacas a cambio de Adenocromo, porque una raza de reptilianos nos gobierna para alimentarse de nuestras emociones o al activar el acelerador de Hadrones hemos alterado nuestra línea temporal.
Si en el S.XIX el mal tenía la forma de un noble que había hecho un pacto con el Diablo para beber la sangre de las campesinas, ahora son los actores y raperos quienes beben sangre de bebés para conseguir la inmortalidad.
El siguiente paso es que esos satanistas nos oculten la verdadera forma de la Tierra o que en realidad vivimos en un simulador-prisión de almas.
Incorporamos a nuestros terrores nocturnos el nuevo hombre del saco que es capaz de alterar nuestra realidad.
246.000 muertos en Hiroshima y Nagasaki no frenaron la industria nuclear.
La llegada de la IA Generativa no ha hecho nada nuevo. Lo que está haciendo la IA es amplificar la capacidad del ser humano de autodestruir su propia sociedad.
Es por eso que la IA necesita una regulación urgente y a la altura de su alcance.
Pero no una regulación independiente como la que está planteando la Unión Europea.
De nada sirve cuando en EEUU Donald Trump está prometiendo desregularización, financiación y carta blanca a la IA. Y aunque Kamala Harris pide control y moderación de la tecnología, ya ha dejado caer que EEUU debe mantener el liderazgo de ese campo frente a China.
Y es que China ya va muy por delante en las patentes de IAs.
Así que, una regulación desproporcionada en Europa provocaría que otras naciones le tomen la delantera en investigación, desarrollo, aplicación y uso, volviendo obsoletas a las empresas europeas.
O provocando la deslocalización del dinero hacia estados más permisivos con la creación de productos con IA.
Por ejemplo, pongamos que en Europa se prohibe la creación de series de animación hechas con IAs. Nadie podría impedir que un productor encargara a una empresa con sede en Dubai la creación de los capítulos en servidores alojados en Pakistán, a los que pagaría con dinero de subvenciones europeas y que vendería a canales españoles de televisión a un coste irrisorio.
El impacto económico se sumaría al resto de problemas sociales.
¿La solución?
Un tratado internacional a la misma altura que el de las armas nucleares o la manipulación genética.
Si la creación de una central nuclear o el análisis de ADN humano está fuertemente legislado, necesitamos una regulación férrea y coordinada firmada por todos los estados.
Es un pensamiento infantil pensar que los gobiernos van a prohibir el uso de la IA, una tecnología de la que ellos mismos ya se están beneficiando.
El primer paso es reconocer que tendremos que convivir con la aplicación más injusta e inmoral de esta tecnología.
De la misma manera que los 246.000 muertos de Hiroshima y Nagasaki no frenaron la industria nuclear, el robo de derechos de autor o la creación de deep fakes con menores no va a frenar la cuarta revolución industrial.
Sobre todo cuando la IA Generativa es una herramienta que no solo permite a Gobiernos y Corporaciones comerciar con nuestra atención.
Ahora les permite comerciar con nuestra realidad.
"Nivel 13" ya planteaba la hipótesis de la simulación antes de "Matrix".
Protesta feminista contra los Deep Fake sexuales de menores en Corea del Sur.
Donald Trump utilizando fakes para su campaña.
Grupos de Facebook virales con imágenes creadas con IA
Imágenes falsas de la supuesta detención de Donald Trump en 2023