El detector de IAs del ICAA

La semana pasada se celebró durante el Festival de cine de Málaga unas jornadas para debatir el código deontológico sobre IA en la industria audiovisual.

En esa mesa se planteó la necesidad de exigir un código de responsabilidad con el uso de la tecnología y la creación de una herramienta para detectar si un guionista ha usado IA en la escritura del guion.

El objetivo es denegar subvenciones a proyectos escritos íntegramente con herramientas de Inteligencia Artificial.

Y a falta de más información sobre el tema, las declaraciones hacen saltar bastantes dudas:

¿Qué porcentaje de IA es aceptable en un guion?

En la propia mesa redonda se destaca que no se aceptarán guiones creados íntegramente con IA y tiene todo el sentido del mundo. Pero ¿y si está escrito al 98%? ¿Y si es al 89%? ¿Qué porcentaje exacto será tolerable?

De hecho, ¿habrá diferencia si la IA ha escrito los diálogos y el guionista las acotaciones?

Y por retorcer más todavía el caso... ¿Y si la idea, personajes y estructura las ha sacado un productor de ChatGPT pero le encarga la escritura final a un guionista novato siguiendo esos parámetros?

¿Cómo evitarán los falsos positivos?

Por que sí, los detectores de IA no son fiables. Ya en su momento la propia OpenAI estaba desarrollando una herramienta propia y abandonó el proyecto porque era imposible conseguir resultados fiables.

De hecho, hay casos en los que los detectores han determinado que la Constitución Americana fue escrita por una IA.

¿Cómo van a asegurar que la herramienta del ICAA será capaz de lidiar con esto, cuando ni la propia OpenAI (con todo el dinero infinito de Donald Trump) ha podido?

Utilizarán una tecnología creada a partir de los detectores de plagio de las universidades cuando plagiar no es lo mismo que generar. De hecho, el problema de los falsos positivos ya lleva tiempo afectando al sector de la educación.

Es más, en la propia mesa redonda se afirma que ya han rechazado un proyecto donde se "sospecha" que se usó IA de forma íntegra:

"Este año se nos ha presentado una obra, a priori hecha en inteligencia artificial y, obviamente, lo hemos denegado."

Si es "a priori" ¿significa que no están seguros de su uso, pero lo han descartado?

¿Y si se utiliza una IA para humanizar el texto?

Hecha la Ley, hecha la trampa. Y del mismo modo que hay IAs detectoras, existen IAs entrenadas para burlar esos sistemas. Con una simple búsqueda podemos encontrar varios:

• Humanize AI.

• AI Humanize.

• Monica.

Hay que tener en cuenta que el SEO de Google penaliza el posicionamiento de contenido creado con IA, así que hay muchos intereses en marketing en el desarrollo de herramientas de este tipo. La batalla en este aspecto va a ser larga.

Un parche punitivo contra el eslabón débil.

El planteamiento de una herramienta que revise si un guionista ha usado la IA en su escritura para descartar proyectos es una medida que castiga directamente a uno de los eslabones más débiles de la industria.

• Una medida basada en la presunción de culpabilidad. La solución parte desde la base de que cualquier proyecto puede haber sido creado con IA, cuando en el sector hay profesionales en contra de su uso que podrían verse afectados injustamente por un falso positivo.
  
  

• Un guionista disfruta con su trabajo de escritura. Aunque una IA le escribiera íntegramente la historia, el profesional difícilmente iba a conformarse con ese resultado y siempre editará (como mínimo) parte del material para darle su toque personal.
  
  

• ¿Es mejor premiar un guion humano mediocre a un guion sintético brillante? Siguiendo el punto anterior, tampoco se puede hablar con rotundidad por todos los guionistas. Así que nos tenemos que poner en la tesitura (hipotética y futura) de que si un guion de IA íntegro supera todos los controles de calidad, ¿significa que hay que descartarlo frente a otro de menor calidad escrito por un humano? 
  
  

• Un productor cantamañanas tiene recursos para engañar. Devolviendo el debate a tierra, la industria está lleno de empresarios listillos y estafadores que no tienen ningún reparo en saltarse cualquier ley laboral con tal de ahorrar dinero. Ya sea encargar guiones sin contrato o pagar en negro por debajo del convenio colectivo. Es ese perfil el que precisamente tiene más recursos para invertir en herramientas para saltarse los controles de IA, no el guionista que trabaja para él.
  
  

Con esta medida no se premia el talento humano, se premia la picaresca.

Soluciones para una nueva industria.

No quiero que se me malinterprete.

Llevo años alertando de todos los problemas que trae esta tecnología y avisando de que necesitamos una regulación urgente a nivel internacional, a la altura de los tratados nucleares internacionales o la manipulación genética humana.

Pero este tipo de medidas desde las administraciones vuelven a caer en el mismo enfoque tecnológico cortoplacista de siempre.

Ahí tenemos el ejemplo del Radar Covid, el Pasaporte digital para evitar el acceso a la pornografía a menores o tantas otras aplicaciones más.

Es normal que se pretendan encontrar soluciones que apaguen los incendios actuales y esta medida tiene todos los indicios de que se centran en tranquilizar a los sectores más conservadores de la industria, que creen que hay una forma de evitar el avance de la Inteligencia Artificial.

Spoiler: desde el 20 de enero de 2025 ya no hay vuelta atrás.

Pero si descartamos esa visión sesgada, tenemos que visualizar soluciones a largo plazo.

Premiar, en lugar de castigar.

Es cuestión de tiempo de que se normalice la IA en todos los ámbitos de nuestra vida, del mismo modo que hemos hecho con Google o Whatsapp. 

Con una herramienta al alcance del Word de todos los productores cantamañanas, la avalancha de contenido generado con IA intentando hacerse pasar por real va a ser incontrolable.

¿Y si el ICAA en lugar de castigar el uso de la IA, premiara la creación humana?

Se podría crear un "certificado de humanidad", firmado por un guionista, que asegure y demuestre que el proceso íntegro de la escritura ha sido supervisado por un humano y en qué medida.

Con ese certificado se podrían obtener puntos extra en subvenciones y ayudas. Sin él, puedes seguir optando a ellas pero en desventaja.

Evaluación mixta.

¿Qué pasará cuando una productora desarrolle un proyecto en el que cuenta con un guionista que entrena y supervisa su propia IA generadora de guiones?

Supongamos que en ese proyecto, el guionista cobra justamente por su trabajo, tanto con un sueldo como por royalties de explotación de la IA. Pero todos los guiones finales son escritos por la herramienta, siguiendo punto por punto el mandato humano, porque por la naturaleza del proyecto deben de actualizarse en tiempo real según la interacción con el público o la llegada de noticias de actualidad en tiempo real.

¿Sería justo que no pudiera optar a subvenciones cuando se hace un uso ético de la herramienta?

En ese caso, la propuesta sería crear categorías en las subvenciones para que el uso de la IA conviviera con los planteamientos más tradicionales. 

Leyes estúpidas para miedos caducos.

En 1865, el Parlamento británico decretó que los vehículos a motor solo podían circular a un máximo de 6 km/h.

Para asegurarse de que se cumpliera esta restricción, era obligatorio que delante de cada vehículo fuera caminando un hombre agitando una bandera roja.

Esta ley surgió por la amenaza que significaba el automóvil para la industria del ferrocarril y del transporte de caballos. Con esta medida, se pretendía frenar el avance de una tecnología que protagonizó la segunda revolución industrial.

Sé que la IA en la industria creativa es un tema delicado y con muchas aristas. No se pueden encontrar soluciones sencillas de la misma manera que encontrar algo que contente a todo el mundo.

Tampoco soy legislador ni pretendo serlo. Solo tengo claro que la vía más honesta es el uso transparente de la herramienta porque siempre existirán mecanismos para que los productores cantamañanas se salgan con la suya.

Usar una bandera roja delante del vehículo solo calma los miedos inmediatos, no es una solución a largo plazo.