AI MEETS ALP¹APL son las siglas de Anna Livia Plurabell (personaje fctcio) en Finnegans Wake de James Joyce, utlizadas por él mismo. IN VOCE

1.1. What’s new, AI?

¿Qué novedades trae consigo la IA y qué cambios podemos esperar con su integración inminente? son dos cuestiones de consideración que intento abordar humildemente desde esta aportación con algunas reflexiones.

Conviene recordar que los motores generativos de IA no escriben a partir de la nada, aprenden (o tal vez deberíamos decir: copian sutilmente) contenidos que reconocen de manera más o menos acertada como pertinentes en sus fuentes, siguiendo una demanda o pregunta. La mayor parte de las veces no desvelan dichas fuentes, es decir que, contrariamente a los mandatos de periodismo o de la investigación misma, no mencionan el o los referentes de los que parten (Brittain, 2023Brittain, Blake (2023). Getty images lawsuit says Stability AI misused photos to train AI. Reuters. Disponible en: https://www.reuters.com/legal/getty-images-lawsuit-says-stability-ai-misused-photos-train-ai-2023-02-06/ ), es imposible por tanto confirmar modelos en aquello que generan y supone una falta grave de transparencia. Los llamados Large Language Models (LLM) son la base de los motores como ChatGPT o Google Bard, que hasta ahora únicamente unas pocas compañías podían permitirse construir, debido a las enormes capacidades computacionales y de conocimiento específicos que implican. No obstante, las noticias más recientes anuncian que nuevas iniciativas permitirán hacer funcionar esos modelos en ordenadores portátiles o smartphones (Franzen, 2023Franzen, Carl (2023). The AI feedback loop: Researchers warn of ‘model collapse’ as AI trains on AI-generated content. VentureBeat. Disponible en: https://venturebeat.com/ai/the-ai-feedback-loop-researchers-warn-of-model-co-llapse-as-ai-trains-on-ai-generated-content/ ), lo que cambiaría radicalmente el panorama, ya que un mayor número de empresas podría desarrollar su LLM propio, diversificando resultados. Los modelos existentes hasta ahora se han construido a partir de un conjunto de muestras o fuentes de origen humano: libros, artículos, fotografías... Los nuevos modelos, de menor coste, aprenderían de fuentes mixtas recuperadas de Internet con proporciones variables, es decir, que inevitablemente confluiría en inteligencia artificial construyéndose a partir de inteligencia artificial (Shumailov et al., 2023Shumailov, Ilia; Shumaylov, Zakhar; Zhao, Yiren; Gal, Yarin; Papernot, Nicolas; Anderson, Ross (2023). The Curse of Recursion: Training on Generated Data Makes Models Forget. ArXiv. /abs/2305.17493 https://doi.org/10.48550/arXiv.2305.17493 ). Nos preguntamos ¿Qué ocurrirá cuando los contenidos generados por IA proliferen en Internet y los modelos de IA empiecen a entrenarse con ellos mismos, en lugar de con contenidos generados principalmente por humanos? (Franzen, 2023Franzen, Carl (2023). The AI feedback loop: Researchers warn of ‘model collapse’ as AI trains on AI-generated content. VentureBeat. Disponible en: https://venturebeat.com/ai/the-ai-feedback-loop-researchers-warn-of-model-co-llapse-as-ai-trains-on-ai-generated-content/ ). Algunos estudios ya han anticipado que este tipo de situaciones conducirán rápidamente al colapso de dichos modelos (Shumailov et al., 2023Shumailov, Ilia; Shumaylov, Zakhar; Zhao, Yiren; Gal, Yarin; Papernot, Nicolas; Anderson, Ross (2023). The Curse of Recursion: Training on Generated Data Makes Models Forget. ArXiv. /abs/2305.17493 https://doi.org/10.48550/arXiv.2305.17493 ), pero todo ello está por ver. Hacer resúmenes, redactar enunciados, proponer grupos de palabras clave para etiquetar un ensayo… son asignaciones resueltas eficazmente por la IA, especialmente cuando hay supervisión por parte de una inteligencia humana.

Hasta ahora hemos visto como los motores de IA han conseguido remplazar ciertos trabajos realizados anteriormente por humanos, pero no tanto expandir las capacidades humanas y permitirnos con ello crear nuevas oportunidades (Rotman, 2022Rotman, David (2022). How to solve AI’s inequality problem. MIT Technology Review. Disponible en: https://www.technologyreview.com/2022/04/19/1049378/ai-inequality-problem/ ). Aumentar la producción disminuyendo el coste salarial no implica un avance incuestionable, como plantea Diane Coyle, surgen dudas sobre la validez de este tipo de indicio que «no refleja la distribución de la renta, omite el valioso trabajo no remunerado, ignora el medio ambiente» (Coyle, 2021, p.136Coyle, Diane (2021). Cogs and Monsters: What Economics Is, and What It Should Be. Princeton and Oxford: Princeton University Press. ).

Pensando en los índices de impacto que la inteligencia artificial tiene sobre el cuerpo (planetario) natural, podemos afirmar que la rentabilidad es cuestionable. La computación necesaria para hacer funcionar estos sistemas de IA requiere un gasto energético enorme. Los consumos de electricidad y de agua para poder refrigerar los computadores son de tales dimensiones que podemos afirmar que esta inteligencia nueva tiene una incidencia rotunda y clara en forma de consumo de recursos, esto ha levantado preocupaciones ambientales. Interesantes análisis han sido publicados al respecto por expertas como Meredith Broussard (2023)Broussard, Meredith (2023). More than a Glitch: Confronting Race, Gender, and Ability Bias in Tech. Massachusetts: The Mit Press. .

Desde un análisis con perspectiva de género e igualdad, no podemos perder de vista que las fuentes utilizadas para entrenar a estos motores tienen un sesgo muy marcado. Reddit o Wikipedia, que son las fuentes más usadas, presentan un claro desequilibrio: en Wikipedia, únicamente el 15% son contenidos redactados por mujeres. Lo mismo ocurre cuando consideramos la inclusión de minorías étnicas u otras posiciones minoritarias alternas. Esta problemática se vería claramente acentuada con la retroalimentación de los modelos de IA, el sesgo se intensifica y el desvío se dispara. Cuando reflexionamos sobre esa desviación y la influencia que los estereotipos tienen en las sociedades actuales, la cuestión se convierte en muy preocupante.

1.2. Transcribir sin juzgar

Transcribir sin juzgar es una labor extremadamente compleja, al menos para los humanos. Supone poner en reposo el proceso valorativo e interpretativo, acción que la mayoría de las personas tienen completamente automatizada. Cabe pensar que, tal vez, las máquinas podrían desempeñar este tipo de tareas con mucha facilidad.

Lo que aparece en las piezas audiovisuales enlazadas desde la gráfica que acompaña a esta publicación es una representación de los resultados obtenidos al poner a prueba la capacidad de un transcriptor funcionando con IA generativa⁴El sofware utlizado es Descript, utliza IA aplicada al tratamiento del texto, sonido y a la edición de vídeo. https://www.des-cript.com/ . El material de muestra para las pruebas son locuciones de Finnegans Wake, la mayor parte corresponden a extractos del capítulo dedicado a Anna Livia Plurabelle (Parte 1, capítulo VIII) y al soliloquio final de este personaje (Parte 4). Para operar de la manera más aséptica posible, no se ha trabajado con locuciones propias sino con las que forman el audiolibro más reconocido por medios de comunicación, las locuciones realizadas por Jim Norton y Marcella Riordan en 1998.

En los archivos de video enlazados vemos lo que transcribe el motor de IA y oímos la voz de la locución de Norton y Riordan. Una deformación se aprecia a nivel sonoro y visual; acontece cada vez que hemos detectado un error de transcripción, es decir, cada vez que el motor de IA modifica el texto porque, indica, «parece que contiene algún error tipográfico»⁵ https://chat.openai.com/share/a8e302b5-635c-4519-882b-daed99dcb47b . En la versión objetual de esta propuesta, una caja de sonido contiene un audiovisual con la transcripción realizada por el motor de IA, mientras que el texto puede leerse directamente en la superficie del objeto sonoro, impreso en papel (Figura 2). En la creación gráfica que aparece en las páginas siguientes vemos el texto original escrito por Joyce, lo acompaña un código QR que nos lleva⁶Utlizando un lector de códigos, actualmente los dispositvos móviles smartphones tenen uno integrado en la aplicación de la cámara al vídeo que contienen las cajas de sonido mencionadas anteriormente.

Como podemos observar, el transcriptor entiende «I think» en lugar de «I sink» (traducido sería, transcribir pienso en lugar de me desaguo o… me cuelo), ya que la acción de desaguar no corresponde o no es pertinente para un personaje humano. Lo mismo ocurre en el segundo fragmento que aparece en la gráfica, cuando traduce «dejad que ella reine» en lugar dejad que «ella llueva». Los motores de inteligencia artificial afinan valorando los niveles de pertinencia (siempre vinculados a la frecuencia de uso, no al significado) en las relaciones intertextuales. Vemos pues en este sentido, una evidente limitación para entender el discurso poético, y aún más, para concebir relaciones de continuidad entre actores humanos y acciones propias de la naturaleza, o simplemente relaciones atípicas o inesperadas; creativas, en definitiva. Afirmo en este sentido que, la aplicación de IA en la generación y tratamiento de textos podría dificultar y/o disminuir la diversidad, el crecimiento y expansión de nuestro lenguaje, ya que induce a la repetición y el reduccionismo. Evidentemente, esta es una apreciación en base a los experimentos realizados y las fuentes consultadas hasta el momento; cabe esperar que, de la misma manera que después de la etapa invernal de los 80 hubo un giro radical y un cambio de enfoque que provocó asombrosos avances, todavía nos queden por descubrir vías que resuelvan las carencias actuales de estos modelos.

No podemos afirmar que los LLM juzguen, ya que no atienden al significado de los términos, toman decisiones siguiendo predicciones basadas en la frecuencia con la que las palabras aparecen combinadas (LM) y, en su versión más compleja, comparan y combinan conceptos (LLM) gracias a las unidades y redes neuronales artificiales. Se implementan algorítmicamente mediante modelos estadísticos (un buen ejemplo es el autocorrector en nuestros teclados) o redes neuronales que amplían su alcance en determinadas ocasiones y que pueden provocar lo que se denomina hallucinations⁷Hallucinaton, traducido frecuentemente como confabulación o alucinación, es una propuesta o respuesta de un LLM aparentemente veraz y coherente, pero basada en una predicción a partr de datos, no directamente en datos veraces o ciertos. (casos en el texto aparentemente es coherente, pero hay falta de precisión o errores factos de la información, como ocurre a menudo con diferentes versiones de ChatGPT). Citando un artículo reciente publicado por la Nieman Fundation en Harvard, los sistemas de IA generativa actúan como «loros estocásticos» (Ananny y Karr, 2023Ananny, Mike y Karr, Jake (2023). Press freedom means controlling the language of AI. Disponible en: https://www.nie-manlab.org/2023/09/press-freedom-means-controlling-the-language-of-ai/ ), utilizando modelos estadísticos para adivinar el orden de las palabras y la colocación de los píxeles. La IA generativa no tiene ningún compromiso con la verdad, pasada o futura, no debemos olvidarlo.

Mucho se ha hablado sobre el impacto que la IA de la Web 3.0 y su dimensión semántica tendrán en favor de la democratización y toma de control de nuestra información (además de la navegación eficiente por contenidos). Pero ¿es realmente posible si no es capaz de entender el significado y sentido de nuestras palabras? ¿puede aprender y aprehender fórmulas que no respondan a la lógica computacional? Porque ni nosotras, ni tampoco nuestro mundo, es íntegramente literal o lógico. Es indudable que estos modelos se van a ir integrando en todo tipo de empresas e irán surgiendo implicaciones estructurales de calado (Simon, 2022Simon, Félix M. (2022). The Elephant in the Room: How AI could give technology giants more control over the news. Oxford Internet Institute. Disponible en: https://www.oii.ox.ac.uk/news-events/news/the-elephant-in-the-room-how-ai-could-give-technology-giants-more-control-over-the-news/#main ), ya que son capaces de generar infinitas combinaciones a partir de un número destacable (aunque finito) de piezas (textos). Podemos comprobarlo con una simple visita a ChatGPT, proponiendo una temática, el motor reformulará tantas versiones como deseemos del mismo texto. Variantes, alterando el orden, las proporciones… lo que no planteará son relaciones intertextuales sin garantía, es decir, relaciones dentro del texto que nunca antes haya encontrado en sus fuentes. En el experimento realizado por Peter D. McDonald, a partir de la tercera iteración de ChatGPT⁸ https://artefactsofwritng.com/2022/07/22/gpt-3-completes-fnnegans-wake/ , el autor ofrece al motor de IA a modo de entradilla el primer párrafo de Finnegans Wake y demanda la terminación de la historia. El siguiente extracto, de la primera combinación realizada por el motor, nos da una idea de la tendencia de todas las demás variantes: «…la mujer que había visto era una sirena, y le salvó de ahogarse. Se enamoraron y vivieron felices para siempre.»⁹ https://artefactsofwritng.com/2022/07/22/gpt-3-completes-fnnegans-wake/ La belleza, la heteronormatividad, el amor romántico… la inteligencia artificial atiende a las métricas de uso, pero ya sabemos que lo que más abunda, y lo que más se reitera, no es (siempre) la mejor opción.

En definitiva, ejemplos concretos que evidencian las limitaciones de la IA nos ayudan a entender la necesidad de aplicar el principio de precaución, un principio que nos haga dudar antes de emplear medios cuyas consecuencias no conocemos (Puleo, 2006Puleo, Alicia H. (2006). No debemos renunciar a la posibilidad de ir dejando huellas de nuestro paso. Lectora, 12, 107-112. ). Es muy cuestionable que este tipo de inteligencia, que se presenta como novedosa e innovadora pero que no difiere tanto de la del escriba, pueda ayudarnos a encontrar las nuevas formas de pensar que necesitamos para resolver el impasse actual de crisis ecológica y social. ¿Puede la IA pensar como una montaña¹⁰To think like a Mountain, Giovanni Aloi, 2021. Accesible en: https://www.academia.edu/video/jQe4dj?email_vi-deo_card=watch-video&pls=RVP , como un desierto, como una pradera?, ¿podemos esperar de ella fórmulas disruptivas, inesperadas, ignotas?

Por otro lado, como hemos afirmado, la IA no tiene compromiso alguno con la verdad pero, ¿tiene la IA algún compromiso con el capitalismo, el patriarcado o el colonialismo?, desde el discurso ecofeminista se identifican como «las tres bases principales de la crisis ecológica actual» (De la Torre, 2022, p. 5De la Torre, Blanca (2022). Vientos de cambio: transición ecosocial y ecofeminismos. Atlántica. Revista de Arte y Pensamiento, 4, 5-8. ) y, si realmente deseamos dirigirnos hacia nuevos modelos de desarrollo y otros mundos posibles (Puleo, 2011Puleo, Alicia H. (2011). Ecofeminismo para otro mundo posible. Madrid: Cátedra. ), debemos atender a las influencias e intereses que subyacen en todos los avances.

1.3. A modo de conclusión abierta

Podemos dividir en tres grados bien diferenciados la utilización que hoy en día se hace de la IA en el ámbito de la comunicación; lo hacemos siguiendo las tendencias de uso y la forma en la que es aplicada. En el primer nivel tendríamos el uso enfocado a la automatización para la difusión de contenidos que no han sido creados de forma generativa, es decir la IA sólo incide en las operaciones que rigen la distribución y no interviene en el núcleo de contenidos difundido. En un segundo nivel, que definimos como nivel de uso de bajo riesgo, los motores de IA se utilizan para desempeñar trabajos en los que, una buena parte consiste en reiterar estructuras conocidas y de las que abundan ejemplos a partir de los que replicar y comparar. Un buen ejemplo es la realización de informes, como los de ingresos, gastos y beneficios por parte de empresas, que se hacen en gran medida ya de manera automatizada. En este segundo tipo de desempeño, el riesgo a equivocarse es muy pequeño. Por último, podríamos definir un tercer nivel en el procesamiento de textos que calificamos de alto riesgo. Algunos ejemplos de este nivel serían escribir mensajes o avisos, redactar una historia nueva a partir de hechos concretos, resumir o terminar una historia a partir de una entradilla, destacar ideas principales en un ensayo. Es a partir de este tercer nivel donde podríamos esperar cambios significativos en la aplicación de IA, pero es igualmente donde estamos encontrando mayores problemas (hallucinations) con los resultados. En todo momento estamos hablando de modelos de texto (LLM) y no de modelos aplicados a la imagen (Diffusion Models -DM-, utilizados para producir imágenes) o modelos multimodales (combinaciones de LLM y DM), líneas de desarrollo más recientes.

La diferencia entre estos tres niveles de aplicación o uso de la IA es enorme y debemos dejar claro que la valoración de su eficacia es significativamente dependiente del grado de uso con el que se corresponde. La IA generativa implica la asunción de un claro riesgo y a día de hoy precisa de supervisión humana.

La locución de un texto expande el significado asociado a las palabras, encontramos en ella la cadencia, el ritmo, la entonación, posibles acentos… valores que la voz transmite más allá del plano objetivo o literal de lo que está diciendo. En Finnegans Wake esta dimensión aparece de forma exponencial, Joyce escribió desde la sonoridad de las palabras, construyendo la narrativa con la suma de significado y sonido; en la obra los personajes y los espacios son como emulsiones que suenan, por eso afirmaba al principio que esta no es una obra para ser leída, sino escuchada (aunque sea atendiendo a nuestra voz interior). Era predecible pues, dada la complejidad intrínseca de la obra, que el transcriptor de texto de IA no detectase ese lenguaje connotativo. Lo que no era predecible es que, en la labor de transcripción del texto, el motor de IA identificase como error gramatical una relación intertextual atípica, y que hiciese una corrección de dicho error. Es decir, que el LLM sobrescriba y haga modificaciones que afectan al significado y sentido global de la frase, de forma constitutiva. Es destacable también esa estructura estanca, a partir de la cual parece trabajar y que clasifica las acciones que pueden ser realizadas por un animal humano y no por otras formas de vida u otros agentes o elementos. Esta limitación no sólo impide, sino que como hemos visto erradica, cualquier alusión metafórica y otras retóricas en las transcripciones de voz.

Las máquinas pueden resolver infinitas tareas que facilitan y agilizan el funcionamiento de nuestras sociedades, expanden muchas de nuestras capacidades y pueden minimizar costes. Pero conviene no perder de vista el significado de coste y atender al impacto que estos nuevos desarrollos tienen sobre los recursos naturales del planeta, forman parte fundamental del complejo entramado sistémico de la crisis ecosocial actual. Es imperativo apuntar a sociedades democráticas, igualitarias y justas. Igualmente deseable es nutrir nuestra capacidad para empatizar, para soñar, para imaginar e inventar vías alternativas, nuestra facultad en definitiva para asombrarnos y asombrar, conscientes siempre del inconmensurable valor de la vida.