La inclusión de género según la inteligencia artificial: Tecno-colonialismo y regulación del español

Abstract

En este trabajo presentaremos una problematización del rol que tiene la Real Academia Española (RAE) en las tecnologías digitales del lenguaje (Bürki, 2023), especialmente en relación con el llamado lenguaje inclusivo. El contexto de esta propuesta está marcado por la presentación, en 2019, del proyecto Lengua Española e Inteligencia Artificial (LEIA) con el que la RAE busca “normativizar la lengua de las máquinas y de la inteligencia artificial” (Real Academia Española s.f.). ¿Es posible que la RAE esté incidiendo de manera decisiva en el entrenamiento de las nuevas tecnologías basadas en IA? Para responder esta pregunta realizamos una serie de experimentaciones con dos modelos de lenguaje basados en inteligencia artificial (IA): Chat GPT-4o, desarrollado por OpenAI, y Gemini versión 1.5 Flash, desarrollado por Google DeepMind. La recurrencia del masculino genérico en estos enunciados es el eje a partir del cual contrastamos el corpus de interacciones humano-chatbot con un corpus de discursos sobre IA pronunciados en 2023 por Santiago Muñoz Machado en tanto director de la institución española. Desde los estudios glotopolíticos, indagamos sobre las representaciones del discurso de la RAE en torno a las relaciones entre tecnología y lenguaje, e identificamos el tópico de la accesibilidad, evocaciones de una matriz colonial (Becker, 2023) y “argumentos tecnocráticos” (Camarena González y Durán Matute, 2019). A su vez, rastreamos huellas de este posicionamiento en los discursos generados por los chatbots. Nuestra hipótesis es que la RAE despliega una posición tecno-colonialista (Camarena González y Durán Matute, 2019) que está incidiendo en la normativización de los usos lingüísticos de los nuevos modelos de lenguaje a partir de una “democracia simulada” (Durán Matute, 2018).In this paper, we will discuss the role of the Royal Spanish Academy (RAE) in digital language technologies (Bürki, 2023), particularly in relation to the so-called gender-inclusive language. This proposal is contextualised by the 2019 presentation of the Spanish Language and Artificial Intelligence (LEIA) project, through which the RAE aims at “normalising the language of machines and artificial intelligence” (Real Academia Española s.f.). Is the RAE impacting decisively on the training of new AI-based technologies? To answer this question, we conducted a series of experiments with two AI-based language models: ChatGPT-4o, developed by OpenAI, and Gemini 1.5 Flash, developed by Google DeepMind. By taking into account the recurrence of the generic masculine in our interactions in Spanish with these LLMs, we compare the corpus of human-chatbot conversations with a corpus of speeches on AI delivered in 2023 by Santiago Muñoz Machado as Director of the RAE. From a Glottopolitical perspective, we inquire about the representations of discourses by the RAE around the relations between technology and language. We also identify the topic of accessibility, evocations of a colonial matrix (Becker, 2023), and “technocratic arguments” (Camarena González and Durán Matute, 2019). In turn, we find traces of this positioning in the utterances generated by both chatbots. Our hypothesis is that the RAE adopts a techno-colonialist perspective (Camarena González and Durán Matute, 2019), which influences the normativisation of linguistic uses in new language models through a “simulated democracy” (Durán Matute, 2018).