Febrero es mes de carnaval y exámenes, va a un ritmo de compás del 3×4.
«Cuando tenían faltas de ortografía y no estructuraban los textos, me divertía mucho más corrigiendo», se queja Víctor, catedrático de universidad, ante la homogeneización de temas y formas de escribir de sus alumnos tras la irrupción de la Inteligencia Artificial. Sus palabras me llevan directamente a bell hooks cuando expresaba que los docentes gozaban de una gran libertad en el aula, pero que su principal reto era compartir conocimientos desde un punto de vista imparcial o descolonizado con estudiantes tan profundamente sumidos en la cultura del dominador que no están abiertos a aprender nuevas formas de pensar.
Todos hemos asumido que llevamos el panóptico de Bentham —interpretado por Foucault— en el portátil. Pero la realidad es que las tecnologías de IA penetran y van ganando terreno de forma silente, operando con opacidad y expandiéndose como mancha de aceite que no se limita a los adolescentes. Sin edadismo: todos somos víctimas de arquitecturas de memes, también los ancianos. La dependencia algorítmica no solo vigila, coloniza nuestra capacidad de pensamiento crítico y voz, reemplazando la conversación genuina por monólogos probabilísticos.
Le pedimos ideas de negocio, que reestructure nuestro currículo o respuestas a preguntas personales, pero no existe un aprendizaje sobre su comportamiento, atribuyéndole una identidad que no tiene. Emily Bender, profesora de lingüística computacional, lo compara con un «loro estocástico», simples máquinas de síntesis de texto sin capacidad de generar ideas, pensamientos ni sentimientos. En el negocio de vender tecnología, cuanto más mágico parezca, más fácil será venderla. Al verlo escribir bien, ya creemos que es inteligente y relevante.
Ante un gran volumen de datos inabarcables para el ser humano, el modelo lo convierte en representaciones numéricas asignadas a cada instrucción y genera respuestas basadas en probabilidades, apoyadas más en el entrenamiento que en funciones de búsqueda. Sin razonamiento genuino, con las consiguientes alucinaciones, invención de referencias y sesgos revestidos de verosimilitud. Esto ha generado una ilusión de conocimiento; al pulsar Intro podemos creer que elaboramos un informe de física cuántica, diseñamos una página web y lo vendemos como plan de negocio, somos expertos en todo.Pero lo más peligroso de esa magia es que tenemos una ilusión de capacidad lingüística y de escritura que no es real, con el consiguiente impacto social que va más allá del uso: le cedemos la capacidad constitutiva de nuestro discurso. Derivamos nuestras funciones de expresión,creatividad y crítica a un modelo probabilístico de lenguaje, un interés corporativo camuflado en democratizador del conocimiento que ya vemos que no es funcional. Un entendimiento sesgado y polarizado, porque la IA con su personalización siempre te da la razón.
Esta carencia de habilidades comunicativas, esta soledad que fomenta el aprendizaje pasivo, no son casuales en una sociedad que impone el silencio frente a la conversación como práctica de libertad y que erosiona las luchas por la justicia social. Como señala hooks: «Gran parte de la teoría feminista que examina críticamente las construcciones de masculinidad demuestra que, para que los niños terminen convirtiéndose en hombres patriarcales, la sociedad los condiciona haciendo que valoren el silencio por encima del habla. Pueden terminar transformándose en personas que no son capaces de expresarse hablando o que, cuando lo hacen, solo lo consiguen a través de un monólogo. Estas son las personas que imponen su discurso; que, al rechazar el diálogo, promueven y mantienen una jerarquía de dominación en la que la obstrucción otorga a una persona poder sobre otra. La conversación genuina está relacionada con compartir poder y conocimiento. Es, en esencia, una iniciativa basada en la cooperación» (hooks, 2010, pp. 79-81)
Son herramientas, pero también cámaras de eco. No dialogamos con ellas a pesar de tener forma de conversación, son el Mago de Oz, que nos da respuestas de la mayoría.
«Aquí están los herederos del terror. Algo habremos hecho mal…», cantaba la comparsa de Antonio Martínez Ares —Goku, para los aficionados del carnaval gaditano—, en una de las mayores expresiones de cultura popular que existen. Pensemos en ese loro estocástico cada vez que lo consultemos. Te devolverá lo probable, lo mayoritario, lo hegemónico. En un mundo polarizado, eso está más cerca de la colonización de MAGA que de cualquier cátedra.
Paula León.
Referencias:
Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots. ACM Conference, 610-623. https://doi.org/10.1145/3442188.3445922.
Nota: la autora precisa de poner su nombre en minúsculas para centrar la atención en sus ideas, no en su identidad.
hooks, b. (1994). Teaching to transgress: Education as the practice of freedom. Routledge.
hooks, b. (2010). Enseñar pensamiento crítico..(pág 79, 80,81).
