Incidentes fatales revelan inteligencias: una introducción

Conozcan al autor: Alberto Chimal

Alberto Chimal (1970) es un narrador, ensayista y dramaturgo mexicano. También ha sido profesor de escritura creativa en universidades como la Universidad Nacional Autónoma de México (UNAM) y la Universidad del Claustro de Sor Juana. Entre sus publicaciones recientes se encuentra Máquinas enfermas, una colección de cuentos en la que aparece el cuento que es el objeto de esta lección. Pueden escuchar a Chimal hablar sobre sus inicios en la literatura en la breve entrevista que se incluye aquí. También pueden leer más sobre el autor y sus reflexiones sobre la inteligencia artificial en esta obra específica de Máquinas enfermas, en una entrevista escrita realizada por su editorial, Páginas de Espuma.

El contexto de la IA

Aunque alcanzó fama masiva en 2022 con el estreno de ChatGPT, la inteligencia artificial (la IA, a veces escrita como la ia) se viene desarrollando desde los años cincuenta (el célebre informe de Dartmouth), pero su historia como campo no ha sido neutral: desde sus inicios fue construida, al menos en parte, por un grupo homogéneo de hombres con fines nefarios, según se documenta en Ghost in the Computer.

En un corpus de aproximadamente 200,000 palabras en inglés y 225,000 en español, reunido y revisado para investigar este tema, se observa que la producción de textos en inglés sobre IA supera ampliamente a la de español. Los informes técnicos sobre arquitectura de modelos se escriben, en su mayoría, en inglés; el español académico tiende a enfocarse en aplicaciones de la IA, con la educación como área de publicación frecuente. Aun así, dentro de este dominio hay una variedad rica de temas, como:

Por supuesto, surgen muchos más temas. Si buscan lecturas recomendadas sobre IA relacionadas con algún tema específico, no duden en contactarnos para recomendaciones. Con esta variedad de temas en mente, presten atención a los términos que Chimal usa (o evita usar) para hablar de la IA en su cuento. ¿Usa vocabulario técnico, coloquial, o ambos? ¿Qué efecto produce esa elección?

Recursos retóricos: Metáfora, eufemismo y las formas de nombrar

Idealmente, un término solamente se elegiría después de estudiar a fondo las características de lo nombrado y lo que lo distingue de lo que lo rodea; solo así tendríamos un nombre transparente y fácil de entender. El eufemismo, en cambio, tiene el propósito contrario: velar los hechos. El término eufemismo viene del griego euphemia (εὐφημία), de las raíces eu (εὗ), “bueno/bien”, y pheme (φήμί), “habla(r)”, lo cual señala la connotación positiva que tenía el concepto. En efecto, sí puede ser positivo si queremos comunicarnos de una forma que se considera cortés, cuando, por ejemplo, usamos lenguaje menos directo para referirnos a las funciones del cuerpo, la muerte y otros temas sensibles sin ofender. Pero el eufemismo también se ha usado con fines mucho menos inocentes, para esconder acciones y formas de pensar profundamente violentas: ejércitos que matan sin provocación bajo el nombre de “paz” o rateros llamados “terroristas”, mientras se suavizan las acciones de los saqueadores y violadores más poderosos del mundo.

Como bien señalan George Lakoff y Mark Johnson en Metaphors We Live By (1980), el lenguaje que usamos para nombrar conceptos no es neutro. Cuando usamos una metáfora, y el eufemismo es una forma de metáfora, hay un dominio meta, el concepto que tratamos de entender, y un dominio fuente, del cual tomamos prestada una estructura para entenderlo. Lo que elegimos como fuente determina cómo se conceptualiza la meta: al permitirnos comprender un aspecto de un concepto en términos de otro, la metáfora necesariamente oculta los aspectos que no encajan en el marco prestado. Orwell describe un mecanismo relacionado en “Politics and the English Language” (1946): frente a un objeto concreto pensamos primero sin palabras, y solo después buscamos cómo describir la cosa; frente a algo abstracto, en cambio, si usamos la fraseología ya hecha, dejamos que esa fraseología piense por nosotros.

Tomemos el caso de “inteligencia artificial”. La meta —lo que en realidad se está nombrando— son, en el uso popular, los chatbots, más que otros tipos de sistemas (los de recomendación, los de análisis de agrupación, etc.). La primera fuente es la inteligencia: la cognición humana, con su capacidad de comprender y de tener intenciones. Llamar “inteligente” a un chatbot importa esa estructura de comprensión e intención sobre un sistema que, mecánicamente, no hace más que predecir la palabra siguiente más probable. Emily Bender y Timnit Gebru han descrito estos sistemas como “loros estocásticos”: máquinas que reproducen con el texto estadísticamente verosímil, los sesgos del inglés y de los valores de quienes produjeron los datos con los que fueron entrenadas, principalmente hombres caucásicos de países desarrollados. El segundo dominio fuente es lo artificial: la fabricación, un proceso limpio y autosuficiente que no requiere manos humanas. Esa estructura oculta a los actores detrás de estos sistemas, como los multimillonarios que se benefician inmensamente de la recopilación de nuestros datos, y los etiquetadores de datos, cuyo trabajo es mal pagado, inestable y psicológicamente costoso. Además de todo eso, el sinfín de propaganda sobre estos sistemas también nos distrae de los daños ambientales que provocan.

Aquí resulta útil el triángulo semántico (objeto – concepto – nombre), que describe cómo una palabra se conecta con el mundo: no de forma directa, sino a través de un concepto que, a su vez, refiere a un objeto que existe en el mundo. Un chatbot rompe esa cadena: no genera texto a partir de lo que existe de verdad, sino a partir de probabilidades basadas en sus datos de entrenamiento. Por eso resulta también engañoso decir que un chatbot “alucina” cuando produce información falsa. En “alucinar” tenemos otro término que relaciona la IA con la percepción humana, pero un chatbot no percibe el mundo, no tiene mente que confundir, no está mintiendo ni errando, sino haciendo exactamente lo que fue diseñado para hacer. Llamarlo “alucinar” es una metáfora más que oculta y confunde más que revela: nos hace pensar en una mente cuando solo hay probabilidades.

Antesala

Antes de entrar al cuento, tómense un momento para pensar en las siguientes preguntas.

  1. ¿Cuándo fue la última vez que notaron que alguien —o ustedes mismos— suavizó una verdad incómoda al decirla, usando palabras más gentiles para que sonara menos grave de lo que en realidad era? ¿Se dieron cuenta en el momento, o solo después?
  2. ¿Con qué frecuencia confían en la información que les da un asistente de IA, una app de mapas, o un motor de búsqueda, sin verificarla por otra vía? ¿Hay situaciones en las que no lo harían?
  3. Cuando una empresa de tecnología comete un error grave que causa daño real a personas, ¿a quién creen que se le debería responsabilizar: a la empresa, a los ingenieros o a alguien más?
  4. ¿Alguna vez han hecho algo porque “todo el mundo lo estaba haciendo”, y solo después se dieron cuenta de que era dañino? ¿Qué estrategias creen que pueden ayudar a una persona a resistir ese tipo de mentalidad de multitud?
  5. ¿Cómo ven el futuro humano? ¿Ven la IA como algo inevitable? ¿Ven un futuro con la IA como algo deseable, o no? ¿Por qué?

CC BY 4.0. Currículo para uso educativo abierto.

This site uses Just the Docs, a documentation theme for Jekyll.