A veces me pregunto por qué le estoy dedicando tanto tiempo a pensar sobre la inteligencia artificial. No soy informático ni soy especialmente hábil hoy con estas tecnologías, que están evolucionando más rápido de lo que me apetece y hacia un lugar que no comparto, por decirlo rápidamente. Me estoy quitando de las redes sociales o, al menos, de esa manera de divertirme en ellas.

Y, sin embargo, llegan estas herramientas y, de pronto, dan alimento al curioso glotón. También ofrecen una percepción o sensación de rapidez al profesional que cada vez tiene un trabajo más vinculado a los contenidos y a su síntesis. Y, además, abren conversaciones muy pertinentes e interesantes sobre la tecnología en contextos donde parecía que ya no había nada que discutir. No sé, creo que son muchas cosas diferentes.

Sesión de trabajo abierta con Eskubidez

La semana que viene tenemos un encuentro para acompañar a un grupo de entidades en Eskubidez a reflexionar sobre la inteligencia artificial. Volveremos a generar otro espacio de conversación. Solo la semana pasada participé en dos encuentros, organizados por Ikuspegi, Orai, la Universidad de Deusto y Alboan. (En este enlace tenéis mis notas)

Voy a rescatar algunas ideas que creo que pueden ser pertinentes y sobre las que estoy reflexionando en este nuevo salto. Me parece que debemos sumar estas reflexiones a todo lo que he ido compartiendo en el blog durante los últimos meses, ya más de un año, sobre las inteligencias artificiales.

¿Por qué llamarle Inteligencia Artificial a estos modelos generativos?

Una primera reflexión tiene que ver con la conversación, muy interesante, que mantiene Amador Fernández-Savater con Marga Padilla en una de sus entregas sobre las utopías. ¿Por qué llamarle inteligencia artificial? ¿Qué otras palabras podríamos utilizar para nombrar esta tecnología, estas máquinas? No sé si la idea de inteligencia es la más adecuada o, al menos, si la utilizamos, deberíamos estar cuestionando también qué significa la inteligencia para los seres humanos.

Sobre los sesgos humanos de las máquinas

En estas conversaciones en las que he participado estas semanas  aparecía otra reflexión interesante. ¿Cómo pensar que estas máquinas están aprendiendo no solamente aquello que les decimos que aprendan, sino también todo lo que, como ocurre en cualquier relación educativa o en cualquier relación, con mayúsculas, incide e influye de manera más inconsciente? ¿Qué tiene que ver esto con los lapsus, con aquello que no somos conscientes de estar trasladando? ¿Cómo estas máquinas aprenden nuestra manera de pensar, de juzgar y de interpretar la realidad? ¿Cómo estos sesgos cognitivos están presentes en la propia definición de las máquinas y, en la medida en que generan materiales, contenidos o conocimiento —vamos a llamarlo conocimiento—, contribuyen también a que esos sesgos sigan aumentando?

Parece que los últimos modelos, lejos de estar corrigiendo algunos de estos sesgos, están también aumentándolos. Aquí hay algo que tiene que ver con lo que hacemos, con nuestras interacciones, con el material que les damos y con los datos. Pero también hay algo que tiene que ver con las estrategias, vamos a llamarlas comerciales, aunque quizás también políticas e ideológicas, que están detrás de las grandes tecnológicas.

Son modelos entrenados para responder desde cierta corrección política pero cuando le pedimos que entren en respuestas más “creativas” la libre asociación de ideas, también en las máquinas, hace que atendamos a sus patrones más ocultos, que, oh sorpresa, son machistas y racistas. 

Interacción de calidad también desde lenguas minorizadas

Esta cuestión conecta con otra preocupación sobre la estandarización y los idiomas. En estos momentos estamos bastante contentos con cómo podemos interactuar con las máquinas en diferentes lenguas. 

Pero sabemos que la interacción con un idioma u otro genera algunos resultados distintos. En principio no debería de preocuparnos pero en el fondo también hay una reflexión sobre los arquetipos y realidades más y menos presentes detrás de estas máquinas. Una estandarización de la cultura que predomina en internet, que es la de América del Norte y Occidente global y la del hombre blanco de mediana edad sin problemas económicos.

Los centros de decisión siguen estando en lugares muy lejanos, donde la sensibilidad hacia las lenguas minoritarias puede ser muy pequeña. Y esto también es importante. Necesitamos seguir atentas a esta evolución y seguir construyendo infraestructuras propias. 

Los sesgos que estandarizan, suavizan y contribuyen a la fantasía de falsos consensos

En este sentido y sobre la homogeneización, otra pregunta. ¿Cómo puede estar contribuyendo esta tecnología a una estandarización de lo estético y también de los contenidos? ¿Qué impacto puede tener esa tendencia a generar respuestas, imágenes y maneras de interpretar la realidad cada vez más parecidas?

Algunas personas lo habréis observado al interactuar con estas máquinas: dependiendo de las ideas que llevamos a la conversación, las respuestas parecen suavizarse o acomodarse a lo que planteamos. 

Nos devuelve más de lo que proponemos. ¿Cómo es delegar en estas máquinas la escritura de actas e informes sin supervisión? ¿Cuál es la fuente que entregamos, cuál el prompt y el resultado? Necesitamos estar atentas en las tres fases: entrega de datos, solicitud de interacción y resultado final que queremos entregar o utilizar como base para siguientes pasos. 

Sobre los datos que seguimos entregando

Cuando pensamos en la utilización de estas herramientas con datos más sensibles, aparecen otras preguntas. ¿Cómo podemos estar atentas para no ceder a las máquinas decisiones importantes? ¿Cómo protegemos nuestros datos y cómo nos protegemos de su explotación por parte de unas empresas que están recabando información y haciendo negocio con ella?

En ese sentido, ¿cómo crear protocolos o acuerdos que nos permitan cuidar los datos y cuidarnos en nuestras interacciones con estas tecnologías? La desconfianza es absoluta en relación a la explotación de estas empresas de nuestra información. A pesar de personalizar nuestras configuraciones debemos de estar atentos a la información que seguimos entregando.

Me pareció interesante reflexionar por cuanto estaríamos dispuestos a pagar por, por ejemplo, una TV o plataforma que no guarde ni regale nuestros datos de consumo a otras empresas. 

Y, por qué no, seguir pensando si una alternativa no debería ser construir tecnologías públicas y más comunitarias. Quizás no tengan el mismo nivel de desarrollo, de capacidad de respuesta, de rapidez o de conexión con toda la información que hemos generado los seres humanos a lo largo de los siglos. Pero podrían permitirnos tener máquinas más adaptadas a lo que queremos conseguir y a la sociedad que queremos construir.

Esta última idea también está muy presente cuando hablamos de la necesidad de regulación.

Sobre la regularización y los límites en el tiempo del “sálvese quién pueda”

Realmente estamos entrando en un terreno en el que nos gustaría que ocurrieran determinadas cosas, pero donde va a ser muy difícil conseguirlas. La legislación actual está muy vinculada a las soberanías territoriales. Y ahora mismo la desregulación, por ejemplo, en Estados Unidos, contrasta enormemente con la regulación que tenemos en Europa.

Nos encontramos con grandes empresas tecnológicas que están obteniendo enormes beneficios con plantillas relativamente ajustadas y que, además, no están pagando los impuestos en los territorios donde nos encontramos las personas que utilizamos sus servicios. Aquí hay una cuestión fiscal muy importante.

Y también necesitamos pensar cómo hacer palanca en esta situación. De alguna manera, esta realidad vuelve a colocarnos frente al espejo de lo que no acaba de funcionar, de los límites de nuestro sistema actual.

¿Cómo podemos responder a esta complejidad cuando nos encontramos con una arquitectura financiera y organizativa diseñada para obtener el máximo beneficio? ¿Cómo inventamos maneras diferentes de jugar en este escenario?

Parece que California es un lugar donde están ocurriendo cosas muy importantes en un sentido y en otro. ¿Cómo apoyar también a la ciudadanía que se está activando allí? 

Y aquí aparece también la tensión relacionada con la competencia. Cuando desde Europa se oyen voces que cuestionan la regulación, también hay que entender que existe una dificultad real para competir tecnológicamente con Estados Unidos. Es una tensión importante. Y si incorporamos a China en este escenario, la incertidumbre se amplia.

Antropomorfización, empatía y rapport alienante y adictivo

Hemos hablado muchas veces de la comercialización y de la economía de la atención. Otro asunto interesante tiene que ver con el diseño de estas máquinas y con cómo pueden colocarnos en lógicas de mayor o menor adicción. Herramientas que, a través de su diseño, buscan hacerse más empáticas, más cercanas a las personas, y que acaban por mantenernos más enganchadas.

En una de las jornadas aparecía una práctica relacionada con China y su prohibición por ley de la antropomorfización de estas herramientas. Es una cuestión muy interesante.

Pensad, por ejemplo, en las ocasiones en las que habéis interactuado con alguna de estas herramientas a través del audio. Cómo se permite ya esa escenificación, ese teatro de que la máquina está pensando: «Déjame pensar», «Permíteme un momento»… O cómo algunas personas empezamos a llamarla «Chatín», en lugar de ChatGPT. Esa personalización puede colocarnos en un sesgo de confianza del que quizás deberíamos tomar distancia.

Esta tecnología en una internet en disputa

Hay muchas claves relacionadas con todo esto. Y aparece también una pregunta importante: ¿es posible construir una inteligencia artificial sin sesgos?

En el fondo, también estamos ante una lucha por la interpretación de la realidad. ¿Cómo conseguimos que estos modelos respondan desde mentalidades más abiertas, que interactúen con la realidad de maneras que nos hagan bien, que no nos coloquen en discursos que nos lleven a la violencia o a la confrontación, que no nos dejen instaladas solamente en la queja, sino que nos ayuden a adoptar posiciones más proactivas? ¿Cómo conseguimos modelos inclusivos, capaces de incorporar diferentes maneras de entender la realidad?

Una persona, en una de las jornadas de la semana pasada, proponía algo que me pareció interesante: permitir que las respuestas de estas máquinas sean múltiples. Es decir, que no nos ofrezcan solamente una respuesta, sino diferentes posibilidades, de manera que seamos nosotras quienes tengamos que realizar ese ejercicio de reflexión, contraste y elección.

Creo que hay estrategias interesantes en esa dirección. Además, desde nuestras propias interacciones podemos provocar conversaciones de este tipo, pidiendo a los modelos que nos ofrezcan diferentes perspectivas y posibilidades.

Modelos diseñados por nuestras comunidades, interactuando con nuestros datos y en infraestructuras abiertas y públicas sigue siendo un camino a trabajar. 

Cómo está modificando nuestro trabajo y el mercado laboral

Otra reflexión muy interesante tiene que ver con los impactos en el mundo laboral. Es un tema que estamos trabajando también en otro proyecto con Emana, relacionado con el relevo generacional.

Se habla de cifras de sustitución de puestos de trabajo que, tratándose de una tecnología todavía en evolución, no sabemos cuantificar. Además, estas previsiones se parecen bastante a aquellas que escuchábamos sobre los trabajos que iban a ser sustituidos por robots y que, a día de hoy, no lo han sido. Así que habrá que coger esos datos con pinzas.

Pero hay realidades que ya estamos observando. Si pensamos, por ejemplo, en el sector de la traducción, ya se han producido muchos recortes. Y estos recortes no se parecen a lo que ocurrió durante los años ochenta y noventa con la reconversión industrial. En aquel momento hubo mucho dinero destinado a la reconversión y a la formación de las personas que se quedaban sin trabajo. ¿Qué va a pasar ahora? ¿Cómo vamos a acompañar esta transformación?

Y si realmente vamos hacia una automatización generalizada de un porcentaje importante de las tareas y los puestos de trabajo, ¿cómo vamos a seguir sosteniendo la caja de las pensiones? Recuerdo que, cuando hablábamos de robotización, algunas voces, como la de Bill Gates, planteaban que los robots deberían cotizar. Quizás ahora deberíamos recuperar esa conversación. ¿Cómo establecer tasas por el uso de inteligencias artificiales? ¿Cómo pensar en fórmulas de cotización vinculadas a los agentes de IA? Aquí hay cuestiones muy importantes.

Y también aparece una tensión relacionada con los perfiles profesionales más sénior y más júnior. Parece que, para las tareas más sénior, vamos a buscar perfiles capaces de trabajar junto a la inteligencia artificial. Y eso es clave. Pero ¿qué va a pasar con los perfiles júnior? Si una organización puede pagar 200 euros al mes por una de las licencias más caras de inteligencia artificial —que, por cierto, seguro que seguirá subiendo de precio— y con ella realizar tareas que antes encargaba a una persona por la que tenía que pagar 1.500 euros, además de las cotizaciones correspondientes, ¿qué decisiones va a tomar?

¿Cómo hacemos para proteger esos espacios laborales? Y, sobre todo, ¿cómo seguimos apostando por las personas júnior? Porque si dejamos de apostar por ellas, dentro de unos años no tendremos perfiles sénior.

También es importante sostener la reflexión sobre cómo cuidarnos de la precarización laboral.Y además ¿Qué hacemos con los beneficios que nos pueda proporcionar cierta automatización? ¿Dónde invertimos el dinero que podemos ahorrar utilizando estas herramientas? ¿Cómo distribuimos esos beneficios? 

La delegación de las decisiones importantes

El desarrollo de esta tecnología se está produciendo en un momento en el que hay una enorme cantidad de datos que hemos regalado durante las últimas décadas, con una población absolutamente adicta al teléfono móvil, a las redes sociales y a todo lo que ocurre en ellas. Y con una capacidad de computación que supera con mucho lo que hemos conocido hasta ahora.

Además, en este contexto parece que se está produciendo una especie de confabulación. Como estamos sometidas a una enorme cantidad de información, a la infoxicación, y muchas veces tomamos decisiones rápidamente, desde las emociones e impactadas por lo que ocurre a nuestro alrededor, aparece el relato de que la inteligencia artificial, supuestamente neutral, objetiva, fría y menos vulnerable al ruido de las emociones, nos va a ayudar a tomar mejores decisiones.

Creo que esto es un error. Es algo que se recoge muy bien en el libro “El Algoritmo paternalista” y que quizás forma parte del propio discurso comercial de estas tecnologías.

Mucho cuidado con las decisiones que estamos delegando en las máquinas. Lo importante debería seguir estando en nuestras manos. En todo caso, aquellas tareas que consideremos más automatizables deberían contar con supervisión humana y, cuando sea necesario, con auditorías que nos permitan seguir ajustando y mejorando tanto las máquinas como las tareas que realizan.

Mucho cuidado con comprar el relato de nuestra supuesta debilidad emocional y pensar que delegar decisiones importantes en estas tecnologías, como ya está ocurriendo en cárceles, hospitales o áreas de servicios sociales, va a solucionarnos los problemas. Parece que esta promesa también está puesta al servicio de la venta del producto.

Además una de las grandes quejas en nuestras organizaciones tiene que ver con la burocracia, con que cada vez tenemos más respuestas que ofrecer, más preguntas que sistematizar y más procedimientos que gestionar. En ese contexto aparece la promesa de que la inteligencia artificial nos ayudará a aligerar la burocracia. Mucho cuidado también con esto.

Una infraestructura contaminante

Uno de los elefantes en la sala es el impacto ambiental. Aquí hay algo interesante en la manera en la que nombramos la tecnología y ocultamos su materialidad. Cuando hablamos de «la nube», por ejemplo, probablemente estamos utilizando una de las mejores palabras que se han inventado para eludir una realidad. Porque cuando hablamos de nube estamos hablando de kilómetros y kilómetros cuadrados de centros de datos que ocupan tierras, consumen recursos y tienen impactos concretos sobre los territorios.

Por eso, cuando hablamos de las características que debería tener una inteligencia artificial de calidad, junto a la robustez, la transparencia o la ética, deberíamos incorporar también la sostenibilidad.

Hay personas investigando estas cuestiones y me parece realmente interesante seguir ese trabajo. También tenemos impactos muy cerca, por ejemplo, en Aragón, con el desarrollo de nuevos centros de datos.

Estos centros pueden funcionar como islas de calor. Se habla de estimaciones de incrementos de temperatura que podrían llegar hasta los dos grados en determinados entornos. Además, están compitiendo por recursos como el agua y la electricidad. En algunos lugares de Estados Unidos se han mencionado incrementos de casi un 300 % en las facturas eléctricas.

Creo que es un tema importante y que también deberíamos relacionarlo con nuestras propias interacciones. Por ejemplo, generar una imagen tiene un coste energético mucho mayor que interactuar mediante texto. Quizás deberíamos poder revisar de vez en cuando nuestros propios consumos. No sé si la huella de carbono sigue siendo el indicador más adecuado, pero pensar sobre estas cuestiones me parece clave.

Y seguimos

Estas son algunas de las ideas sobre las que he ido aprendiendo y reflexionando últimamente. Ideas que tenemos que colocar junto a otras relacionadas con la gobernanza, con la manipulación y con el impacto que estas tecnologías pueden tener sobre el debate público y la democracia.

Volvemos a encontrarnos con una nueva capa tecnológica capaz de influir en nuestras conversaciones y en la construcción de la opinión pública.

Marga Padilla y Amador Fernénadez Savater hablando sobre Utopía, Inteligencia Artificial y máquinas amigas

Por último, quiero recuperar dos reflexiones de Marga Padilla en el podcast que mencionaba al principio. De todas las cosas que decía, hubo dos que me resultaron especialmente significativas.

La primera tiene que ver con qué relación queremos mantener con las máquinas. Ella propone una relación más horizontal y me parece una idea muy interesante. Lo comentaba hace unos días con una amiga. No se trata de atribuirles características humanas ni de pensar que son personas. Se trata más bien, como propone Marga Padilla, de recuperar algo de la relación que los artesanos y las artesanas tenían, y tienen, con sus herramientas.

Y la segunda reflexión tiene que ver con la movilización social. Si estuviéramos dando los primeros pasos de una movilización social crítica con los impactos de esta tecnología disruptiva, ¿cómo sería? No me refiero a una movilización construida desde la trinchera, sino desde la apropiación de la propia tecnología, de las tecnologías. Me parece una reflexión realmente interesante. ¿Cuál sería esa declaración fundadora?