La tecnología está en cada esfera de nuestra vida. En muchos sentidos la hace más fácil, pero también nos aísla y profundiza las relaciones de jerarquía y opresión. Esos procesos son estudiados por académicos en el campo de la Interacción Humano-Computadora (HCI), donde el psicólogo aplicado irlandés Rob Comber se ha convertido en una figura destacada.
Su artículo sobre cómo la computación podría constituir ‘ecocidio’ —el equivalente ambiental del genocidio— ha sido citado docenas de veces y, desde su posición en el Real Instituto de Tecnología (KTH) de Suecia, colabora con un equipo de académicos interdisciplinarios que piensa formas en las que podemos, en sus palabras, “diseñar sistemas sociotécnicos para un futuro mejor”. Hablamos con él antes de su visita a Colombia, donde dará una conferencia el 16 de septiembre –con entrada gratuita– en el marco del XVIII Congreso La investigación en la Pontificia Universidad Javeriana.
Usted reflexiona sobre cómo la tecnología ha cambiado nuestra relación con cosas como la comida, la vivienda y, en general, el medio ambiente, ¿cuáles son algunos de los cambios más radicales?
Uno de los mayores cambios que vemos ha estado ocurriendo en los últimos 40 años: la defensa de la idea de que las personas son responsables de todo lo que sucede en sus vidas, ya sea nuestra propia salud, finanzas o seguridad. Todo lo que hacemos es algo que producimos nosotros mismos. La tecnología realmente avanza hacia esa idea porque nos permite hacer muchas cosas por nosotros mismos, pero gran parte de la tecnología se trata de compartir y colaborar. Entonces, me he enfocado a tratar de conectar a las personas para ayudarlas a prosperar en ese entorno compartido, en lugar de hacerlo de forma aislada.
¿Cómo lo ha hecho?
La comida es un buen ejemplo. Muchas personas cuando van por primera vez a la universidad tal vez nunca hayan cocinado para sí mismas. Entonces, en ese momento sí deben mantenerse a sí mismos y, de repente, su dieta se convierte en comida rápida. Pero en otros contextos, podemos cocinar con amigos, compartir y lograr una relación más saludable y rica con la comida. Muchos procesos en la sociedad, como la vivienda o la democracia, siguen una tendencia similar. El mundo nos empuja a actuar individualmente y en búsqueda de nuestro propio interés, sin comprender los sistemas más grandes, cuando las soluciones deberían enfocarse en cambiar los sistemas.
¿Cómo ha cambiado la tecnología nuestra relación con el trabajo?
La respuesta recurrente es la alienación. Nos distanciar de nuestro trabajo y nuestra producción: puedo hacer un día completo de trabajo sin ponerme de pie, lo que antes no se habría considerado trabajo. Además, la tecnología nos permite alejar mucho más el trabajo de otras personas.
Un autor llamado Eli Blevis, que también es fotógrafo, utiliza fotografías de personas que tienen que hacer la gestión de residuos en las grandes ciudades como una forma de hablar sobre cómo invisibilizamos el trabajo humano que respalda nuestro consumo. Por ejemplo, alguien que lleva muchas cajas de cartón para televisores que rara vez vemos y en quien nunca pensamos. Hemos logrado virtualizar gran parte de nuestro trabajo y, al hacerlo, nos permitimos distanciarnos de él. Así tenemos menos cuidado por lo que está sucediendo en los sistemas con los que interactuamos.
En su libro Doppelganger, Naomi Klein las llama las ‘tierras de las sombras’, los lugares donde hemos empujado al trabajo y nunca miramos.
Sí, es exactamente ese concepto. En muchos sentidos, ni siquiera es que no lo veamos, pero no tenemos idea de lo que es. Si pusieras una computadora portátil frente a mí, que es mi herramienta diaria, y me dijeras ‘haz la tuya’, ¿por dónde empezaría? Hoy yo no sé cómo hacer mi herramienta de trabajo y eso es un cambio muy rápido de la forma en que era el mundo hace unos años.
No quiero romantizar el pasado y decir que todo fue maravilloso, pero la tecnología, en particular la tecnología digital, permite que gran parte del trabajo ocurra en esa ‘tierra de sombras’, ese espacio que está fuera de nuestra vista y del que no tenemos que dar cuenta.
¿Cree que eso también sucede con el trabajo involucrado en la tecnología en sí? Tendemos a olvidar que los algoritmos están hechos por personas, por ejemplo.
Los algoritmos son la virtualización de lo virtual en el sentido de que sabes que alguien los hace, pero ni siquiera tienes acceso a lo que esa persona estaba haciendo, ¿verdad? No obtienes la computadora portátil al final. No obtienes el algoritmo al final. Obtienes lo que escupe, su resultado, la interfaz o aplicación que finalmente usamos. Sin embargo, hay algunos enfoques diferentes que los investigadores están utilizando para hacer visible este tipo de trabajo.
¿Puede nombrar algunos?
Personas como Lilly Irani, profesora de la Universidad de California, Estados Unidos, están creando sistemas para que esos trabajadores se sindicalicen. Esa es una forma interesante de darles voz como productores de mano de obra. Hay otros que están buscando formas de dar cuenta de los tipos de trabajo que están sucediendo en muchos contextos diferentes, ya sea la entrega de alimentos o la moderación de las redes sociales, para ver qué les sucede a las personas cuando hacen esto.
Por ejemplo, tuvimos un taller en el que les pedimos a los participantes que mapearan de principio a fin a todas las personas que podrían estar involucradas en la creación de un sistema algorítmico, y fue revelador ver cuántas veces un humano podría entrar en el ciclo, desde la moderación de contenido hasta el diseño o ajuste de un algoritmo. Cuando hablamos de una inteligencia artificial imaginamos solo computadoras sentadas en fila, pero la gente interviene constantemente en ella, y creo que hablar con ellos y averiguar qué están haciendo es un punto de partida.
“Las áreas en las que la inteligencia artificial se está volviendo más humana es porque estamos tratando de recuperar algo fundamentalmente humano, no una nueva súper capacidad”.
Rob Comber
Usted argumenta en uno de sus artículos que la computación podría considerarse ecocidio. ¿Por qué?
Esto comenzó como una discusión con mi colega Elina Eriksson, la coautora de ese artículo. Estábamos discutiendo cómo algunas de estas tecnologías son dañinas para el medio ambiente, aunque haya algo bueno que hagan. Y encontramos esta propuesta de ley de ecocidio, que es el equivalente ambiental de un genocidio: un crimen que puede ser juzgado en la Corte Penal Internacional y no existe en tiempos de paz, solo es un delito en medio de una guerra.
Examinamos cuáles eran los umbrales en los que el daño que se producía con la computación podría ser mayor de lo que encontraríamos aceptable, dados los beneficios que conlleva. Encontramos casos en los que es posible decir que, para lo que se considera ecocidio, una tecnología informática específica está haciendo un daño mucho mayor al medio ambiente que el beneficio que obtenemos de ella, pero en muchos casos es muy difícil decir ‘sí, esto es ecocidio’.
Esa es una discusión sobre el uso de la inteligencia artificial, dada la cantidad de agua que necesitan los centros de datos. ¿Cree que ese debate es urgente?
Absolutamente. Mucha gente diría que estamos más allá del punto en el que necesitábamos hacer algo al respecto, pero para mí está muy claro que hay ejemplos de lugares en los que se pide a las personas individualmente que realicen cambios en sus vidas sin pensar en un balance sano. Hace unas semanas, se pidió en el Reino Unido que las personas eliminaran los correos electrónicos antiguos para preservar agua. Como los correos electrónicos antiguos se almacenan en un centro de datos, la idea era que borrarlos reduciría el gasto de agua-.
Pero no había ningún tipo de equilibrio entre el esfuerzo que se le pedía a la gente y lo que sucede con cada búsqueda que Google hace en segundo plano por cada página web que visito. Si pudiera retroceder en el tiempo, escribiría ese artículo y lo llamaría: ‘La Inteligencia Artificial como ecocidio’, porque creo que se ha vuelto mucho más urgente pensar en esos costos. Están aumentando mucho más rápido que la mayoría de las otras tecnologías disponibles. Pero, nuevamente, esos costos se pueden virtualizar en centros de datos.
¿Cuáles son algunas de las cosas que aún necesitan interacción humana y que podríamos atesorar?
Me encantaría decir que todo. Creo que hay mucho que es incuantificable o indescriptiblemente mejor cuando sucede con otras personas. Para volver al ejemplo de la comida, puedo encontrar las recetas de unas arepas geniales, y puedo hacerlas, pero nunca sabré si fueron buenas sin que mi colega colombiano venga y me diga ‘así es como los hacemos’, porque es una experiencia que atraviesa el cuerpo. Gran parte de esa riqueza de nuestras vidas, de lo que le da sentido, está fuera de lo que se puede procesar computacionalmente.
La conexión…
Veo que hay mucha discusión sobre las personas que tienen amistades o reciben asesoramiento psicológico con ChatGPT. Creo que eso es hasta cierto punto preocupante porque están desarrollando relaciones con un sistema que no tiene una representación equitativa de quienes son. Pero puedes ver que la gente está tratando de volver a la conexión con otras personas porque tal vez no han tenido la oportunidad de crear ese tipo de relaciones de confianza con alguien cercano.
Las áreas en las que la inteligencia artificial se está volviendo más humana es porque estamos tratando de recuperar algo fundamentalmente humano, no una nueva súper capacidad. Hacer terapia o tener un amigo son cosas muy humanas. Hacer artes, disfrutar de la comida, cosas que hacemos con nuestros cuerpos, no estoy seguro de que la IA o los sistemas informáticos puedan reemplazarlos. Y creo que siempre sacaremos más provecho de hacer eso con otras personas.
¿De qué tratará su conferencia en Bogotá?
El título será ‘¿Qué sostiene la IA?’ y hablaré sobre mi propio proceso de cómo decido qué partes del diseño con sistemas de IA deben continuar que tienen valor para nosotros y cómo tomamos esas decisiones a medida que avanzamos en el diseño de sistemas sociotécnicos. Para mí la respuesta tiene que ver con la crisis climática. Creo que los investigadores deben tener un papel activo y verse a sí mismos como actores que dan forma al futuro, y espero dejar a los asistentes con algunas herramientas para pensar en su propio papel como investigadores, como ingenieros, como ciudadanos que pueden hacer cambios para una sociedad más sostenible.
