Observatorio, Sociedad, Tecnología, Últimas

¿Matrix, estás ahí?

Futuros aumentados: ¿Hacia donde nos lleva la inteligencia artificial?

En un mundo de creciente concentración donde las principales corporaciones están armadas para desafiar incluso al Estado la inteligencia artificial nos escanea y ofrece la información al mejor postor para que sutil, pero firme, haga lo que quiera con nosotrxs ¿Qué humanidad construimos?


Por Esteban Magnani

¿Cuándo se jodió la internet? La pregunta de Mario Vargas Llosa sobre el Perú (útil para tantas cosas que parecían que sí pero finalmente no) aplica perfectamente a la red de redes y su sueño democratizador. La promesa de que todos y todas podrían unirse al ágora global en igualdad de condiciones gracias a una estructura indefectiblemente horizontal que nos haría mejores como sociedad, en algún momento tomó el rumbo de Black Mirror. ¿Qué pasó?

Ocho referentxs globales plantearán dudas y reflexiones sobre nuestros vínculos con la tecnología en Futuros Aumentados, un programa de formación que actualizará los principales debates sociales, culturales, políticos y filosóficos que nos plantea la inteligencia artificial.

En su libro Capitalismo de plataformas el economista Nick Srnicek desentraña el misterio buceando en el motor económico que desvió el barco hacia un rumbo distópico. Resumidamente, su planteo es que en los años noventa el capitalismo sufría una de sus cíclicas crisis de sobreacumulación y se encontraba en busca de nuevos espacios de reproducción. En esa misma década las telecomunicaciones y, sobre todo, internet, vivían una etapa de desarrollo hacia territorios inexplorados que no se producían desde la llegada de Cristóbal Colón a América. Pero esta vez la decisión de invertir en ese nuevo continente no dependió de los anillos de la reina Isabel sino de miles de iniciativas privadas, muchas de ellas con recursos financieros enormes y deseosas de encontrar El Dorado virtual.

Al principio no estaba muy claro qué modelo de negocios serviría para colmar las expectativas de los inversores, pero tras escuchar a los emprendedores que les prometían ganancias enormes, se dispusieron a abrir la billetera. Así se infló una enorme burbuja de proyectos de todo tipo, algunos delirantes, otros más sensatos. Cuándo la tentación es grande, se asumen más riesgos. Los nuevos proyectos generaron una demanda en transferencia de datos, hardware y software que se tradujo en más inversión.

Las startups poco a poco comenzaron a mostrar serios problemas para generar ganancias en esa red donde todo parecía gratis y accesible; finalmente la desconfianza pinchó la burbuja y se produjo una estampida: entre marzo de 2000 y octubre de 2002 el índice NASDAQ perdió el 78% de su valor. Si bien, como explica Srnicek, la mayoría de los proyectos desapareció junto con el capital invertido “…el boom tecno de los 90’ fue una burbuja que dispuso el terreno para la economía digital por venir”.

Gracias a este proceso económico darwinista se produjo una extinción masiva acelerada por el dinero y la tecnología. Los pocos sobrevivientes encontraron que la vida era posible en un ecosistema que permitiría sobrevivir a base de datos e inteligencia artificial. El caso más evidente fue el de Google, formada en 1998, que comprendió (no sin dificultades) cómo monetizar la ingente cantidad de datos que acumulaba sobre las búsquedas gracias a un algoritmo de inteligencia artificial. El proceso podía escalar solo y generar un efecto de red en el que cada nueva búsqueda permitiría acumular más inteligencia colectiva y comprender mejor qué busca cada persona para dar respuestas más precisas en un proceso sin fin. Así Google se alejó de sus competidores que ya nunca podrían alcanzarlo: en 2021 realiza el 92% de las búsqueda que se hacen en todo el mundo.

El hallazgo de Google fue aprovechar esa radiografía sobre los intereses de cada persona para segmentar las publicidades a nivel individual. Donde los diarios mostraban lo mismo a cada lector, ellos podían publicitar solo lo que podría interesarles. Así ofrecieron tercerizar la publicidad de otros sitios con empresas como AdWords y AdSense que permitían mejorar la performance publicitaria en cualquier sitio que los contratara. Las grandes corporaciones encontraron una enorme fuente de poder que podía ir más allá del rentable negocio publicitario. Como explica Evgeny Morozov, la utopía escondía negocio y vigilancia.

Qué nos toca

Los países del tercer mundo se enfrentaron a la disyuntiva de sumarse desde un lugar de usuarios pasivos o quedarse afuera de la revolución digital. Como explica Renata Avila, la conectividad que se ofrece “al tercer mundo es pobre o va más en la forma de controles y cadenas”. En una mundo de creciente concentración, donde las principales corporaciones parecen en condiciones de desafiar incluso a los controles del Estado, los países del tercer mundo ven cómo la fibra óptica reproduce lo que en otros momentos hacían los trenes: llevarse recursos para devolver productos terminados. Antes se llevaban cuero para vendernos zapatos; hoy se llevan datos para vendernos servicios.

En el corazón de este modelo está la inteligencia artificial, una herramienta tecnológica con un enorme impacto en la sociedad. Comprender su funcionamiento es imprescindible para reconstruir las bases sobre las que se asienta el sistema. Es sabido, la tecnología no es ni buena ni mala, pero tampoco es neutral. Su matemática, lejos de ser producto de una abstracción aséptica, está cargada de sesgos, tal como explica Sofía Trejo, y refleja en buena medida los prejuicios de los programadores y de los datos con los que se “enseña”. De alguna manera la inteligencia artificial es esencialmente conservadora porque reproduce lo que ve como si esto fuera la verdad revelada: lo que más se repite es lo normal y por lo tanto debe seguir ocurriendo. Y eso incluye al racismo, el sexismo, los prejuicios contra lo distintas y numerosas formas de segregación.

Este modelo de negocios arrollador por su éxito, con márgenes de ganancias enormes y que se reinvierten permanentemente para encontrar nuevas formas de generar ganancias, tiene una serie de efectos colaterales que lo afectan todo. Como explica Mercedes Bunz, los algoritmos “cambian a la sociedad” de una manera sutil, individualizada, que es difícil de analizar porque se da en el uno a uno entre la pantalla y un sujeto constantemente estimulado, interrumpido, manipulado de pequeñas formas que van impactando hasta en cómo construyen la propia subjetividad. Lo que los medios masivos hacían a manotazos, las corporaciones tecnológicas lo realizan de manera individualizada, quirúrgica, con la ganancia como objetivo, aunque sigan usando muchas veces una cháchara democratizadora.

Para Carlos Scolari, uno de los efectos colaterales de esta nueva forma de circulación de los contenidos es la “Cultura snack” que compite constantemente por nuestra atención recurriendo a mensajes cada vez más simples e irresistibles: clips, tuits, memes, trailers, webisodios, teasers, sneakpeaks, tiktok. Cada vez más cortos, cada vez más irresistibles y cada vez más superficiales. Llevar el celular en el bolsillo es como andar todo el día con una bolsa de papas fritas abierta; irresistible tomar otra aunque sepamos que engorda, tapa las arterias y afecta la presión.

Tu imaginación me programa en vivo

Algo que parecen haber comprendido muy bien los algoritmos es que hay cierto estímulos que nos interpelan en la parte más irracional de nuestra subjetividad y que no podemos controlar. Las noticias que confirman nuestros sesgos, que apuntan a nuestra indignación, a las emociones más básicas, nos resultan irresistibles. Las discusión política, otro campo afectado por el poder de la inteligencia artificial, se enfermó de manipulación gracias al barro de la posverdad. Como se pregunta Jorge Carrión ¿qué le queda hacer al periodismo en este nuevo contexto? La autoridad de los comunicadores, ya cuestionada hace años, es asediada ahora por todos los rincones con campañas delirantes que van empujando a los ciudadanos hasta los bordes de sí mismos, hacia las expresiones más radicalizadas que permite su subjetividad.

¿Cómo hacemos para entender estos fenómenos económicos, sociales, tecnológicos, políticos, artísticos y hasta subjetivos? ¿Quién toma nuestras decisiones? ¿Qué humanidades estamos construyendo? ¿Hacia dónde nos lleva la inteligencia artificial?

Quienes tengan interés en sumarse al espacio de formación de Futuro Aumentado pueden hacer click aquí.

Comentarios