Con una mirada crítica y a la vez original sobre la tecnología que no recae sobre objeciones habituales como el saqueo de datos o la amenaza a las libertades individuales, el filósofo francés Eric Sadin dedica su nuevo libro, La inteligencia artificial o el desafío del siglo, a caracterizar los efectos de esta fase –la más revolucionaria de la tecnología– que está provocando distorsiones en la percepción del mundo y ha desatado un antihumanismo radical que puede significar el fin de la especie humana.
“Las tecnologías digitales se han convertido en órganos de toma de decisiones. En cierto modo, seremos menos llamados a dar instrucciones a las máquinas que a recibirlas de ellas”, dice el autor de La vida algorítmica o La siliconización del mundo.
El gran tópico de la producción de Sadin (París, 1972) es la intersección entre tecnología y sociedad, en especial los modos en que lo que llama tecnoliberalismo horadan el juicio crítico, convirtiendo las elecciones subjetivas en una práctica automatizada inducida por algoritmos que identifican patrones de consumo y nos alientan a participar continuamente en transacciones de mercado, un tema sobre el que se ha explayado también en artículos escritos para medios con los que colabora habitualmente, como Le Monde, Libération o Les Inrockuptibles.
Cambio antihumanista y antidemocrático
El registro dramático que escoge el filósofo en La inteligencia artificial o el desafío del siglo para advertir sobre los efectos de la digitalización del mundo no es novedoso y ya había sido enunciado incluso por uno de los artífices de la inteligencia artificial (IA), Marvin Lee Minsky, que en 1970 llegó a vaticinar que cuando las computadoras tomaran el control, sería muy difícil volver a recuperarlo: “Sobreviviremos mientras ellas nos toleren. Si tenemos suerte, quizá decidan tenernos como sus mascotas”, sostuvo por entonces.
Sin embargo, Sadin se las ingenia para no incurrir en las profecías más transitadas como la amenaza de robots depredadores o la vigilancia estatal y siembra su propio alerta apocalíptico: la idea de que la IA está impulsando un cambio antihumanista y antidemocrático, una alteración de la percepción del mundo que se produce a partir de aplicaciones presentes en la vida cotidiana –como diagnósticos médicos formulados por bots o programas de selección de personal que prescinden de la entrevista laboral– que enuncian conclusiones a partir de la habilidad para analizar y vincular a velocidad una cantidad de datos imposibles de ser procesados por el cerebro humano.
Poder de experiencia que mejora todo el tiempo
En su libro, Sadin plantea que se generó un cambio de estatuto de las tecnologías digitales que pasaron de almacenar datos a enunciar verdades a partir de la interpretación automatizada de situaciones.
Sobre cuáles serán los órdenes de la vida más afectados por este nuevo rol de la IA, el autor plantea: “Lo que caracteriza la inteligencia artificial es que es un poder de experiencia que mejora constantemente.
Los sistemas ahora pueden analizar situaciones cada vez más diversas y revelarnos hechos, algunos de los cuales son ignorados en nuestra conciencia. Y lo hacen a velocidades que van más allá de nuestra capacidad cognitiva.
Estamos experimentando un cambio en el estado de las tecnologías digitales, que ya no solo están destinadas a permitirnos manipular la información para diversos fines, sino para revelarnos la realidad de los fenómenos más allá de las apariencias.
La IA ha representado, desde principios de la década de 2010, la cuestión económica considerada la más decisiva en la que es necesario invertir de forma masiva.
Además de las empresas, también son los Estados los que movilizan todos los medios necesarios para estar a la vanguardia; ahora cada uno hace de este objetivo una gran causa nacional. A la vanguardia en ese sentido se encuentran Estados Unidos y China”.
La ruptura político-legal
Según la hipótesis del filósofo francés, el propósito de este liberalismo digital es ir reemplazando a las personas y “robotizar” al ser humano.
La pregunta que surge es si los humanos serán sujetos pasivos frente a esa deshumanización y se perderá toda capacidad de resistencia o las sociedades se sublevarán como lo hacen hoy frente al rebrote racial tras la muerte de George Floyd.
Sadin apunta: “Este es un fenómeno único en la historia de la humanidad, que ve técnicas que nos ordenan actuar de tal o cual manera. Las tecnologías digitales, a partir de herramientas de apoyo a la toma de decisiones, se han convertido en órganos de toma de decisiones.
En cierto modo, seremos menos llamados a dar instrucciones a las máquinas que a recibirlas de ellas. Esto puede variar desde un nivel moderado e inofensivo, por ejemplo a partir de una aplicación de entrenamiento deportivo que nos sugiera la utilización de un suplemento dietético, hasta un nivel prescriptivo en el caso del sector de reclutamiento laboral que ahora usa sistemas digitales para seleccionar los candidatos a una tarea.
El ejercicio libre de nuestra facultad de juicio es reemplazado por protocolos destinados a guiar y enmarcar nuestras acciones ¿Somos capaces de ver la ruptura político-legal que está teniendo lugar?, es la pregunta que aparece en este momento”.
La tradición humanista en peligro
El impacto en el campo laboral puede ser muy grande. “Los diferentes sectores de las grandes compañías ahora están infiltrados con sensores que hacen posible una disposición dual: primero, el mapeo en tiempo real de las medidas de desempeño, luego la implementación de sistemas destinados a promover gestos «buenos» a realizar.
Estos procesos son ampliamente utilizados en los almacenes de Amazon, por ejemplo, pero se extienden a todo el mundo industrial.
Los cuerpos se ven privados de su subjetividad y su capacidad de iniciativa, y se reducen continuamente a la ejecución de órdenes que emanan de programas que la mayoría de las veces son establecidos por empresas tercerizadas.
Es hora de que los sindicatos aborden estas cuestiones de organización de conducta impersonal y altamente optimizada, que burlan la legislación laboral tanto como la dignidad humana”, subraya Sadin, y agrega: “Estamos presenciando la marginación de la evaluación humana.
En medicina, un campo que se supone que aprovecha los avances en inteligencia artificial, el diagnóstico del médico está obligado a ser progresivamente marginado por los sistemas. Porque la industria digital tiene la intención de tomar el control del campo de la salud.
En términos más generales, estamos ante la prohibición del ser humano como un ser activo, capaz de evaluar las cosas, a favor de sistemas que tracen el mejor marco supuesto del curso de nuestra existencia.
La ciudad inteligente, por ejemplo, margina cualquier proyecto concertado en beneficio de los mecanismos que enmarcan nuestra vida cotidiana en los espacios urbanos. Estas son las señales lógicas destinadas a establecer una mercantilización integral de la vida tanto como una visión higiénica de la sociedad.
Toda nuestra tradición humanista está en peligro en la medida en que estamos presenciando el destierro progresivo de los humanos como seres activos. Porque la inteligencia artificial margina el ejercicio de nuestra facultad de juicio e infringe nuestro derecho a determinarnos libremente y en conciencia”.
Comentarios