De cuerpos a perfiles: implicaciones psicopolíticas de la inteligencia artificial

Datos y algoritmos: nuevos modos de ser y estar en el mundo

Los sistemas de IAs ubicaron el cuerpo en nuevas realidades que mezclan los mundos físico y virtual, aumentan sus espacios de actuación en el universo y le determinan transformaciones (García, 2010García, Ana (2010). Tiempo, cuerpo y percepción en la imagen técnica. Paul Virilio y la «estética de la desaparición». STVDIVM, 16, 231-247.). La configuración algorítmica reordena espacio-tiempo y transforma la noción de subjetividad humana (Prinsloo, 2017Prinsloo, Paul (2017). Fleeing from Frankenstein’s monster and meeting Kafka on the way: Algorithmic decision-making in higher education. E-Learning and Digital Media, 14(3), 138-163. 10.1177/2042753017731355).

Las visiones utópicas (U) exaltan estas nuevas presencias o modos de estar en el mundo, en los cuales ya no existe una predominante circulación corpórea, sino una presencia mediante datos y algoritmos. Algunos textos subrayan beneficios de los algoritmos para fortalecer la confianza en la regulación y optimización del comportamiento y la toma de decisiones de los usuarios. Este nuevo espacio cultiva la autonomía en los individuos instalados en ambientes tecnológicos, fortaleciendo su orientación y mejorando sus elecciones prácticas (Cardon, 2018Cardon, Dominique (2018). Con qué sueñan los algoritmos. Nuestra vida en el tiempo de los Big Data. Madrid: Dado Ediciones.).

Frente a la idea estática de Virilio (1997Virilio, Paul (1997). El cibermundo, la política de lo peor. Madrid: Cátedra.) sobre el cuerpo en su concepción naturalista definido por sus relaciones naturales con su entorno, otros autores plantean la visión utópica sobre el cuerpo en ambientes digitales, en el sentido de fortalecer su capacidad de «manejar y construir significados más complejos», así como de abrir nuevas «posibilidades históricas de sentido», a través de inéditas representaciones humanas (García, 2010García, Ana (2010). Tiempo, cuerpo y percepción en la imagen técnica. Paul Virilio y la «estética de la desaparición». STVDIVM, 16, 231-247., p.242-247). Por último, la posibilidad de una disponibilidad permanente y una «simultaneidad relacional asincrónica», que permite abrir espacios de encuentro (Huici y Davila, 2016Huici, Vicente y Davila, Andrés (2016). Del Zoon Politikón al Zoon Elektronikón. Política y Sociedad, 53(3), 757-772. 10.5209/rev_POSO.2016.v53.n3.50776, p. 765).

En contraste, las visiones distópicas (D) indican la alteración del vínculo corporal con la realidad física, la transformación de la percepción espaciotemporal y el modo de relacionarse con el propio cuerpo (García, 2010García, Ana (2010). Tiempo, cuerpo y percepción en la imagen técnica. Paul Virilio y la «estética de la desaparición». STVDIVM, 16, 231-247.). Virilio (1997Virilio, Paul (1997). El cibermundo, la política de lo peor. Madrid: Cátedra.) es uno de los autores críticos en su momento, pero se podría proyectar su visión distópica del cuerpo con relación a los sistemas de IA: el cuerpo colonizado y profanado por una ciencia sin conciencia. Las tendencias marcadas por Virilio indicaron la «disolución política de la especie humana», a partir de la «desintegración de la comunidad de los presentes» y la consolidación de los ausentes circulantes en la red. En consecuencia, se pierden los cuerpos propios y los ajenos, en beneficio de espectros virtuales (1997Virilio, Paul (1997). El cibermundo, la política de lo peor. Madrid: Cátedra., p.48).

Otros autores refieren riesgos vinculados con habilidades corporales y factores de humanización. La cultura digital obnubila dimensiones narrativas del ser humano al generar y privilegiar el cálculo, lo digital y contable, con el riesgo para la argumentación, el razonamiento y el pensamiento complejo (Han, 2014Han, Byun-Chul (2014). Psicopolítica. Neoliberalismo y nuevas técnicas de poder. Barcelona: Herder.). Asimismo, los grandes datos circulantes generan ruidos y velocidades capaces de destruir el silencio y las posibilidades de introspección y reflexión (Galparsoro, 2017Galparsoro, José (2017). Big data y Psicopolítica. Vía de escape: de la vida calculable a la vida como obra de arte. Dilemata, 9(24), 25-43.). Por otra parte, se arriesgan la imaginación, memoria y creatividad (Popenici y Kerr, 2017Popenici, Stefan y Kerr, Sharon (2017). Exploring the impact of artificial intelligence on teaching and learning in higher education. Research and Practice in Technology Enhanced Learning, 12, e2210.1186/s41039-017-0062-8; García, 2010García, Ana (2010). Tiempo, cuerpo y percepción en la imagen técnica. Paul Virilio y la «estética de la desaparición». STVDIVM, 16, 231-247.), así como la dimensión sensorial y la creatividad cuando se atrofian las manos por causa de los dispositivos digitales, en los que sólo se utilizan los dedos (Han, 2014Han, Byun-Chul (2014). Psicopolítica. Neoliberalismo y nuevas técnicas de poder. Barcelona: Herder.). Por último, en la configuración de este nuevo modo de ser, «zoon elektronikón», se efectúan desplazamientos corporales estructurales y dinámicos por dispositivos o prótesis externas (Huici y Davila, 2016Huici, Vicente y Davila, Andrés (2016). Del Zoon Politikón al Zoon Elektronikón. Política y Sociedad, 53(3), 757-772. 10.5209/rev_POSO.2016.v53.n3.50776).

La interpretación analógica (F) de las nuevas realidades donde habitan los cuerpos debe equilibrar la paradoja en la que nos involucra el «modelo algorítmico»: la posibilidad de ser y actuar como zombis en un entorno que coarta la libertad, frente a la lucidez, creatividad e inteligencia fundamentada en la posibilidad de contrastar las verdades que allí circulan (Espinosa, 2018Espinosa, Luciano (2018). La mano y el algoritmo. Una antropología compleja ante los desafíos tecnológicos del presente. Araucaria, 20(40), 109-136. 10.12795/araucaria.2018.i40.05). Una visión fronética implicaría considerar oportunidades y riesgos: los sistemas de IA pueden ofrecer la posibilidad de envolver, proteger, cuidar y brindar bienestar al cuerpo, al mismo tiempo que invadir su interior para transformarlo y construir «la arquitectura de un nuevo cuerpo» (García, 2010García, Ana (2010). Tiempo, cuerpo y percepción en la imagen técnica. Paul Virilio y la «estética de la desaparición». STVDIVM, 16, 231-247., p.237). Cualquier visión equilibrada debería superar la dramatización del conflicto humano-tecnología, usuario-configurador algorítmico, y considerar sus vínculos bajo un proceso de influjo y retroalimentación (Cardon, 2018Cardon, Dominique (2018). Con qué sueñan los algoritmos. Nuestra vida en el tiempo de los Big Data. Madrid: Dado Ediciones.).

De relaciones corporales a vínculos perfilados y ficticios

Las relaciones interpersonales mediadas por el cuerpo reciben el impacto de las nuevas realidades y formas de comunicación. Las visiones utópicas (U) señalan posibilidades como la apertura de escenarios de encuentro, socialización y empoderamiento personal y social: expandir la difusión de actividades; atraer agentes ajenos al espacio local, pero implicados con actividades y reivindicaciones; convocar interesados y afectados en un sitio y en un momento específico (Lozano, 2016Lozano, Alejandro (2016). A medida del cuerpo. Notas acerca del retorno a lo físico en la estética de las nuevas tecnologías. Daimon. Revista Internacional de Filosofía, 5, 287-294. 10.6018/daimon/268921, p. 292). Asimismo, los beneficios de la IA para equipar a individuos y comunidades con nuevas formas de comunicación y expresión que permitan escuchar sus voces (Lozano, 2016Lozano, Alejandro (2016). A medida del cuerpo. Notas acerca del retorno a lo físico en la estética de las nuevas tecnologías. Daimon. Revista Internacional de Filosofía, 5, 287-294. 10.6018/daimon/268921).

En el marco de los sueños utópicos de los algoritmos de Cardon (2018Cardon, Dominique (2018). Con qué sueñan los algoritmos. Nuestra vida en el tiempo de los Big Data. Madrid: Dado Ediciones.), se plantea la posibilidad de usar herramientas para que las personas «reconozcan sus afinidades y se autoorganicen», de acuerdo con intereses, valores, así como oportunidades para «la recomposición social a partir del involucramiento expresivo de los individuos» (p.124). Por otra parte, Huici y Davila (2016Huici, Vicente y Davila, Andrés (2016). Del Zoon Politikón al Zoon Elektronikón. Política y Sociedad, 53(3), 757-772. 10.5209/rev_POSO.2016.v53.n3.50776, p.765) indican una mayor disponibilidad para el encuentro y la «simultaneidad relacional asincrónica», que permite el encuentro interpersonal cuando no se puede coincidir en espacios físicos. Estos espacios de flujo van reconfigurando no sólo los encuentros entre las personas, sino también a las personas mismas.

Por el contrario, las voces distópicas (D) señalan riesgos causados por la hipercomunicación, cuya naturaleza digital se determina como una circulación excesiva de datos, imágenes, videos, cálculos, perfiles, máscaras, que más allá de establecer relaciones personales, configuran vínculos comerciales, sociales, ficticios, que socavan la confianza, ahora imposible e innecesaria (Galparsoro, 2017Galparsoro, José (2017). Big data y Psicopolítica. Vía de escape: de la vida calculable a la vida como obra de arte. Dilemata, 9(24), 25-43.). En este marco también se ubica la hiperinformación que vincula grandes datos, en los cuales se ausentan la verdad, los vínculos personales y se arriesga la salud mental de los individuos con síndromes como el de exceso de información (IFS - Information Fatigue Syndrome) (Cotino, 2019Cotino, Lorenzo (2019). Riesgos e impactos del big data, la inteligencia artificial y la robótica. Revista General de Derecho Administrativo, 50, 1-37., p.15).

El punto central de las voces distópicas es la pérdida del propio cuerpo en los espacios digitales, la cual conlleva el riesgo de la pérdida del cuerpo del otro y la reducción del vínculo a espectros, perfiles o máscaras digitales circulantes en la red (Virilio, 1997Virilio, Paul (1997). El cibermundo, la política de lo peor. Madrid: Cátedra.). La pérdida mutua del cuerpo genera la amenaza de la despersonalización en las relaciones vitales como la del médico-paciente, con consecuencias en las capacidades cognitivas como la empatía, básica en el vínculo terapéutico (Carrió, 2006Carrió, Silvia (2006). Aproximaciones a la medicina narrativa. Revista Hospital Italiano de Buenos Aires, 26(1), 14-19.; Duch y Mèlich, 2005Duch, Lluís y Mèlich, JoanCarles (2005). Escenarios de la corporeidad. Madrid: Trotta.); impacta asimismo en otras relaciones afectivas y sus expresiones, que adquieren características particulares con la mediación de los sistemas de IA. Los romances digitales se configuran con la anulación del cuerpo y la mediación de perfiles, máscaras y avatares.

Para otros autores, el riesgo de la pérdida del cuerpo no solamente afecta las relaciones entre personas, sino también a las comunidades. La desintegración comunitaria se reconfigura con un grupo de individuos ausentes, más cercanos en la red que aquellos con los que se interactúa físicamente, y diluye la posibilidad de construir comunidades políticas de interacción humana (Pirela, 2001Pirela, Alexis (2001). La estética de la desaparición y la ciudad en Paul Virilio. Utopía y Praxis Latinoamericana, 6(15), 100-107.; Virilio, 1997Virilio, Paul (1997). El cibermundo, la política de lo peor. Madrid: Cátedra.). En consecuencia, el riesgo es «la tiranía de la homogeneización del mundo» (Pirela, 2001Pirela, Alexis (2001). La estética de la desaparición y la ciudad en Paul Virilio. Utopía y Praxis Latinoamericana, 6(15), 100-107., p.103) al configurarse una sociedad masificada, homogeneizada, uniformada y perfilada con los intereses y valores de los algoritmos. Estas masas son concentraciones de soledades y de prosumidores manipulados a producir y consumir aquello producido (Marín, 2018Marín, José (2018). La resemantización TIC de la cultura humanista. index.comunicación, 8(1), 179-195.). Estas «ciber-masas» movidas por emociones configuradas en sistemas de IA conforman expresiones tecno-emocionales conducidas por intereses de consumo y mercado (Echeverría, 2016Echeverría, Javier (2016). Ciberpersonas y cibermasas en las cibersociedades. Acento. https://acento.com.do/opinion/ciberpersonas-cibermasas-las-cibersociedades-8408618.html), que configuran ciber-relaciones marcadas con el sello mercantil, competitivo y de lucro e impulsan al individuo a la eficiencia y rendimiento, así como al consumo y explotación de sí mismo (Han, 2014Han, Byun-Chul (2014). Psicopolítica. Neoliberalismo y nuevas técnicas de poder. Barcelona: Herder.).

Por último, el riesgo también es para los nuevos derechos como el de la privacidad y el derecho a estar «desconectado» o desaparecido del mundo digital. La pérdida del cuerpo se contrasta con la imposibilidad de la desconexión, ya que una vez que la información personal y los datos se entregan a los sistemas de IA, se entra en «un mundo que ya no conoce sombra, escondrijo, territorio no vigilado» (Galparsoro y Pérez, 2018Galparsoro, José y Pérez, Rita. (2018). Revolución digital y psicopolítica. Algunas consideraciones críticas a partir de Byung-Chul Han, Foucault, Deleuze y Nietzsche. SCIO. Revista de Filosofía, 14, 251-275. 10.46583/scio_2018.14.493, p.261). Los algoritmos recopilan, procesan y configuran los datos con riesgos para el disfrute del derecho a la vida privada y familiar (Comisión Europea, 2018Comisión Europea (2018). Algorithms and Human Rights. Disponible en: https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5, p.12).

La visión phronética (F) se mueve entre las oportunidades para el fortalecimiento de las relaciones interpersonales y los espacios de encuentro, así como para la ruptura de barreras y apertura de posibilidades para revelar el yo con mayor autenticidad y completitud cuando se descorporaliza o se escapa al cuerpo en estos ámbitos digitales (Illou, 2007Illou, Eva (2007). Intimidades congeladas. Las emociones en el capitalismo. Madrid: Katz.), y los posibles riesgos cuando no se interactúa con personas y comunidades auténticas, sino con imágenes creadas, ficticias y perfiladas con los valores de las configuraciones algorítmicas.

De cuerpos reales a perfiles ficticios

El proceso de co-construcción entre tecnologías y subjetividades—aquel en el que las personas construyen las tecnologías al mismo tiempo que estos sistemas tecnológicos configuran los individuos--adquiere relevancia y requiere de mayor cuidado en el vínculo de los cuerpos con los sistemas fuertes de IA (Cardon, 2018Cardon, Dominique (2018). Con qué sueñan los algoritmos. Nuestra vida en el tiempo de los Big Data. Madrid: Dado Ediciones.). En la mutación de los cuerpos influye la reconfiguración de las subjetividades, determinadas ahora como perfiles, máscaras y avatares (Lanier, 2018Lanier, Jaron (2018). Diez razones para borrar tus redes sociales de inmediato. Madrid: Debate.; Barrios-Tao, 2015Barrios-Tao, Hernando (2015). Subjetividades en el ágora digital: Cuestiones para la educación y la bioética. Revista Latinoamericana de Bioética, 15(29), 84-95.). Las visiones utópicas (U) indican posibilidades de las tecnologías para fortalecer las subjetividades en sus expresiones relacionales con el mundo, mediadas por el cuerpo, al permitir la configuración de un yo múltiple, más flexible y abierto, que permitiría un yo lúdico y auto-creativo (Illou, 2007Illou, Eva (2007). Intimidades congeladas. Las emociones en el capitalismo. Madrid: Katz.).

Por su parte, las visiones distópicas (D) resaltan riesgos para los cuerpos a causa de la permanente conexión, la desubicación espaciotemporal, la exclusividad de la red como su ámbito de socialización, y podrían generar el desplazamiento de características estructurales y dinámicas hacia los dispositivos, determinados ahora como prótesis externas del cuerpo (Huici y Davila, 2016Huici, Vicente y Davila, Andrés (2016). Del Zoon Politikón al Zoon Elektronikón. Política y Sociedad, 53(3), 757-772. 10.5209/rev_POSO.2016.v53.n3.50776). El planteamiento de Virilio (1997Virilio, Paul (1997). El cibermundo, la política de lo peor. Madrid: Cátedra.) sobre los ritmos de la velocidad en la interacción con los desarrollos tecnológicos que dinamizan la transformación, el daño y la sustitución de la capacidad de percepción humana se podrían acelerar con la interacción ahora más profunda entre cuerpos e IAs fuertes.

Otro ángulo distópico para las subjetividades es el contraste entre la configuración de perfiles uniformes, estandarizados y cosificados (Illou, 2007Illou, Eva (2007). Intimidades congeladas. Las emociones en el capitalismo. Madrid: Katz.), y la multiplicidad de perfiles creados por la fuerza de la presión social sobre su conducta, comportamiento e identidad (Lanier, 2018Lanier, Jaron (2018). Diez razones para borrar tus redes sociales de inmediato. Madrid: Debate.). En las interacciones sociales se recurre a diversos perfiles, «identidades tecnológicas» o «tecno-máscaras», con signos distintivos como claves, URLs, contraseñas que, aunque no se deberían confundir con los individuos, se superponen e identifican las personas (Echeverría, 2016Echeverría, Javier (2016). Ciberpersonas y cibermasas en las cibersociedades. Acento. https://acento.com.do/opinion/ciberpersonas-cibermasas-las-cibersociedades-8408618.html). El punto culminante es la creación de un nuevo modo de identidad: la ciber-identidad. Este nuevo modo de ser se distingue de la corporalidad, que hasta ahora definía al individuo personal y socialmente. La identidad partía del reconocimiento personal y grupal, y con los desarrollos tecnológicos la dimensión funcional refiere unas acciones que no revelan la identidad propia, sino «la identidad del aparato técnico que las media» (Marín, 2018Marín, José (2018). La resemantización TIC de la cultura humanista. index.comunicación, 8(1), 179-195.). En este ámbito se ubican el «zoon elektronikón» (Huici y Davila, 2016Huici, Vicente y Davila, Andrés (2016). Del Zoon Politikón al Zoon Elektronikón. Política y Sociedad, 53(3), 757-772. 10.5209/rev_POSO.2016.v53.n3.50776) y la «tecno-persona» (Echeverría, 2016Echeverría, Javier (2016). Ciberpersonas y cibermasas en las cibersociedades. Acento. https://acento.com.do/opinion/ciberpersonas-cibermasas-las-cibersociedades-8408618.html), que producen y desarrollan su identidad en las relaciones e interacciones, mediadas por dispositivos tecnológicos.

En la configuración de estos perfiles, otros textos refieren al influjo de las emociones cuando éstas se transforman en «inscripciones digitales», es decir objetos o datos almacenables, visualizables, gestionables y con la posibilidad de ser compartidos, debido a la información entregada por los usuarios (Serrano, 2016Serrano, Javier (2016). Internet y emociones: nuevas tendencias en un campo de investigación emergente. Comunicar. Revista Científica de Educomunicación, 46(24), 19-26. 10.3916/C46-2016-02, p.24). Las corrientes negativas y positivas de las emociones se utilizan para lograr ciertos modelos o perfiles trazados por los intereses de los configuradores algorítmicos. Aquellas negativas se manipulan mediante imágenes destructivas de los adversarios, que buscan generar indignación moral y proliferación de sesgos cognitivos negativos en contra de los contrincantes, así como burbujas de contagio emocional entre los individuos con perfiles y posiciones similares (Pérez, 2021Pérez, Pedro (2021). Polarización artificial: cómo los discursos expresivos inflaman la percepción de polarización política en Internet. Recerca. Revista de Pensament i Anàlisi, 26(2), 1-23. 10.6035/recerca.4661; Serrano, 2016Serrano, Javier (2016). Internet y emociones: nuevas tendencias en un campo de investigación emergente. Comunicar. Revista Científica de Educomunicación, 46(24), 19-26. 10.3916/C46-2016-02; López 2016López, Luisa (2016). Las emociones como formas de implicación en el mundo. El caso de la ira. Estudios de Filosofía, 53, 81-101. 10.17533/udea.ef.n53a05); mientras que las positivas se utilizan para exacerbar el sentido de libertad y autonomía, permitiendo la comunicación y entrega de datos personales, mediante los cuales se perfilan los individuos en este nuevo panóptico digital (Han, 2014Han, Byun-Chul (2014). Psicopolítica. Neoliberalismo y nuevas técnicas de poder. Barcelona: Herder.).

Las nuevas identidades, determinadas como perfiles y denominadas ahora como usuarios, diluyen el individuo en el «anonimato tecnológico» y lo convierten en «prosumidor»: un productor-consumidor cuyo deber es producir y consumir lo producido (Marín, 2018Marín, José (2018). La resemantización TIC de la cultura humanista. index.comunicación, 8(1), 179-195.). La Comisión Europea (2018Comisión Europea (2018). Algorithms and Human Rights. Disponible en: https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5) alerta sobre la configuración de los perfiles mediante el uso de datos, los cuales pierden el contexto original y se utilizan sin la autorización y conciencia de los usuarios. Estos perfiles creados no sólo son ficticios, sino que la configuración algorítmica genera resultados incompletos, inexactos y distorsionados sobre la identidad de los individuos.

El riesgo para el derecho a la identidad y la consecuente preservación de la dignidad se traza por la heterónoma configuración algorítmica producto de los datos personales entregados (Piñar, 2018). El movimiento entre identidades falsas construidas para adquirir poder y asombrar, y los perfiles creados con fines de exclusión, vigilancia y sometimiento a intereses mercantilistas de los configuradores, trazan riesgos para las personas. La posibilidad de manipular los perfiles convierte la identidad en un valioso capital, en el «nuevo dinero» (Piñar, 2018Piñar, José (2018). Identidad y persona en la sociedad digital. En Tomásde la Quadra y JoséPiñar (eds.), Sociedad digital y Derecho (pp. 95-111). Madrid: Boletín Oficial del Estado., p.103).

La visión analógica (F) se determina a partir de las configuraciones de los sistemas de IA, que se mueven entre la posibilidad de fortalecer la construcción de subjetividades abiertas, flexibles y creativas, y la entrega de la dimensión relacional e identitaria, junto con los datos personales, con los cuales se participa en la configuración y posterior manipulación de perfiles heterónomos y ficticios. La regulación de las constituciones o generación de los perfiles, así como de los sistemas de reconocimientos biométricos podrían dar lugar a un mejor uso y cuidado de los datos privados y minimizar riesgos para los usuarios (Crawford et al., 2019Crawford, Kate; RoelDobbe; Dryer, Theodora; Fried, Genevieve; Green, Ben; Kaziunas, Elizbaeth; Kak, Amba; Varoon, Mathur; McElroy, Erin; Sánchez, Andrea; Raji, Deborah; Rankin, Joy; Richardson, Rashida; Schultz, Jason; West, Sarah y Whittaker, Meredith (2019). AI Now 2019 Report. New York: AI Now Institute. https://ainowinstitute.org/AI_Now_2019_Report.pdf).

Del mercado de cuerpos al mercado de perfiles

De la comercialización del cuerpo se transita al negocio de perfiles y al ejercicio del poder sobre los individuos, identificados ahora con estas máscaras. Así como los cuerpos se utilizaron para identificar a las personas, los perfiles ahora se configuran con determinadas características para ser incluidos y comercializados en el mundo digital en el que se sobrevive. Las visiones distópicas (D) inician con el anuncio de Virilio (1997Virilio, Paul (1997). El cibermundo, la política de lo peor. Madrid: Cátedra.) acerca de la colonización del cuerpo, en la que se materializa aún más las prácticas mercantilistas de las nanotecnologías invasoras del cuerpo, y continúan con las prospectivas del transhumanismo orientadas a mejorar las supuestas deficiencias del ser humano (Kotze, 2018Kotze, Manitza (2018). The theological ethics of human enhancement: Genetic engineering, robotics and nanotechnology. In die Skriflig, 52(3), a2323. 10.4102/ids.v52i3.2323). El cuerpo se transforma en un objeto explotable, vinculado al proceso tecnocientífico, con capacidad de rendir y producir para ser exhibido y consumido socialmente.

Las relaciones interpersonales, particularmente las románticas, ingresan en el mercado digital de cuerpos bajo el lenguaje de las emociones, cuyas expresiones «se consumen con rapidez, eficiencia, a un costo bajo y en gran abundancia» (Illou, 2007Illou, Eva (2007). Intimidades congeladas. Las emociones en el capitalismo. Madrid: Katz., p.193). En este ambiente digital «el cuerpo se transforma en una mera vitrina andante, en un objeto más dentro de la sociedad de consumo» (Rojas, 2016Rojas, Yuber (2016). Cuerpo de una violencia infame. Algunas apreciaciones para una hermenéutica de la violencia. Daimon. Revista Internacional de Filosofía, 5, 747-755. 10.6018/daimon/273121, pp.752-753) debido a que la industria configura una belleza vinculada con el aspecto físico como fuente de valor económico y social, así como factor de competitividad social y exposición pública (Illou, 2007Illou, Eva (2007). Intimidades congeladas. Las emociones en el capitalismo. Madrid: Katz.). Esta dimensión estética expone el cuerpo a cánones seriales, estandarizados y de apariencia, a determinados perfiles sobre «cómo-verse-en-el-mundo» (Rojas, 2016Rojas, Yuber (2016). Cuerpo de una violencia infame. Algunas apreciaciones para una hermenéutica de la violencia. Daimon. Revista Internacional de Filosofía, 5, 747-755. 10.6018/daimon/273121, p.753).

En este negocio, la disciplina corporal cede ante la optimización mental y el cuerpo pasa a ser objeto estético y negocio para la cirugía plástica y los centros de fitness, así como un estereotipo, cuya optimización se convierte en un factor circulante en los ambientes digitales. El cuerpo convertido en información digital se comercializa, mercantiliza, con seducciones de optimización mental y física, en el marco de una imaginaria idealización del yo y de perfección estética, que abre las necesidades a las cirugías en búsqueda de una belleza estereotipada (Han, 2014Han, Byun-Chul (2014). Psicopolítica. Neoliberalismo y nuevas técnicas de poder. Barcelona: Herder.). En este ámbito mercantilista se explotan los usuarios, cuyos datos permiten percibir un yo insatisfecho con su cuerpo y que no acepta su condición de fragilidad, vulnerabilidad, dependencia y debilidad, las cuales no serían adecuadas para una cultura de independencia, libertad y éxito, así como para una sociedad cuya base existencial es la autonomía (Duch-Mélich, 2005Duch, Lluís y Mèlich, JoanCarles (2005). Escenarios de la corporeidad. Madrid: Trotta.).

El capitalismo muta de los objetos físicos, dentro de los cuales está el cuerpo, al comercio de la información, datos y programas. Este mercado de datos desemboca en la explotación de los perfiles configurados y el riesgo fundamental aparece cuando los intereses de los configuradores de estos sistemas se inscriben en modelos de negocio «cuyo incentivo consiste en encontrar clientes dispuestos a pagar para modificar el comportamiento de otras personas» (Lanier, 2018Lanier, Jaron (2018). Diez razones para borrar tus redes sociales de inmediato. Madrid: Debate., p.78). En este mercado de los perfiles, otro de los riesgos se relaciona con la discriminación indirecta, mediante la configuración de estereotipos que excluyen determinados perfiles (Comisión Europea, 2018Comisión Europea (2018). Algorithms and Human Rights. Disponible en: https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5) y buscan incluir sólo aquellos acordes con los valores comerciales de quienes configuran los sistemas de IA. La discriminación tiene lugar cuando el perfil no concuerda con los estereotipos comerciales o cuando se aplican perfiles determinados a personas para impedir su acceso a los ámbitos sociales (De la Quadra, 2018De la Quadra, Tomás. (2018). Retos, riesgos y oportunidades de la sociedad digital. En Tomásde la Quadra y JoséPiñar (eds.), Sociedad digital y Derecho (pp. 21-85). Madrid: Boletín Oficial del Estado.). La situación es extrema en la medida en que esta afectación y discriminación supera cualquier mecanismo de control social (Comisión Europea, 2020Comisión Europea (2020). Libro Blanco sobre la inteligencia artificial. Disponible en: https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_es.pdf).

Algunos autores señalan estrategias para el mercado de perfiles en ámbitos como el educativo, mediante prácticas biométricas en las cuales se conjugan criterios de eficiencia y calidad, como el caso de las clasificaciones o rankings. Los procedimientos de reificación, digitalización y biometría configuran nuevas subjetividades acordes con los estándares de los sistemas de medición, cuantificación de la productividad, gestión de datos, indicados por las racionalidades neoliberales (Saura y Bolívar, 2019Saura, Geo y Bolívar, Antonio (2019). Sujeto académico neoliberal: Cuantificado, digitalizado y bibliometrificado. REICE, 17(4), 9-26. 10.15366/reice2019.17.4.001; Feldman y Sandoval, 2018Feldman, Zeena y Sandoval, Marisol. (2018). Metric power and the academic self: Neoliberalism, knowledge and resistance in the British university. TripleC, 16(1), 214-233. 10.31269/triplec.v16i1.899)

Una visión analógica (F) sólo se podría plantear a partir del cuidado de los riesgos y la limitación de la denominada «interacción destructiva», que tiene lugar cuando se introducen desarrollos e innovaciones de IA en el entorno motivados por intereses de rendimiento económico exclusivamente, afectando a los actores allí incluidos (Toboso y Aparicio, 2019Toboso, Mario y Aparicio, Manuel (2019). Entornos de funcionamientos robotizados. ¿Es posible una robótica inclusiva?Dilemata,11(30), 171-185., p. 173).

Del poder sobre el cuerpo a la psicopolítica de datos perfilados y algoritmos

Del mercado de perfiles se transita al ejercicio del poder, ahora ya no sobre el cuerpo físico, sino sobre la interioridad, psique, en una dinámica de psicopoder que evoluciona de la manipulación y gobernanza, a la modificación de la conducta de los usuarios.

Las visiones utópicas (U) podrían considerarse a partir de la conceptualización, exploración de las dinámicas y transformación del cuerpo natural de Virilio (1997Virilio, Paul (1997). El cibermundo, la política de lo peor. Madrid: Cátedra.) y su potencial convergencia con las posibilidades para la creatividad, sentido y complejidad de las nuevas formas de representar y vivir el cuerpo (García, 2010García, Ana (2010). Tiempo, cuerpo y percepción en la imagen técnica. Paul Virilio y la «estética de la desaparición». STVDIVM, 16, 231-247.). En este sentido, hay que considerar las ventajas planteadas por Katzenbach y Ulbricht (2019Katzenbach, Christian y Ulbricht, Lena. (2019). Algorithmic governance. Internet Policy Review, 8(4). 10.14763/2019.4.1424) acerca del fortalecimiento de la eficiencia, velocidad, escalabilidad y adaptabilidad, así como la referencia de Lozano (2016Lozano, Alejandro (2016). A medida del cuerpo. Notas acerca del retorno a lo físico en la estética de las nuevas tecnologías. Daimon. Revista Internacional de Filosofía, 5, 287-294. 10.6018/daimon/268921) sobre la posibilidad de potenciar la identidad de los usuarios con la información circulante en la red y de empoderarlos para defender sus intereses. Otro ángulo de los beneficios se podría trazar desde las seductoras narrativas de los comerciantes de desarrollos de sistemas de IA que propenderían a exaltar la libertad y autonomía individual, cuyas indudables posibilidades trazan beneficios para los usuarios (Han, 2014Han, Byun-Chul (2014). Psicopolítica. Neoliberalismo y nuevas técnicas de poder. Barcelona: Herder.).

Las visiones distópicas (D) relativas a este poder sobre el cuerpo se estructuran en torno al análisis de la dinámica de la psicopolítica en su evolución del ejercicio del psicopoder articulada en las fases manipulación-modificación-gobernanza. El paso del poder capitalista sobre el cuerpo físico se orienta ahora a la psique, la nueva fuerza productiva, nuevo objetivo de los sistemas de IA, nuevo capital determinado por estas formas inmateriales y nuevo combustible de la manipulación en línea (Susser, Roessler y Nissenbaum, 2019Susser, Daniel; Roessler, Beate y Nissenbaum, Helen. (2019). Technology, autonomy, and manipulation. Internet Policy Review, 8(2). 10.14763/2019.2.1410). El punto de mira ahora son los procesos de manipulación de la interioridad de los usuarios, mediante los grandes datos que permiten alcanzar, iluminar y explotar la psique; y el nuevo panóptico digital es una sociedad de la transparencia que ejerce el psicopoder mediante la vigilancia digital, e interviene en los procesos psicológicos, orientando el pensamiento y las necesidades internas (Han, 2014Han, Byun-Chul (2014). Psicopolítica. Neoliberalismo y nuevas técnicas de poder. Barcelona: Herder.).

A partir de los diferentes modos de conceptualizar la manipulación, primer paso de la psicopolítica, Susser, Roessler y Nissenbaum (2019Susser, Daniel; Roessler, Beate y Nissenbaum, Helen. (2019). Technology, autonomy, and manipulation. Internet Policy Review, 8(2). 10.14763/2019.2.1410) sintetizan la variedad de definiciones en la idea principal relacionada con guiar a alguien, inducirlo a determinado comportamiento e influir de forma oculta en su toma de decisiones, apuntando y explotando sus vulnerabilidades. La manipulación es un direccionamiento fuera de la conciencia para actuar por razones que no se reconocen y hacia fines que quizá se desearían evitar. El riesgo para la autonomía radica en conducir los usuarios hacia actuaciones que no ha elegido y con razones impropias.

La manipulación inicia con la vigilancia digital posibilitada por la exhibición permanente de las vulnerabilidades individuales cuando se toman decisiones. Los datos sobre estas vulnerabilidades se monitorean y detectan en publicaciones e imágenes sobre situaciones de estrés, derrota, ansiedad, nerviosismo, fracaso, entre otras. Estos rastros se recolectan para perfilar los individuos y posteriormente configurar y analizar patrones latentes. Con esta información comportamental se pueden detectar momentos y modos para intervenir e influenciar las personas. En esta interacción digital las interfaces continúan aprendiendo de los usuarios y hasta se adaptan a cada individuo (Susser, Roessler y Nissenbaum, 2019Susser, Daniel; Roessler, Beate y Nissenbaum, Helen. (2019). Technology, autonomy, and manipulation. Internet Policy Review, 8(2). 10.14763/2019.2.1410). De este modo, con los datos se puede predecir el comportamiento y ejercer un control sobre los usuarios: «Si todo es predecible y controlable, al ser humano se le cierra todo horizonte de futuro; su libertad creadora de futuro desaparece» (Galparsoro y Pérez, 2018Galparsoro, José y Pérez, Rita. (2018). Revolución digital y psicopolítica. Algunas consideraciones críticas a partir de Byung-Chul Han, Foucault, Deleuze y Nietzsche. SCIO. Revista de Filosofía, 14, 251-275. 10.46583/scio_2018.14.493, p.264). Asimismo, se les encierra en los resultados algorítmicos sintonizados con sus preferencias y sin la conciencia de la información disonante oculta en el algoritmo (Pérez, 2021Pérez, Pedro (2021). Polarización artificial: cómo los discursos expresivos inflaman la percepción de polarización política en Internet. Recerca. Revista de Pensament i Anàlisi, 26(2), 1-23. 10.6035/recerca.4661). El posterior ejercicio de gobernanza se orienta por lo que se puede encontrar, lo esperado, lo relevante, lo cual conduce al interés final que es en definitiva lo que se consume (Just y Latzer, 2017Just, Natascha y Latzer, Michael (2017). Governance by algorithms: reality construction by algorithmic selection on the Internet. Media, Culture & Society, 39(2), 238-258. 10.1177/0163443716643157, p.5). Latzer y Festic (2019Latzer, Michael y Festic, Noemi (2019). A guideline for understanding and measuring algorithmic governance in everyday life. Internet Policy Review, 8(2). 10.14763/2019.2.1415) presentan un enfoque empírico de métodos mixtos para probar el gobierno algorítmico en los diversos dominios de la vida tales como la orientación social y política, la recreación y las transacciones comerciales.

Otros autores se centran en formas, estrategias y acciones de gobernanza, que van desde el ejercicio del poder mediante estrategias blandas como la biometría, a través de evaluaciones cuantitativas sobre calidad, impacto y resultados, configuradas con datos y algoritmos que desembocan en rankings (Saura y Bolívar, 2019Saura, Geo y Bolívar, Antonio (2019). Sujeto académico neoliberal: Cuantificado, digitalizado y bibliometrificado. REICE, 17(4), 9-26. 10.15366/reice2019.17.4.001), hasta el ejercicio del psicopoder mediante configuraciones algorítmicas orientadas a ingresar y capturar a los usuarios en fenómenos epistémicos como los filtros burbuja y las cámaras de eco. Mientras que los filtros o burbujas epistémicas encierran las voces en sí mismas, en sus creencias y excluyen la argumentación, las cámaras conducen a la interacción con usuarios afines a los valores e ideologías allí inmersos (Pérez, 2021Pérez, Pedro (2021). Polarización artificial: cómo los discursos expresivos inflaman la percepción de polarización política en Internet. Recerca. Revista de Pensament i Anàlisi, 26(2), 1-23. 10.6035/recerca.4661; Nguyen, 2020Nguyen, C. Thi. (2020). Echo chambers and epistemic bubbles. Episteme, 17(2), 141-161. 10.1017/epi.2018.32).

En conexión con estos fenómenos epistémicos, las redes difunden información y datos orientados a la interioridad de los usuarios. Los efectos de repetición, réplica y viralización permiten la circulación de falsas noticias y de virus mentales. Estos virus son campos cognitivos infundados o construidos sobre ideologías o doctrinas, sin base en un cuerpo teórico experimental, que interactúan entre sí, circulan y se difunden en la red a causa de la ignorancia, desinformación, rechazo de la ciencia y predisposición psicológica (Gayozzo, 2021Gayozzo, Piero. (2021). Virus mentales. Pensar. Disponible en: https://pensar.org/2021/03/virus-mentales/; Dawkins, 1993Dawkins, Richard. (1993). Viruses of the Mind. En Dahlbom, Bo. Dennet and His Critics: Demystifying Mind (pp. 13-27). Oxford: Blackwell.). Los efectos de los virus se evidencian en la disposición inconsciente de los individuos para actuar de acuerdo con la doctrina y en su obediencia a las autoridades ideológicas, que alejan las personas de la realidad y las encierran en razonamientos errados, desconfiados y fanáticos (Gayozzo, 2021Gayozzo, Piero. (2021). Virus mentales. Pensar. Disponible en: https://pensar.org/2021/03/virus-mentales/). En este ámbito, Susser, Roessler y Nissenbaum (2019Susser, Daniel; Roessler, Beate y Nissenbaum, Helen. (2019). Technology, autonomy, and manipulation. Internet Policy Review, 8(2). 10.14763/2019.2.1410) refieren sesgos cognitivos o atajos mentales que influyen en la toma de decisiones y moldean las creencias, sin necesidad de engaño absoluto.

Otra de las estrategias de gobernanza se condensa en el término seducción. A partir del monitoreo de los datos privados la configuración algorítmica revierte la información recibida y crea procesos de auto seducción a partir de las manifestaciones libremente expresadas y mediante los cuales ahora son engañados. La seducción se dinamiza a partir de la invasión a su interioridad y a la conducción de su mente para que subordine su cuerpo a un ego ideal configurado en los sistemas de IA con intereses económicos (Saura y Bolívar, 2019Saura, Geo y Bolívar, Antonio (2019). Sujeto académico neoliberal: Cuantificado, digitalizado y bibliometrificado. REICE, 17(4), 9-26. 10.15366/reice2019.17.4.001, p.22). En esta dinámica, se pasa de la seducción a la dependencia; la voluntad libre para entregar sus datos se convierte en un supuesto sentimiento de libertad, mediante el cual se termina explotando a sí mismo (Han, 2014Han, Byun-Chul (2014). Psicopolítica. Neoliberalismo y nuevas técnicas de poder. Barcelona: Herder.).

Por último, otros autores plantean ahora el uso de las emociones como estrategia para modificar la conducta de las masas. Por una parte, se explotan las corrientes emocionales negativas para motivar la reacción y sacar lo peor de los usuarios (Lanier, 2018Lanier, Jaron (2018). Diez razones para borrar tus redes sociales de inmediato. Madrid: Debate.). En este sentido, se inducen expresiones para ocasionar desahogos emocionales e indignación que arriba a polarizaciones afectivas que generan «sentimientos negativos de rechazo o animadversión de los sujetos hacia sus adversarios ideológicos» (Pérez, 2021Pérez, Pedro (2021). Polarización artificial: cómo los discursos expresivos inflaman la percepción de polarización política en Internet. Recerca. Revista de Pensament i Anàlisi, 26(2), 1-23. 10.6035/recerca.4661, p.7). Esta manipulación emocional también busca provocar molestias, discusiones y polémicas, evitando la posibilidad de debates reales y argumentados (Acevedo, Chamorro y Quintero, 2021Acevedo, Alvaro; Chamorro, Alicia y Quintero, Margarita (2021). Ciudadanías movedizas: ciberpolítica y los dilemas de Twitter como esfera pública/privada. Recerca. Revista de Pensament i Anàlisi, 26(2), 1-23. 10.6035/recerca.5511). Por otra parte, la psicopolítica neoliberal utiliza las corrientes positivas para generar sentimientos de positivismo, con el fin de agradar, maximizar el consumo y motivar la comunicación de los datos. De este modo, el individuo comparte su información sin necesidad de usar la fuerza para extraérsela. Esta explotación convierte las emociones en medios de producción vinculados con la libertad e impulsividad para consumir y comunicar, sin límites, expresiones como el «me gusta». De este modo, el sujeto se explota a sí mismo y lo reproduce como si estuviera actuando libremente (Han, 2014Han, Byun-Chul (2014). Psicopolítica. Neoliberalismo y nuevas técnicas de poder. Barcelona: Herder.).

A partir de la propuesta de Lozano (2016Lozano, Alejandro (2016). A medida del cuerpo. Notas acerca del retorno a lo físico en la estética de las nuevas tecnologías. Daimon. Revista Internacional de Filosofía, 5, 287-294. 10.6018/daimon/268921) para abordar las complejas relaciones entre poder, nuevas tecnologías y cuerpo, se pueden referir aspectos para una visión fronética (F): la visión desbordada del biopoder debe considerarse más allá de un repertorio de técnicas para gestionar la vida humana y abrir iniciativas para que las mismas tecnologías se incorporen en acciones de resistencia y valoración de la identidad individual y comunitaria frente a las intenciones de terceros (Lozano, 2016Lozano, Alejandro (2016). A medida del cuerpo. Notas acerca del retorno a lo físico en la estética de las nuevas tecnologías. Daimon. Revista Internacional de Filosofía, 5, 287-294. 10.6018/daimon/268921, 292). Asimismo, los planteamientos de Floridi et al. (2018Floridi, Luciano; Cowls, Josh; Beltrametti, Monica; Chatila, Raja; Chazerand, Patrice; Dignum, Virginia; Luetge, Christoph; Madelin, Robert; Pagallo, Ugo; Rossi, Frencesca; Schafer, Burkhard; Valcke, Peggy y Vayena, Effi (2018). AI4People – An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, 28, 689-707. 10.1007/s11023-018-9482-5) consideran una oportunidad para el poder predictivo de los sistemas de IA cuando sirven para la autodeterminación humana y fomentan la cohesión social.