1. CONSIDERACIONES METODOLÓGICAS PREVIAS
⌅1.1. Materiales
⌅Este artículo pretende dibujar una cartografía de los principales retos éticos y tecnocientíficos de la robótica interactiva. A diferencia de los enfoques tradicionales, en este caso, no haremos uso de referencias bibliográficas. En su lugar, la fuente principal del análisis girará en torno al documental Los robots salen de las fábricas que coordiné en el marco del proyecto europeo Horizonte 2020 Inbots CSA1Más información sobre el proyecto en http://inbots.eu/ . Publicado en la web el 8 de abril de 2020, rodado entre el 27 de septiembre de 2019 y el 12 de enero de 2020, este documental se elaboró a partir de 38 entrevistas en profundidad a expertas y expertos de primera línea en la disciplina. Focalizado en la transición desde la robótica industrial a la robótica interactiva, donde la comunicación humano-robot se vuelve central, el documental incluye reflexiones procedentes tanto del ámbito tecnocientífico como de las ciencias sociales y de las humanidades.
Además de aludir a frases elegidas durante la elaboración del guión del documental, utilizaremos dos fuentes adicionales. En primer lugar, se incluirán testimonios no editados en el montaje final del documental, que aparecerán indicados diferenciadamente. En segundo lugar, aprovechando que un montaje reducido del mismo fue utilizado para poner a dialogar a nueve de sus protagonistas junto a integrantes del Instituto de Filosofía del CSIC, se incluirán menciones a las conversaciones que tuvieron lugar en este evento: tres sesiones de un docufórum celebradas en el marco de la Undécima Noche Europea de los Investigadores de Madrid el 27 y 28 de noviembre de 20202Más información sobre las jornadas en https://www.madrimasd.org/lanochedelosinvestigadores/ . Por último, se referenciarán materiales citados en los testimonios e hiperenlaces a páginas web siempre y cuando esto aporte mayor claridad expositiva y una trazabilidad de las ideas que se expresan. En síntesis, lo que se pretende es presentar una visión y una comprensión ampliada del documental, en la que tanto el trabajo previo como sus resultados posteriores pasan a un primer plano.
1.2. Metodología referencial
⌅Dada la tipología de los materiales descritos, la exposición que aquí nos ocupa amerita un método referencial específico. En tanto que nos basamos en testimonios de especialistas, quizá desconocidos para algunos, cada primera cita irá acompañada de una breve nota a pie que lo situará brevemente. La «bibliografía» estará constituida principalmente por cuatro materiales audiovisuales: el documental y las tres sesiones posteriores del docufórum, ya mencionadas. En analogía con las fuentes tradicionales, consideraremos estos materiales audiovisuales como libros, con su correspondiente fecha de edición, y a las voces citadas como capítulos de los mismos. Así las referencias extraídas del material audiovisual serán señaladas de forma diferenciada y asociadas a su fecha de grabación. Las referencias a materiales externos serán recogidas en notas a pie.
1.3. Metodología conceptual
⌅Tanto el propósito general de este artículo como la diversidad de perfiles entrevistados han supuesto un considerable desafío a la hora de generar la narrativa del mismo. Para afrontarlo, se ha decidido emplear una aproximación metafórica característica, sobre todo, de la divulgación en robótica. De acuerdo con Raja Chatila3Raja Chatila es Profesor Emérito en Inteligencia Artificial, Robótica y Ética en la Universidad de La Sorbona (París, Francia). Durante la entrevista, era miembro del Grupo de Expertos de Alto Nivel en Inteligencia Artificial de la Comisión Europea (HLEG-AI). (2020Chatila, Raja (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ), un robot puede ser entendido como una máquina que actúa en el entorno. Para ello, necesita percibir y construir representaciones del mismo. Recientemente y con especial énfasis en la robótica interactiva, a estas tres dimensiones básicas del robot se les deben añadir dos dimensiones adicionales, a saber, la comunicación entendida como interacción entre agentes4Estos pueden ser operadores, usuarios e incluso otras máquinas. y el aprendizaje requerido para optimizar tanto las representaciones del mundo como el rendimiento de la acción en un contexto de toma de decisiones (Chatila, 2019Chatila, Raja (2019). Entrevista personal realizada el 29 de octubre. París, Francia. ). Visto de esta forma, las similitudes con un modelo mecanicista del ser humano parecen evidentes. Precisamente, esta visión de los seres humanos, ya sea como mera inspiración o como problemática aspiración, estará presente en muchos de los modelos conceptuales de las perspectivas tecnocientíficas sobre la robótica. Así, podemos decir que un robot es similar a un ser humano en tanto que ambos sienten, piensan y actúan, conceptos que funcionarán como campos semánticos que darán nombre a los principales apartados de este artículo. Como veremos en la introducción, dentro de cada uno de ellos y de forma transversal, otras dimensiones pasarán a cobrar relevancia. Por un lado, como protagonistas con capacidad de agencia, nos encontraremos con personas, robots, algoritmos, inteligencias artificiales, sistemas y sociedades. Por otro lado, la ética, en tanto que eje discursivo del enfoque europeo de investigación y desarrollo de estas tecnologías, estará siempre presente. De esta forma, dibujaremos una narrativa que entrelaza y contrapone diversos conceptos que guardan cierto parecido de familia (sentir, sensores, emociones, percepciones, imaginarios colectivos; pensar, procesar, datos, inteligencia, computación, deliberar, aprender, explicar; actuar, agencia, regulación o intervención).
Esta asunción, si bien generará ciertas tensiones, también nos permitirá mostrar las posibilidades y limitaciones de los discursos que se hibridan en la robótica interactiva, concepto que dará nombre al último apartado del artículo, en el cual, a modo de conclusión, se sintetizan los desafíos más relevantes reflejados a lo largo de la investigación.
2. INTRODUCCIÓN
⌅En este apartado se presentan los componentes más relevantes del objeto de estudio. Empezamos por el título del documental: Los robots salen de las fábricas. Pensar la robótica interactiva es pensar en un salir de las fábricas que opera en un doble sentido. Por un lado, podemos pensar en su incorporación en la vida social, progresiva y paulatina pero, a su vez, aparentemente inevitable. Por otro lado, se encierra en ella la clave de lo que aquí nos ocupa, ese paso desde la robótica industrial, donde los robots operan, tradicionalmente enjaulados, en fábricas entendidas como sistemas cerrados y predecibles, hacia la robótica interactiva. Tal y como ilustra Francesco Ferro5Francesco Ferro es CEO y cofundador de Pal Robotics (Barcelona, España) y uno de los miembros de la junta directiva de euRobotics. (2020Ferro, Francesco (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ), los brazos robóticos de toda la vida operaban enjaulados porque eran peligrosos. Por ejemplo, si pasaba alguien y se interponía en su camino, el robot seguía intentando cumplir su objetivo a menos que fuera desconectado. Sin embargo, un brazo robótico cooperativo o colaborativo6Dentro del discurso generalizado sobre la innovación en robótica, es habitual escuchar referencias al adjetivo cooperativo (o colaborativo) para hablar de robótica interactiva. En lo que respecta a los robots comerciales disponibles en la actualidad, este adjetivo, por ahora, significa poco más que evitar colisiones. Sin embargo, como veremos, esto no implica que no se aspire a construir las condiciones de posibilidad de una cooperación más significativa., paradigma de la robótica interactiva, es capaz de percibir el entorno y reaccionar en consecuencia para evitar un perjuicio. Esta transición implica un salto a otro mundo, el nuestro, complejo, caótico, impredecible, pone al factor humano en el centro y amplía el alcance de la investigación desde los sensores, la cognición y los actuadores, a su impacto sistémico centrado en la interacción (Abbink, 2020Abbink, David (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U )7David Abbink es Profesor Titular en Interacción Humano-Robot en el departamento de Robótica Cognitiva de la la Universidad Tecnológica de Delft (Holanda). .
El robot interactivo debe entonces tener la capacidad de interpretar los gestos, las expresiones faciales de la emoción, en definitiva, la conducta no verbal (Monasterio, 2020aMonasterio Astobiza, Aníbal (2020a). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U )8Aníbal Monasterio Astobiza es Doctor en Ciencias Cognitivas y miembro cofundador del Laboratorio de Investigación e Intervención en Filosofía y Ética - Li²Fe (España).. Además, el factor humano incorpora el error, mientras que «(...) a los robots ahora se les obliga a ser precisos, exactos. Necesitamos robots que para interactuar con personas sean capaces de trabajar con ese error» (Lanillos, 2020aLanillos, Pablo (2020a). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U )9Pablo Lanillos es Profesor en el Instituto dedicado a Cerebro, Cognición y Comportamiento en la Universidad de Radboud (Holanda). . Si en 2005 tener un robot era sobre todo mecánica, motores, electrónica, en definitiva, la entidad mecatrónica,
«ahora el robot es el software del robot (...). Si bien en todo esto hay técnicas de robótica de toda la vida, también hay mucho de inteligencia artificial, que sería más bien cómo ayudar al robot a hacerse un modelo de la realidad cuando es difícil de modelizar» (Sallé, 2020Sallé, Damien (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U )10Damien Sallé es Coordinador de Robótica y Automatización en Tecnalia (San Sebastián, España). .
En este sentido, nos encontramos con una relación o, si se quiere, una evolución desde la electrónica digital, la cibernética11Aunque queda fuera del alcance de esta investigación, parece que la falta de sintonía entre John McCarthy y Norbert Wiener, pudo estar detrás de que el primero acuñase el término Inteligencia Artificial (López de Mántaras, 2019)., la automática, la robótica hasta la inteligencia artificial. Esta última, tras haber pasado periodos de escasa financiación debido a que no se cumplían las expectativas generadas, se encuentra ahora en una fase álgida, la del aprendizaje profundo o deep learning que consiste en el análisis, con ordenadores con gran capacidad de cómputo, de extensas bases de datos en búsqueda de patrones (López de Mántaras, 2019López de Mántaras, Ramón (2019). Entrevista personal realizada el 22 de octubre. Barcelona, España.)12Ramón López de Mántaras es Profesor de Investigación en el Instituto de Investigación en Inteligencia Artificial del Consejo Superior de Investigaciones Científicas (Barcelona, España). Fue promotor de la «Declaración de Barcelona para un Desarrollo y Uso Apropiados de la Inteligencia Artificial en Europa». . Así, tanto la inteligencia artificial como los datos han pasado a ser parte indisoluble de los desarrollos en robótica interactiva. Pero, entonces, ¿qué es un robot?
«Es un sistema bastante complejo. Lo que lo diferencia de una mera inteligencia artificial es que tiene un chasis, tiene un cuerpo. No es un pensamiento que se queda en una nube, sino que hay una acción física que se ve. Esta es la definición del robot, mecanismo que yo toco, que hace algo que yo puedo tocar. Que está dotado de una inteligencia artificial concreta que lo hace autónomo. Si no, sería un mero autómata. Requiere de su chasis y de su inteligencia» (Monje, 2020Monje, Concha (2020a). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U )13Concha Monje es Profesora Titular de Robótica y Control de Sistema en RoboticsLab de la Universidad Carlos III de Madrid (España). .
La razón por la cual hablamos tanto de robótica e inteligencia artificial en la actualidad es porque estas tecnologías están avanzando a gran velocidad y haciéndose cada vez más eficientes en automatizar tareas que los humanos solemos hacer (Chatila, 2020Chatila, Raja (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ). Cuanto mayor es este avance, más importante es pensar qué queremos hacer con la tecnología y con los problemas que plantea en relación a la privacidad, la responsabilidad, la pérdida de empleos, e incluso preguntarnos sobre el significado del trabajo y el de nuestras propias vidas (Coeckelbergh, 2020Coeckelbergh, Mark (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U )14Marc Coeckelbergh es Profesor de Filosofía, Medios y Tecnología en el Departamento de Filosofía de la Universidad de Viena (Austria). Forma parte del Grupo de Expertos de Alto Nivel en Inteligencia Artificial para la Comisión Europea (HLEG-AI).. Es aquí donde narrativamente se plantea un modelo europeo de investigación, como oposición al modelo chino y al modelo estadounidense. Para Emmanuel Macron (2019)Macron, Emmanuel (2019). Clôture du Global Forum on Artificial Intelligence for Humanity - GFAIH. Conferencia de clausura del Foro Global de Inteligencia Artificial para la Humanidad. Disponible en: https://youtu.be/ftI7LByZIeI 15Emmanuel Macron es Presidente de la República Francesa. Si bien no tuvimos la oportunidad de hablar directamente con él, le escuchamos durante la conferencia de clausura del Global Forum on Artificial Intelligence for Humanity (GFAIH), donde realizamos otras entrevistas. Disponible en https://youtu.be/ftI7LByZIeI. el modelo chino es cada vez más eficiente, gracias a una fuerte inversión estatal, pero con elecciones éticas subyacentes incompatibles con las sociedades occidentales. Por otro lado, el modelo estadounidense, liderado por el mercado y muy efectivo pero basado en el mantra de la innovación, es incapaz de abordar incentivos no económicos y da lugar a monopolios de facto que generan desigualdades y destruyen el contrato social. Frente a estos enfoques, Europa plantea un modelo situado entre la innovación, una regulación basada en la evidencia y los derechos humanos; en definitiva, esta tercera vía europea, sería la única aproximación democráticamente sostenible en el largo plazo.
No es casual que dos de las mayores redes europeas de investigación en inteligencia artificial tengan como elemento central de su estudio el factor humano: Humane AI16Human-Centered Artificial Intelligence [Inteligencia Artificial Centrada en lo Humano]. Más información sobre la red en https://www.humane-ai.eu/ y Trustworthy AI17Foundations of Trustworthy AI - Integrating Reasoning, Learning and Optimization [Fundamentos de una IA Confiable - Integrando Razonamiento, Aprendizaje y Optimización]. Más información en https://cordis.europa.eu/project/id/952215., y sitúen la cuestión ética de manera muy clara en la agenda de los próximos años (Sierra, 2020aSierra, Carles (2020a). En: Daniel López (coord.). Convivir con robots. Segunda sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/Q3Ehhrrhbc8 ).
Dicho esto, la cuestión sobre cómo se debería abordar la cuestión ética en la investigación implica también ciertas polémicas. Por un lado, las loas a la interdisciplinariedad son habituales en prácticamente todas las voces consultadas, pero no ocurre lo mismo cuando se les pregunta por la efectividad. Por otro lado, se presenta el peligro de
«simplify, oversimplify... to flatten what ethics means. Ethics has to remain a question and the temptation, as soon as you move to law, but even more when you move to computer science, is to turn ethics into an answer [simplificar demasiado el significado de la ética. La ética tiene que seguir siendo una pregunta, pero la tentación, en cuanto te mueves al derecho y más aún cuando pasas a la informática, es convertir a la ética en una respuesta]» (Delacroix, 2020Delacroix, Sylvie (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U )18Sylvie Delacroix es Profesora de Derecho y Ética en la Universidad de Birmingham (Reino Unido). .
En síntesis, lo que se pretende mostrar, es que son múltiples los factores que conforman la panorámica general de la robótica interactiva. Por un lado, no podemos pensarla sin la inteligencia artificial y sin los datos que la alimentan. Por otro, la reflexión inter o multidisciplinar, vertebrada por una cuestión ética, resulta inseparable de la exposición. El dilema está entre definir un marco muy concreto de reflexión, con las particularidades de la robótica de interacción en entornos específicos19Por ejemplo, el cuidado, la asistencia, la educación, etc., o ampliar la discusión en aras de no perder de vista el panorama general20Para más detalles sobre esta cuestión, ver el debate planteado en la tercera sesión de la Noche Europea de los Investigadores: https://youtu.be/00cKofLyhRY . Para la cuestión que aquí nos ocupa, hemos optado por la segunda.
3. SENTIR
⌅La pregunta con la que decidimos comenzar cada entrevista hacía referencia a cómo habían llegado a trabajar en el campo de la robótica. Dado el enfoque del documento y la riqueza en la variedad de respuestas, este puede ser un buen punto para introducir un componente emocional latente, precisamente, en el recuerdo del comienzo de sus trayectorias profesionales21Aunque esta pregunta fue realizada también en las entrevistas para el documental, dado que esta parte no llegó a formar parte del montaje final, primamos los comentarios realizados en la Noche Europea de los Investigadores.. López de Mántaras (2020a)López de Mántaras, Ramón (2020a). En: Mario Toboso (coord.). Convivir con robots. Primera sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/6A28YP76HLA , por ejemplo, cuenta el impacto que le supuso ver en directo la llegada de Neil Armstrong a la luna y descubrir, según le contó su profesor de física, que todo fue gracias a la electrónica. Así, se decantó por dicha ingeniería; luego llegó a la automática y después, el paso a la robótica resultó natural. Concha Monje (2020b)Monje, Concha (2020b). En: Mario Toboso (coord.). Convivir con robots. Primera sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/6A28YP76HLA reivindica la experiencia tan enriquecedora que implica una ciencia tan multidisciplinar como lo es la robótica; pone como ejemplo el cambio paradigmático que implica el paso desde los metales a la robótica blanda. Pablo Lanillos (2020b)Lanillos, Pabl. (2020b). En: Mario Toboso (coord.). Convivir con robots. Primera sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/6A28YP76HLA entiende la robótica como una disciplina que puede ayudar a comprendernos mejor a nosotros mismos, saber cómo funcionamos. En este sentido, recuerda dos experiencias significativas: la impresión que le generó ver los laboratorios que tenían montados en el Massachusetts Institute of Technology (MIT) cuando estuvo de estancia en el centro; y la experiencia «cuasi religiosa» vivida en un curso en Múnich sobre el cerebro, al ser consciente de «cuán lejos estamos de entender cómo funciona el cerebro humano y de tener realmente máquinas inteligentes» (Lanillos, 2020bLanillos, Pabl. (2020b). En: Mario Toboso (coord.). Convivir con robots. Primera sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/6A28YP76HLA ).
Por otro lado, Andoni Alonso (2020)Alonso, Andoni (2020). En: Txetxu Ausín (coord.). Convivir con robots. Tercera sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/00cKofLyhRY 22Andoni Alonso es Catedrático de Filosofía de la Tecnología en la Facultad de Trabajo Social de la Universidad Complutense de Madrid (España). menciona que, si bien llegó a la filosofía a través de Wittgenstein y fascinado por la cuestión del lenguaje, cuando comenzó su tesis a principios de los años 90, ya se hablaba de internet, de realidad virtual, se extendían las TICs y aparecían los primeros navegadores. En ese momento lo que más le marcó fue el Software Libre, del que era entusiasta y activista, pues veía en él una posibilidad de reforma social a través de la tecnología. Sin embargo, considera que este ha sido devorado por las grandes tecnológicas y, en tanto que la tecnología es una forma más de cultura, aboga en la actualidad por la necesidad de una verdadera crítica de la tecnología. Finalmente, Remedios Zafra (2020)Zafra, Remedios (2020). En: Mario Toboso (coord.). Convivir con robots. Primera sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/6A28YP76HLA 23Remedios Zafra es Científica Titular en el Instituto de Filosofía del Consejo Superior de Investigaciones Científicas (Madrid, España). habla de su ambivalente relación personal y profesional con la tecnología. Por un lado, hace referencia a aquellos pequeños robots de su día a día que le ayudan a suplir mermas en los sentidos. Si bien su formación en antropología, arte y filosofía se orienta al estudio crítico de la cultura contemporánea, nos comenta que en la adolescencia su formación estuvo muy orientada a lo científico, llegando incluso a empezar la ingeniería de telecomunicaciones, y que se siente identificada con muchas de las referencias que se hacen en el documental con perspectiva de género. En este sentido, comenta que en el año 1991 de doscientos alumnos solo dos mujeres cursaban dicha ingeniería. Por eso se pregunta por ese componente inefable que crea expectativas y que tiene que ver con las decisiones calladas de las mujeres que los distintos imaginarios han orientado desde niñas.
Precisamente, tanto los imaginarios como las expectativas juegan un papel importante en la percepción pública de lo que es la robótica. Por ejemplo, Arantxa Rentería (2020)Rentería, Arantxa (2020). En: Txetxu Ausín (coord.). Convivir con robots. Tercera sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/00cKofLyhRY apunta a cómo las campañas de publicidad distorsionan nuestras percepciones acerca de la misma. Poniendo como ejemplo al robot Da Vinci, comenta que mucha gente cree que es este el que opera, cuando realmente no es más que una máquina teleoperada que se vende como tal. En este sentido, la ciencia ficción también ha jugado un papel relevante. Guillem Alenyà (2019)Alenyà, Guillem (2019). Entrevista personal realizada el 22 de octubre. Barcelona, España.24Guillem Alenyà es Científico Titular y Director del Instituto de Robótica e Informática Industrial del Consejo Superior de Investigaciones Científicas (Barcelona, España). afirma que, si bien esta ha generado una serie de esperanzas o expectativas que la técnica no ha podido cumplir, también ha sido un punto de inspiración, una forma de volcar inquietudes y anhelos. Tanto es así que Carme Torras25Carme Torras es Profesora de Investigación del Instituto de Robótica e Informática Industrial del Consejo Superior de Investigaciones Científicas (Barcelona, España). utiliza la ciencia ficción26Por ejemplo, su novela La mutación sentimental ha sido publicada en MIT Press [The Vestigial Heart] junto a materiales didácticos. en la enseñanza para «ejemplificar situaciones que pongan de manifiesto estos dilemas éticos que surgen, o estos riesgos en los que puede desembocar la tecnología» (Carme Torras, 2019Torras, Carme (2019). Entrevista personal realizada el 22 de octubre. Barcelona, España.). Tal y como señala, ante la ausencia de formación humanística en las ingenierías, es más fácil introducir reflexiones éticas a través de relatos que a través de textos más abstractos. Tomando como ejemplo las Tres Leyes de la Robótica de Isaac Asimov incluidas en el relato corto titulado Runaround publicado en 1942, Sabine Roeser (2019)Roeser, Sabine (2019). Entrevista personal realizada el 4 de noviembre. Delft, Holanda.27Sabine Roeser es Profesora de Ética y Directora del Departamento de Valores, Tecnología e Innovación en la Universidad Tecnológica de Delft (Holanda). comenta que, si bien estas todavía no pueden aplicarse en un laboratorio, sí permiten adelantarnos al suceso. Así, las artes resultan imprescindibles para la reflexión en tanto que permiten pensar y sentir escenarios futuros que los científicos todavía no pueden imaginar. En este sentido, afirma que, a pesar de que el rol de las emociones se asocia tradicionalmente a lo irracional o subjetivo, por el contrario, estas tienen un aspecto cognitivo fundamental para la racionalidad práctica y la toma de decisiones éticas. En la misma línea, Astrid Wagner (2020)Wagner, Astrid (2020) En: Daniel López (coord.). Convivir con robots. Segunda sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/Q3Ehhrrhbc8 28Astrid Wagner es Científica Titular en el Instituto de Filosofía del Consejo Superior de Investigaciones Científicas (Madrid, España). menciona las limitaciones de los planteamientos dualistas que olvidan el vínculo existente entre mente y cuerpo o emoción y cognición. No podemos entender a un robot como un agente moral si no tiene emociones, si no puede empatizar, si no puede ponerse en el lugar del otro.
Respecto a la conceptualización de la emoción, Jordi Vallverdú29Jordi Vallverdú es Profesor Titular de Filosofía e Historia de la Ciencia y de la Computación en la Universidad Autónoma de Barcelona (España). explica que esta es
«un sistema neuroquímico que sirve para dar sentido y etiquetar sucesos. También es un tipo de disposición estructural del cuerpo hacia ciertas relaciones con el mundo. (...) Las emociones lo que hacen es una estructura de apertura hacia el mundo para interactuar» (Vallverdú, 2020Vallverdú, Jordi (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ).
Si bien todavía se sigue jugando a nivel ingenieril o comercial con esta idea, lo que hay son sistemas que reaccionan a nuestras expresiones faciales, como ya hacía en los años noventa el robot Kismet desarrollado en el MIT. Sin embargo, «el robot no siente, sentir es un proceso químico mucho más complejo» (Vallverdú, 2020Vallverdú, Jordi (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ). Ahora bien, dada la sofisticación lograda en los últimos años, no se puede despreciar su capacidad de simularlas. Como comenta Andrea Bertolini30Andrea Bertolini es Profesor en la Universidad de Pisa (Italia) y Director del Centro Europeo de Excelencia en la Regulación de la Robótica y la IA (EURA)., las máquinas
«can pretend to be intelligent, pretend to have feelings, emotions and even pretend to develop an emotional attachment to human beings. On the other hand, humans are very prone to humanizing objects they interact with on a daily basis [pueden parecer inteligentes, aparentar tener sentimientos, fingir un apego emocional con los seres humanos. Por otro lado, somos muy propensos a humanizar los objetos con los que interactuamos en el día a día]» (Bertolini, 2020Bertolini, Andrea (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ).
Precisamente, esto se debe a que para que haya una interacción real entre un humano y un robot, es necesario que este entienda lo que le estamos pidiendo; es decir, debe ser capaz de interpretar el lenguaje, los gestos, el habla (Chatila, 2020Chatila, Raja (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ), las expresiones faciales de la emoción, los afectos e incluso cómo estos elementos se manifiestan por la proxemia (Monasterio, 2020Monasterio Astobiza, Aníbal (2020b). En: Daniel López (coord.). Convivir con robots. Segunda sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/Q3Ehhrrhbc8 ). Más aún, volviendo a la ética en los sistemas artificiales, se necesita que «los robots respeten los valores que los humanos compartimos en un cierto contexto, para lo cual es muy importante el elemento de la emoción en tanto que puede alterar dichos valores» (Sierra, 2020aSierra, Carles (2020a). En: Daniel López (coord.). Convivir con robots. Segunda sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/Q3Ehhrrhbc8 ). Así, se plantea un debate entre valores, normas y emociones, al que los ingenieros están intentando dar forma; pero para ello necesitan de la ayuda de la filosofía y del derecho.
En este punto, la respuesta a la pregunta de cómo articular una robótica interactiva ética comienza por la percepción, a través de sensores, de esta multiplicidad de factores. Al introducir su tema de investigación, Pablo Lanillos señala que la retina humana cuenta con 96 millones de fotorreceptores mientras que la punta del dedo con tres mil receptores táctiles, para que nos hagamos una idea de «la cantidad de datos que utilizamos para saber dónde estamos en el mundo y cómo realizar una acción» (Lanillos, 2020aLanillos, Pablo (2020a). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ). Tal y como continúa, dado que ahora estamos en un momento en el que los algoritmos nos permiten integrar este tipo de datos en los robots, a nivel de raciocinio e interacción, podemos comenzar a pensar en que estos hagan cosas parecidas a las que hacemos los humanos.
4. PENSAR
⌅Cuando pasamos de los datos a la racionalidad, nos encontramos con una problemática identificada en muchas de las entrevistas. Como comenta Guillem Alenyà (2020a)Alenyà, Guillem (2020a). En: Txetxu Ausín (coord.). Convivir con robots. Tercera sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/00cKofLyhRY , la tecnología actual, ya no es tanto de ingenieros en tanto que construcción de reglas y conocimiento, sino que se ha pasado a una forma de hacer en la que se recogen una gran cantidad de datos y se pretende encontrar patrones entre ellos. Estos datos pueden estar sesgados, por lo que ya no solo es una cuestión de diseñar sin sesgos, sino también de actuar como detectives buscando ese sesgo en los datos. López de Mántaras (2019)López de Mántaras, Ramón (2019). Entrevista personal realizada el 22 de octubre. Barcelona, España. ilustra este paso con la transición desde los sistemas expertos, en los que la inteligencia artificial se basaba, sobre todo, en representar conocimientos y hacer inferencias a partir de los mismos. Hemos pasado de una inteligencia artificial que ponía el conocimiento en el centro, a una inteligencia artificial basada en datos. Sin embargo, remarca que el dato es anterior al conocimiento, el cual debemos interpretar y entender para llegar a él. Ahora, analizamos con técnicas estadísticas muy sofisticadas dichos datos para detectar patrones. Si bien se han logrado resultados muy relevantes a partir del deep learning, le preocupa que la semántica haya pasado a un segundo plano. En esta misma línea, Carme Torras afirma que
«los algoritmos de deep learning para ciertas cosas perceptivas funcionan muy bien porque, con muchísimos datos, se puede obtener asociación rápidamente. Pero hay que ligarlos a sistemas de razonamiento más simbólico para poder explicar por qué toma determinadas decisiones o incluso ir un poco más allá, encadenar distintos procedimientos para conseguir realizar una tarea más complicada» (Torras, 2020Torras, Carme (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ).
Volviendo a los robots, estos constan de lo físico, los sensores, los actuadores, el chasis, pero también de una inteligencia artificial que es la que les permite afrontar situaciones imprevistas, para las que no fueron programados pero que les permiten generalizar los datos y la información recabada por los sensores para tomar una decisión (Alenyà, 2020bAlenyà, Guillem (2020b). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ). Ahora bien, la inteligencia artificial dominante en la actualidad, basada en la identificación de patrones a partir de datos, no sirve demasiado para la visión general, pues «necesitamos robots que sepan explicar por qué toman decisiones» (Alenyà, 2020bAlenyà, Guillem (2020b). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ). Raja Chatila (2020)Chatila, Raja (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U explica que este proceso de aprendizaje a partir de miles de millones de parámetros suele ser una caja negra por diseño. Si bien obtenemos una respuesta a partir de la optimización del objetivo y del proceso indicado, no sabemos por qué nos ha dado ese resultado. Por lo tanto, si queremos continuar con el desarrollo de este tipo de sistemas, si queremos usarlos, debemos ser capaces de confiar en ellos. Así, el tema de la total explicabilidad se ha convertido en uno de los más importantes de la inteligencia artificial y, en consecuencia, de la robótica interactiva. Si bien el primer paso sería saber ese porqué, la explicación a su vez tiene que ser en términos comprensibles para nosotros, no puede ser un pedazo de código o una matriz enorme de números (López de Mántaras, 2019López de Mántaras, Ramón (2019). Entrevista personal realizada el 22 de octubre. Barcelona, España.). Tiene que ser «capaz de construir un storytelling, una historia que permita que un humano entienda por qué este patrón es tal cosa» (Sierra, 2020bSierra, Carles (2020b). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ).
Volvamos, entonces, al concepto de inteligencia que subyace a los sistemas robóticos. De acuerdo con Carles Sierra:
«El mundo de la inteligencia se ha singularizado en diferentes capacidades de los humanos. Razonar, aprender, interpretar, entender... Hay muchas capacidades en nuestras inteligencias que han derivado en áreas específicas o nichos donde los investigadores han intentado reproducir en máquinas esas mismas capacidades. No hacerlas de la misma manera, sino resolver los problemas a los que se enfrentan los humanos con esas capacidades» (Sierra, 2020bSierra, Carles (2020b). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ).
Así, Mario Toboso (2020)Toboso, Mario (2020). En: Mario Toboso (coord.). Convivir con robots. Primera sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/6A28YP76HLA 31Mario Toboso es Científico Títular en el Instituto de Filosofía del Consejo Superior de Investigaciones Científicas (Madrid, España). plantea que las investigaciones y el desarrollo de la inteligencia artificial se han orientado principalmente en una dirección, del humano al robot: cómo transmitir cualidades humanas a ámbitos artificiales. Pero, ¿en qué sentido la robótica y la inteligencia artificial nos pueden enseñar cosas sobre nuestra forma de razonar, de aprender, de percibir o de tomar decisiones? Respecto a esta cuestión, López de Mántaras (2020a)López de Mántaras, Ramón (2020a). En: Mario Toboso (coord.). Convivir con robots. Primera sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/6A28YP76HLA comenta que esta aproximación bidireccional más cognitivista, si bien estuvo muy activa entre los años 60 y 80 del siglo XX a través de una discusión multidisciplinar sobre arquitecturas cognitivas en las que tanto la filosofía, como la antropología y la psicología estaban presentes, en la actualidad se ha ido difuminando y pasando a un segundo plano. De ahí, que López de Mántaras mantenga una posición crítica hacia esta inteligencia artificial basada en datos cuando esta solo se basa en una lógica matemática en la que no se tienen en cuenta otras cuestiones, como el cuerpo.
Un agente artificial necesita de un cuerpo, pues no basta con descripciones abstractas y codificadas del entorno, ni con billones de datos, pues,
«En ausencia de un cuerpo, ni las representaciones abstractas de la inteligencia artificial simbólica ni el estado interno de la red neuronal profunda pueden tener ningún contenido semántico en absoluto. (...) Yo estoy de acuerdo con Dreyfus, el famoso filósofo de California, Berkeley, que fue uno de los primeros en abogar por asociar la inteligencia a un cuerpo capaz de interactuar con el mundo. La idea es que la inteligencia de los seres vivos deriva del hecho de estar situados en un ambiente con el que puedan interaccionar, socializando con otros seres vivos. La dimensión social es absolutamente fundamental. No vamos a poder ir a una inteligencia artificial de verdad, porque lo que tenemos ahora no es inteligente en absoluto, si no pasamos por un cuerpo, por el contenido semántico de las interacciones y la interpretación de lo que está pasando, sino también por avances en sistemas multiagente que van a permitir esta dimensión social de la inteligencia» (López de Mántaras, 2020b).
Como comenta Carles Sierra (2020)Sierra, Carles (2020a). En: Daniel López (coord.). Convivir con robots. Segunda sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/Q3Ehhrrhbc8 , «la inteligencia artificial será colectiva o no será». Por lo tanto, la cuestión adquiere una dimensión aún mayor, que nos invita a pensar no solo en lo individual, sino también en lo social. Si bien se han ilustrado las limitaciones, eso no significa que no hayamos empezado a delegar ya decisiones en este tipo de sistemas. Guillem Alenyà (2020a)Alenyà, Guillem (2020a). En: Txetxu Ausín (coord.). Convivir con robots. Tercera sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/00cKofLyhRY lo expresa de la siguiente manera: «pusimos los móviles en las manos de nuestros hijos, cerramos los ojos y dijimos espero que todo vaya bien». El peligro, tal y como nos comenta Sylvie Delacroix (2019)Delacroix, Sylvie (2019). Entrevista personal realizada el 30 de octubre. París, Francia., es que asumamos que estos sistemas estarán mucho mejor informados que nosotros, que tomarán mejores decisiones, más racionales, menos sesgadas, y vivamos una suerte de delegación de la responsabilidad normativa que nos pueda hacer menos capaces de conectar con el mundo en vez de mejorar nuestra vida.
Así, se introduce una componente social o, si se quiere, sistémica sobre la tecnología y la deliberación pública acerca de la misma. Como explica Mark Coeckelbergh, si bien hay muchos nexos entre las cuestiones tecnológicas y sociales, es necesario reivindicar y pensar ese vínculo entre la tecnología y la política, el tipo de necesidades y soluciones que se están creando, e incluso el problema de «la idea de que toda esta tecnología es una solución en sí misma» (Coeckelbergh, 2020Coeckelbergh, Mark (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ). Es aquí donde entra la problemática idea de la innovación, que desde hace tiempo ha sustituido «la idea ilustrada de progreso, de que avanzaremos a una sociedad equilibrada, libre, justa» (Alonso, 2019Alonso, Andoni (2019). Entrevista personal realizada el 7 de octubre. Madrid, España. ). En esta misma línea, Langdom Winner (2019) comenta que, especialmente en nuestra época, la innovación funciona como un mito o un colorido ritual que asume que esta es buena en sí misma. Así, a pesar de que la innovación es una creación destructiva, «nos centramos solo en la primera parte, en la creación, y la destrucción nos parece estupenda y maravillosa» (Alonso, 2019Alonso, Andoni (2019). Entrevista personal realizada el 7 de octubre. Madrid, España. ), dejando en un segundo plano las consecuencias de las disrupciones que provoca. Por ello Langdom Winner (2019) aboga por recuperar ese espíritu activista presente en los estudios sobre Ciencia, Tecnología y Sociedad (CTS), que no se dedicaba solo a producir teorías, conceptos y marcos, sino que se preocupaba sobre todo por articular esta dimensión dentro de las democracias modernas. Partiendo de la base de que sabemos que estas tecnologías modifican la composición y el funcionamiento de nuestras sociedades, necesitamos incorporar procesos democráticos de participación, voto e investigación para tomar decisiones públicas inteligentes en lo que respecta a su desarrollo e implantación.
5. ACTUAR
⌅Como respuesta al escenario previamente descrito, Amparo Grau considera que es muy relevante la labor que realiza la Comisión Europea «impulsando proyectos en toda Europa para que los investigadores reflexionen sobre cómo, de manera transversal, podemos regular los avances tecnológicos en beneficio de la sociedad» (Grau, 2020aGrau, Amparo (2020a). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ). En este sentido, remarca la importancia del paradigma de investigación e innovación socialmente responsable32Para más información sobre este paradigma, ver https://rri-tools.eu/ que caracteriza la línea europea y, además, la necesidad de reforzar la comunicación y el entendimiento entre las diferentes partes implicadas para que la retroalimentación sea capaz de llegar al mismo proceso de diseño y producción (Grau, 2019). Así, el enfoque ético -y el propio papel, por ejemplo, de la filosofía-, debería consistir en superar la visión crítica a posteriori y tratar de introducir esta forma de razonamiento desde los desarrollos iniciales (Roeser, 2020Roeser, Sabine (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ). Por lo tanto, a la hora de pensar en cualquier tipo de intervención, no solo hay que buscar en el sistema legal, sino también tener en cuenta las complejas consideraciones ético-jurídicas y entender el propio desarrollo de la tecnología, de forma que «un enfoque multidisciplinar es el único enfoque posible» (Bertolini, 2020Bertolini, Andrea (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ).
Todos los discursos comparten esta convicción respecto a la necesidad de una aproximación plural, sin embargo, los testimonios apuntan también a que todavía hay mucho trabajo que hacer para que esta sea efectiva. Si bien la robótica en sí misma es una disciplina multidisciplinar donde matemáticos, físicos, ingenieros electrónicos y programadores trabajan en equipo, las diferencias metodológicas con respecto a las ciencias sociales y las humanidades plantean mayores dificultades. Por un lado, nos encontramos con una formación absolutamente técnica y especializada en las disciplinas técnicas (Torras, 2020aTorras, Carme (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ) y, por otro, con una falta de familiaridad con la lógica tecnocientífica por parte de las humanidades y las ciencias sociales (Mayer, 2020), que suelen mantener cierta distancia y limitarse a describir, mientras que lo necesario es hacer un esfuerzo por colaborar, lo cual no implica renunciar a una perspectiva crítica (Östlund, 2020Östlund, Britt (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ). Andoni Alonso (2020)Alonso, Andoni (2020). En: Txetxu Ausín (coord.). Convivir con robots. Tercera sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/00cKofLyhRY plantea el mismo tema de otra forma, al cuestionar el motivo que ha llevado a que la ética pueda ser concebida como algo sectorial dentro de un grupo de investigación. Como comenta «yo no tengo ni idea de mecatrónica, pero si pensamos que alguien en esta sala no tiene idea de lo que es lo bueno y lo malo, pensaríamos que es un psicópata» (Alonso, 2020Alonso, Andoni (2020). En: Txetxu Ausín (coord.). Convivir con robots. Tercera sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/00cKofLyhRY ). Así, apunta al problema de la superespecialización. Si bien Guillem Alenyà comparte esta preocupación, haciendo referencia incluso a las dificultades de muchos de sus estudiantes para poner sobre papel dos ideas con cierta coherencia, ve necesaria y beneficiosa la colaboración entre disciplinas ante la amplitud de los problemas y la complejidad de la ciencia que tenemos hoy en día (Alenyà, 2020Alenyà, Guillem (2020a). En: Txetxu Ausín (coord.). Convivir con robots. Tercera sesión de la Undécima Edición de la Noche Europea de los Investigadores de Madrid. Disponible en https://youtu.be/00cKofLyhRY ).
Como condición necesaria de este trabajo multidisciplinar, Andrea Bertolini reivindica la necesidad de desarrollar un lenguaje común; y lo ilustra a través del concepto de autonomía:
«(...) cuando un ingeniero habla de autonomía, se refiere principalmente a la automatización. Cuando un filósofo habla de autonomía, esta palabra tiene un significado muy diferente que tiene que ver con la libertad de autodeterminación. Cuando un abogado habla de autonomía y de la capacidad de suscribir un contrato, también puede referirse a algo completamente diferente pues, incluso una persona jurídica que no sea una persona física puede firmar legítimamente un contrato, y decir que una entidad legal es una persona jurídica no implica reconocerla como un ser vivo. Por lo tanto, si un abogado, un ingeniero y un filósofo que no tienen conocimientos sobre el área de cada uno hablan entre ellos, puede haber muchos malentendidos y las conclusiones a las que lleguen pueden ser absoluta y radicalmente incorrectas» (Bertolini, 2020Bertolini, Andrea (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ).
Hasta ahora, en este apartado dedicado a la acción, se han presentado cuestiones fundamentales relativas, primero, a la importancia de la gobernanza, esto es, a quién se debería implicar en la toma de decisiones y, segundo, a las condiciones de posibilidad de una comunicación efectiva entre disciplinas.
Es el momento de introducir la perspectiva agencial de las propias tecnologías pues, precisamente, refleja bien esta cuestión de la autonomía. De acuerdo con Mavi Sánchez-Vives (2020)33Mavi Sánchez-Vives es Profesora de Investigación ICREA en Neurociencias en el Instituto de Investigaciones Biomédicas August Pi i Sunyer (Barcelona, España). «la agencia es la sensación de control de que uno es el dueño de una acción». También se puede entender como la capacidad de reconocer nuestro efecto en el mundo, una capacidad que los robots todavía no tienen (Lanillos, 2020aLanillos, Pablo (2020a). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ). Si bien, como comenta David Abbink (2020)Abbink, David (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U , podemos afirmar que los robots no tienen moralidad ni conciencia de sí mismos, sí que tienen comportamiento, es decir, actúan, realizan una acción en el mundo que hay que coordinar debido a su impacto sistémico. Esto, como veremos a continuación, plantea un reto fundamental a la hora de conceptuar éticamente el proceso de toma de decisiones.
De acuerdo con Amparo Grau, cuando se vislumbran los riesgos y las oportunidades de lo que se ha venido llamando cuarta revolución industrial, nos encontramos ante el reto de incentivar una innovación responsable y regular allí donde sea necesario; a veces contamos con normas pensadas en otros contextos históricos que se ven constantemente superadas (Grau, 2020bGrau, Amparo (2020b). Entrevista personal realizada el 17 de enero. Madrid, España.). En este sentido, apunta que
«el Derecho se tiene que adaptar a microdirectivas y a no a leyes generales, lo cual está suponiendo cambios en la fisonomía del propio Derecho: no es que el Derecho se adapte a regular una situación externa, es que el propio Derecho está cambiando» (Grau, 2020bGrau, Amparo (2020b). Entrevista personal realizada el 17 de enero. Madrid, España.).
Así, llegamos a la cuestión de si el Derecho debería estar inserto en el código de las propias máquinas. Cómo implementar normas que influyan en la manera en la que los sistemas sociotécnicos funcionen, empieza a ser relevante en el mundo de la inteligencia artificial, y es precisamente una de las líneas de trabajo de Carles Sierra (2020b)Sierra, Carles (2020b). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U . Esto, que tiene su origen en los intentos de formalizar analíticamente la lógica jurídica de los sistemas legales, en la actualidad se está planteando junto con la necesidad de alinear los valores que guían la acción, por ejemplo, de los robots, con los valores de las sociedades en los que estos tienen que interactuar. Este es uno de los mayores retos técnicos y éticos de la implantación de la robótica interactiva. Como afirma Sylvie Delacroix (2019)Delacroix, Sylvie (2019). Entrevista personal realizada el 30 de octubre. París, Francia., a menos que nos tomemos en serio la cuestión de cómo los humanos cambiamos de posición respecto de lo que está bien y lo que está mal, no podremos tomar decisiones mediadas por sistemas artificiales que se mantengan acompasadas con nuestras preferencias éticas. Es más, argumenta que si bien es necesaria una respuesta oficial a la pregunta ética, como podrían ser las normas jurídicas, el peligro sería, precisamente, convertir a la ética en una respuesta fija implementada en un código (Delacroix, 2020Delacroix, Sylvie (2020). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U ).
Carles Sierra (2020b)Sierra, Carles (2020b). En: Daniel López, Mario García (dirs.). Los robots salen de las fábricas. Disponible en https://youtu.be/h0QjNC8XQ1U considera que el enfoque consecuencialista es el más apropiado para pensar en la toma de decisiones éticas en inteligencia artificial, pues el sistema debe ser capaz de saber si las consecuencias de la acción realizada son compatibles con los valores y consensos sociales de la comunidad. En este sentido, Carles Sierra aboga por una aproximación no universal y basada en comunidades o grupos, donde las normas, los valores y, en consecuencia, la interpretación de las emociones de las personas que integran dichas comunidades, pasan a ser una condición de posibilidad de su propio diseño.
6. ROBÓTICA INTERACTIVA, UNA CONCLUSIÓN
⌅Hasta aquí una cartografía de los principales retos éticos y tecnocientíficos que rodean a la robótica interactiva a través de las voces reunidas en el documental Los robots salen de las fábricas. Con este material he descrito el salto cualitativo que implica la transición desde la robótica industrial, basada en sistemas cerrados y predecibles, hacia la robótica interactiva, que opera en entornos abiertos, complejos e impredecibles y donde el componente humano pasa a situarse en el centro del diseño. De esta forma la inteligencia artificial, basada en datos, se convierte en un elemento habitual en tanto que se precisan modelos dinámicos de la realidad. El rápido avance de estas tecnologías y su incorporación inevitable, progresiva y paulatina a la vida social, despierta una serie de interrogantes de gran calado. Ya hemos visto que, al menos narrativamente, China parte de un modelo impulsado por el Estado y dirigido al control social; Estados Unidos de un modelo impulsado por el mercado y orientado a la búsqueda de beneficio; y que Europa toma una tercera vía que pone a la ética y al ser humano en el centro como única alternativa democráticamente sostenible a largo plazo. Por ello, una primera conclusión podría ser que el panorama general que rodea la robótica interactiva es amplio, multidisciplinar y político. Para cartografiarlo, se ha hecho uso de una metáfora muy utilizada en la divulgación en robótica, que equipara al ser humano con el robot en tanto que ambos sienten, piensan y actúan.
En cuanto al sentir, y partiendo de la motivación que ha llevado a algunos a trabajar cuestiones relacionadas con la robótica, se ha mostrado la problemática que plantean las expectativas y los imaginarios creados en torno a esta tecnología. Por un lado, las campañas publicitarias y comunicativas distorsionan nuestras percepciones. Por otro, si bien la ciencia ficción ha podido crear un exceso de expectativas, también resulta de suma utilidad tanto para volcar inquietudes y anhelos como para introducir reflexiones éticas. En términos epistémicos, es importante superar el enfoque dualista entre emoción y cognición. Si bien parece claro que un robot no puede sentir, su capacidad de simular sentimientos y de identificarlos e interpretarlos a través de sensores, explica que pueda tener lugar una interacción efectiva.
Con respecto al pensar, hemos visto cómo la inteligencia artificial basada en datos, dominante en la actualidad, ha dejado en un segundo plano las cuestiones más relacionadas con el conocimiento. Esto, en el caso de la interacción humano-máquina, supone un problema, dado que para que esta sea efectiva es preciso que el robot sea capaz de dar una explicación comprensible para el humano de por qué ha tomado una decisión; y esto no siempre es posible. Así, la total explicabilidad se convierte en uno de los retos más acuciantes. En lo que respecta a la posibilidad de crear inteligencia, es necesario superar el dualismo entre mente y cuerpo y avanzar en la dimensión social del conocimiento. Finalmente, se ha reabierto una deliberación pública en relación al desarrollo e implantación de estas tecnologías. En tanto que se parte de la base de que transforman la composición y el funcionamiento de la sociedad, se aboga por la incorporación de nuevas dimensiones democráticas.
Por último, en lo relativo a la acción, la intervención legislativa y el paradigma europeo de investigación e innovación responsable son hasta ahora las vías para superar las externalidades negativas de la creación destructiva que pueda generar la robótica interactiva. Aquí, el enfoque multidisciplinar no sólo es una posibilidad, sino que es la única respuesta posible. Sin embargo, hemos visto como las experiencias de los investigadores apuntan a que aún hay mucho trabajo que hacer para que esto sea realmente efectivo. Si bien el trabajo plural es consustancial a la investigación en robótica dentro del paradigma tecnocientífico, las distancias metodológicas, teleológicas e incluso comunicativas con respecto a las ciencias sociales y a las humanidades son considerables, y se ven agravadas por la tendencia creciente a una especialización cada vez mayor de las disciplinas. Además, resulta preciso introducir la perspectiva agencial de las propias tecnologías. Si bien los sistemas artificiales no tienen moralidad ni conciencia de sí mismos, su capacidad de actuar en el mundo es cada vez mayor. Para ello, es necesario coordinar y modular el impacto sistémico de su implantación mediante la codificación de normas y valores, lo que va a ser uno de los retos más desafiantes de la robótica interactiva.