En este apartado se presentan los componentes más relevantes del objeto de estudio. Empezamos por el título del documental: Los robots salen de las fábricas. Pensar la robótica interactiva es pensar en un salir de las fábricas que opera en un doble sentido. Por un lado, podemos pensar en su incorporación en la vida social, progresiva y paulatina pero, a su vez, aparentemente inevitable. Por otro lado, se encierra en ella la clave de lo que aquí nos ocupa, ese paso desde la robótica industrial, donde los robots operan, tradicionalmente enjaulados, en fábricas entendidas como sistemas cerrados y predecibles, hacia la robótica interactiva. Tal y como ilustra Francesco Ferro ⁵ (2020), los brazos robóticos de toda la vida operaban enjaulados porque eran peligrosos. Por ejemplo, si pasaba alguien y se interponía en su camino, el robot seguía intentando cumplir su objetivo a menos que fuera desconectado. Sin embargo, un brazo robótico cooperativo o colaborativo ⁶ , paradigma de la robótica interactiva, es capaz de percibir el entorno y reaccionar en consecuencia para evitar un perjuicio. Esta transición implica un salto a otro mundo, el nuestro, complejo, caótico, impredecible, pone al factor humano en el centro y amplía el alcance de la investigación desde los sensores, la cognición y los actuadores, a su impacto sistémico centrado en la interacción (Abbink, 2020) ⁷ .

El robot interactivo debe entonces tener la capacidad de interpretar los gestos, las expresiones faciales de la emoción, en definitiva, la conducta no verbal (Monasterio, 2020a) ⁸ . Además, el factor humano incorpora el error, mientras que «(...) a los robots ahora se les obliga a ser precisos, exactos. Necesitamos robots que para interactuar con personas sean capaces de trabajar con ese error» (Lanillos, 2020a) ⁹ . Si en 2005 tener un robot era sobre todo mecánica, motores, electrónica, en definitiva, la entidad mecatrónica,

En este sentido, nos encontramos con una relación o, si se quiere, una evolución desde la electrónica digital, la cibernética ¹¹ , la automática, la robótica hasta la inteligencia artificial. Esta última, tras haber pasado periodos de escasa financiación debido a que no se cumplían las expectativas generadas, se encuentra ahora en una fase álgida, la del aprendizaje profundo o deep learning que consiste en el análisis, con ordenadores con gran capacidad de cómputo, de extensas bases de datos en búsqueda de patrones (López de Mántaras, 2019) ¹² . Así, tanto la inteligencia artificial como los datos han pasado a ser parte indisoluble de los desarrollos en robótica interactiva. Pero, entonces, ¿qué es un robot?

La razón por la cual hablamos tanto de robótica e inteligencia artificial en la actualidad es porque estas tecnologías están avanzando a gran velocidad y haciéndose cada vez más eficientes en automatizar tareas que los humanos solemos hacer (Chatila, 2020). Cuanto mayor es este avance, más importante es pensar qué queremos hacer con la tecnología y con los problemas que plantea en relación a la privacidad, la responsabilidad, la pérdida de empleos, e incluso preguntarnos sobre el significado del trabajo y el de nuestras propias vidas (Coeckelbergh, 2020) ¹⁴ . Es aquí donde narrativamente se plantea un modelo europeo de investigación, como oposición al modelo chino y al modelo estadounidense. Para Emmanuel Macron (2019) ¹⁵ el modelo chino es cada vez más eficiente, gracias a una fuerte inversión estatal, pero con elecciones éticas subyacentes incompatibles con las sociedades occidentales. Por otro lado, el modelo estadounidense, liderado por el mercado y muy efectivo pero basado en el mantra de la innovación, es incapaz de abordar incentivos no económicos y da lugar a monopolios de facto que generan desigualdades y destruyen el contrato social. Frente a estos enfoques, Europa plantea un modelo situado entre la innovación, una regulación basada en la evidencia y los derechos humanos; en definitiva, esta tercera vía europea, sería la única aproximación democráticamente sostenible en el largo plazo.

No es casual que dos de las mayores redes europeas de investigación en inteligencia artificial tengan como elemento central de su estudio el factor humano: Humane AI ¹⁶ y Trustworthy AI ¹⁷ , y sitúen la cuestión ética de manera muy clara en la agenda de los próximos años (Sierra, 2020a).

Dicho esto, la cuestión sobre cómo se debería abordar la cuestión ética en la investigación implica también ciertas polémicas. Por un lado, las loas a la interdisciplinariedad son habituales en prácticamente todas las voces consultadas, pero no ocurre lo mismo cuando se les pregunta por la efectividad. Por otro lado, se presenta el peligro de

En síntesis, lo que se pretende mostrar, es que son múltiples los factores que conforman la panorámica general de la robótica interactiva. Por un lado, no podemos pensarla sin la inteligencia artificial y sin los datos que la alimentan. Por otro, la reflexión inter o multidisciplinar, vertebrada por una cuestión ética, resulta inseparable de la exposición. El dilema está entre definir un marco muy concreto de reflexión, con las particularidades de la robótica de interacción en entornos específicos ¹⁹ , o ampliar la discusión en aras de no perder de vista el panorama general ²⁰ . Para la cuestión que aquí nos ocupa, hemos optado por la segunda.

La pregunta con la que decidimos comenzar cada entrevista hacía referencia a cómo habían llegado a trabajar en el campo de la robótica. Dado el enfoque del documento y la riqueza en la variedad de respuestas, este puede ser un buen punto para introducir un componente emocional latente, precisamente, en el recuerdo del comienzo de sus trayectorias profesionales ²¹ . López de Mántaras (2020a), por ejemplo, cuenta el impacto que le supuso ver en directo la llegada de Neil Armstrong a la luna y descubrir, según le contó su profesor de física, que todo fue gracias a la electrónica. Así, se decantó por dicha ingeniería; luego llegó a la automática y después, el paso a la robótica resultó natural. Concha Monje (2020b) reivindica la experiencia tan enriquecedora que implica una ciencia tan multidisciplinar como lo es la robótica; pone como ejemplo el cambio paradigmático que implica el paso desde los metales a la robótica blanda. Pablo Lanillos (2020b) entiende la robótica como una disciplina que puede ayudar a comprendernos mejor a nosotros mismos, saber cómo funcionamos. En este sentido, recuerda dos experiencias significativas: la impresión que le generó ver los laboratorios que tenían montados en el Massachusetts Institute of Technology (MIT) cuando estuvo de estancia en el centro; y la experiencia «cuasi religiosa» vivida en un curso en Múnich sobre el cerebro, al ser consciente de «cuán lejos estamos de entender cómo funciona el cerebro humano y de tener realmente máquinas inteligentes» (Lanillos, 2020b).

Por otro lado, Andoni Alonso (2020) ²² menciona que, si bien llegó a la filosofía a través de Wittgenstein y fascinado por la cuestión del lenguaje, cuando comenzó su tesis a principios de los años 90, ya se hablaba de internet, de realidad virtual, se extendían las TICs y aparecían los primeros navegadores. En ese momento lo que más le marcó fue el Software Libre, del que era entusiasta y activista, pues veía en él una posibilidad de reforma social a través de la tecnología. Sin embargo, considera que este ha sido devorado por las grandes tecnológicas y, en tanto que la tecnología es una forma más de cultura, aboga en la actualidad por la necesidad de una verdadera crítica de la tecnología. Finalmente, Remedios Zafra (2020) ²³ habla de su ambivalente relación personal y profesional con la tecnología. Por un lado, hace referencia a aquellos pequeños robots de su día a día que le ayudan a suplir mermas en los sentidos. Si bien su formación en antropología, arte y filosofía se orienta al estudio crítico de la cultura contemporánea, nos comenta que en la adolescencia su formación estuvo muy orientada a lo científico, llegando incluso a empezar la ingeniería de telecomunicaciones, y que se siente identificada con muchas de las referencias que se hacen en el documental con perspectiva de género. En este sentido, comenta que en el año 1991 de doscientos alumnos solo dos mujeres cursaban dicha ingeniería. Por eso se pregunta por ese componente inefable que crea expectativas y que tiene que ver con las decisiones calladas de las mujeres que los distintos imaginarios han orientado desde niñas.

Precisamente, tanto los imaginarios como las expectativas juegan un papel importante en la percepción pública de lo que es la robótica. Por ejemplo, Arantxa Rentería (2020) apunta a cómo las campañas de publicidad distorsionan nuestras percepciones acerca de la misma. Poniendo como ejemplo al robot Da Vinci, comenta que mucha gente cree que es este el que opera, cuando realmente no es más que una máquina teleoperada que se vende como tal. En este sentido, la ciencia ficción también ha jugado un papel relevante. Guillem Alenyà (2019) ²⁴ afirma que, si bien esta ha generado una serie de esperanzas o expectativas que la técnica no ha podido cumplir, también ha sido un punto de inspiración, una forma de volcar inquietudes y anhelos. Tanto es así que Carme Torras ²⁵ utiliza la ciencia ficción ²⁶ en la enseñanza para «ejemplificar situaciones que pongan de manifiesto estos dilemas éticos que surgen, o estos riesgos en los que puede desembocar la tecnología» (Carme Torras, 2019). Tal y como señala, ante la ausencia de formación humanística en las ingenierías, es más fácil introducir reflexiones éticas a través de relatos que a través de textos más abstractos. Tomando como ejemplo las Tres Leyes de la Robótica de Isaac Asimov incluidas en el relato corto titulado Runaround publicado en 1942, Sabine Roeser (2019) ²⁷ comenta que, si bien estas todavía no pueden aplicarse en un laboratorio, sí permiten adelantarnos al suceso. Así, las artes resultan imprescindibles para la reflexión en tanto que permiten pensar y sentir escenarios futuros que los científicos todavía no pueden imaginar. En este sentido, afirma que, a pesar de que el rol de las emociones se asocia tradicionalmente a lo irracional o subjetivo, por el contrario, estas tienen un aspecto cognitivo fundamental para la racionalidad práctica y la toma de decisiones éticas. En la misma línea, Astrid Wagner (2020) ²⁸ menciona las limitaciones de los planteamientos dualistas que olvidan el vínculo existente entre mente y cuerpo o emoción y cognición. No podemos entender a un robot como un agente moral si no tiene emociones, si no puede empatizar, si no puede ponerse en el lugar del otro.

Respecto a la conceptualización de la emoción, Jordi Vallverdú ²⁹ explica que esta es

Si bien todavía se sigue jugando a nivel ingenieril o comercial con esta idea, lo que hay son sistemas que reaccionan a nuestras expresiones faciales, como ya hacía en los años noventa el robot Kismet desarrollado en el MIT. Sin embargo, «el robot no siente, sentir es un proceso químico mucho más complejo» (Vallverdú, 2020). Ahora bien, dada la sofisticación lograda en los últimos años, no se puede despreciar su capacidad de simularlas. Como comenta Andrea Bertolini ³⁰ , las máquinas

Precisamente, esto se debe a que para que haya una interacción real entre un humano y un robot, es necesario que este entienda lo que le estamos pidiendo; es decir, debe ser capaz de interpretar el lenguaje, los gestos, el habla (Chatila, 2020), las expresiones faciales de la emoción, los afectos e incluso cómo estos elementos se manifiestan por la proxemia (Monasterio, 2020). Más aún, volviendo a la ética en los sistemas artificiales, se necesita que «los robots respeten los valores que los humanos compartimos en un cierto contexto, para lo cual es muy importante el elemento de la emoción en tanto que puede alterar dichos valores» (Sierra, 2020a). Así, se plantea un debate entre valores, normas y emociones, al que los ingenieros están intentando dar forma; pero para ello necesitan de la ayuda de la filosofía y del derecho.

En este punto, la respuesta a la pregunta de cómo articular una robótica interactiva ética comienza por la percepción, a través de sensores, de esta multiplicidad de factores. Al introducir su tema de investigación, Pablo Lanillos señala que la retina humana cuenta con 96 millones de fotorreceptores mientras que la punta del dedo con tres mil receptores táctiles, para que nos hagamos una idea de «la cantidad de datos que utilizamos para saber dónde estamos en el mundo y cómo realizar una acción» (Lanillos, 2020a). Tal y como continúa, dado que ahora estamos en un momento en el que los algoritmos nos permiten integrar este tipo de datos en los robots, a nivel de raciocinio e interacción, podemos comenzar a pensar en que estos hagan cosas parecidas a las que hacemos los humanos.

Cuando pasamos de los datos a la racionalidad, nos encontramos con una problemática identificada en muchas de las entrevistas. Como comenta Guillem Alenyà (2020a), la tecnología actual, ya no es tanto de ingenieros en tanto que construcción de reglas y conocimiento, sino que se ha pasado a una forma de hacer en la que se recogen una gran cantidad de datos y se pretende encontrar patrones entre ellos. Estos datos pueden estar sesgados, por lo que ya no solo es una cuestión de diseñar sin sesgos, sino también de actuar como detectives buscando ese sesgo en los datos. López de Mántaras (2019) ilustra este paso con la transición desde los sistemas expertos, en los que la inteligencia artificial se basaba, sobre todo, en representar conocimientos y hacer inferencias a partir de los mismos. Hemos pasado de una inteligencia artificial que ponía el conocimiento en el centro, a una inteligencia artificial basada en datos. Sin embargo, remarca que el dato es anterior al conocimiento, el cual debemos interpretar y entender para llegar a él. Ahora, analizamos con técnicas estadísticas muy sofisticadas dichos datos para detectar patrones. Si bien se han logrado resultados muy relevantes a partir del deep learning, le preocupa que la semántica haya pasado a un segundo plano. En esta misma línea, Carme Torras afirma que

Volviendo a los robots, estos constan de lo físico, los sensores, los actuadores, el chasis, pero también de una inteligencia artificial que es la que les permite afrontar situaciones imprevistas, para las que no fueron programados pero que les permiten generalizar los datos y la información recabada por los sensores para tomar una decisión (Alenyà, 2020b). Ahora bien, la inteligencia artificial dominante en la actualidad, basada en la identificación de patrones a partir de datos, no sirve demasiado para la visión general, pues «necesitamos robots que sepan explicar por qué toman decisiones» (Alenyà, 2020b). Raja Chatila (2020) explica que este proceso de aprendizaje a partir de miles de millones de parámetros suele ser una caja negra por diseño. Si bien obtenemos una respuesta a partir de la optimización del objetivo y del proceso indicado, no sabemos por qué nos ha dado ese resultado. Por lo tanto, si queremos continuar con el desarrollo de este tipo de sistemas, si queremos usarlos, debemos ser capaces de confiar en ellos. Así, el tema de la total explicabilidad se ha convertido en uno de los más importantes de la inteligencia artificial y, en consecuencia, de la robótica interactiva. Si bien el primer paso sería saber ese porqué, la explicación a su vez tiene que ser en términos comprensibles para nosotros, no puede ser un pedazo de código o una matriz enorme de números (López de Mántaras, 2019). Tiene que ser «capaz de construir un storytelling, una historia que permita que un humano entienda por qué este patrón es tal cosa» (Sierra, 2020b).

Volvamos, entonces, al concepto de inteligencia que subyace a los sistemas robóticos. De acuerdo con Carles Sierra:

Así, Mario Toboso (2020) ³¹ plantea que las investigaciones y el desarrollo de la inteligencia artificial se han orientado principalmente en una dirección, del humano al robot: cómo transmitir cualidades humanas a ámbitos artificiales. Pero, ¿en qué sentido la robótica y la inteligencia artificial nos pueden enseñar cosas sobre nuestra forma de razonar, de aprender, de percibir o de tomar decisiones? Respecto a esta cuestión, López de Mántaras (2020a) comenta que esta aproximación bidireccional más cognitivista, si bien estuvo muy activa entre los años 60 y 80 del siglo XX a través de una discusión multidisciplinar sobre arquitecturas cognitivas en las que tanto la filosofía, como la antropología y la psicología estaban presentes, en la actualidad se ha ido difuminando y pasando a un segundo plano. De ahí, que López de Mántaras mantenga una posición crítica hacia esta inteligencia artificial basada en datos cuando esta solo se basa en una lógica matemática en la que no se tienen en cuenta otras cuestiones, como el cuerpo.

Un agente artificial necesita de un cuerpo, pues no basta con descripciones abstractas y codificadas del entorno, ni con billones de datos, pues,

Como comenta Carles Sierra (2020), «la inteligencia artificial será colectiva o no será». Por lo tanto, la cuestión adquiere una dimensión aún mayor, que nos invita a pensar no solo en lo individual, sino también en lo social. Si bien se han ilustrado las limitaciones, eso no significa que no hayamos empezado a delegar ya decisiones en este tipo de sistemas. Guillem Alenyà (2020a) lo expresa de la siguiente manera: «pusimos los móviles en las manos de nuestros hijos, cerramos los ojos y dijimos espero que todo vaya bien». El peligro, tal y como nos comenta Sylvie Delacroix (2019), es que asumamos que estos sistemas estarán mucho mejor informados que nosotros, que tomarán mejores decisiones, más racionales, menos sesgadas, y vivamos una suerte de delegación de la responsabilidad normativa que nos pueda hacer menos capaces de conectar con el mundo en vez de mejorar nuestra vida.

Así, se introduce una componente social o, si se quiere, sistémica sobre la tecnología y la deliberación pública acerca de la misma. Como explica Mark Coeckelbergh, si bien hay muchos nexos entre las cuestiones tecnológicas y sociales, es necesario reivindicar y pensar ese vínculo entre la tecnología y la política, el tipo de necesidades y soluciones que se están creando, e incluso el problema de «la idea de que toda esta tecnología es una solución en sí misma» (Coeckelbergh, 2020). Es aquí donde entra la problemática idea de la innovación, que desde hace tiempo ha sustituido «la idea ilustrada de progreso, de que avanzaremos a una sociedad equilibrada, libre, justa» (Alonso, 2019). En esta misma línea, Langdom Winner (2019) comenta que, especialmente en nuestra época, la innovación funciona como un mito o un colorido ritual que asume que esta es buena en sí misma. Así, a pesar de que la innovación es una creación destructiva, «nos centramos solo en la primera parte, en la creación, y la destrucción nos parece estupenda y maravillosa» (Alonso, 2019), dejando en un segundo plano las consecuencias de las disrupciones que provoca. Por ello Langdom Winner (2019) aboga por recuperar ese espíritu activista presente en los estudios sobre Ciencia, Tecnología y Sociedad (CTS), que no se dedicaba solo a producir teorías, conceptos y marcos, sino que se preocupaba sobre todo por articular esta dimensión dentro de las democracias modernas. Partiendo de la base de que sabemos que estas tecnologías modifican la composición y el funcionamiento de nuestras sociedades, necesitamos incorporar procesos democráticos de participación, voto e investigación para tomar decisiones públicas inteligentes en lo que respecta a su desarrollo e implantación.

Como respuesta al escenario previamente descrito, Amparo Grau considera que es muy relevante la labor que realiza la Comisión Europea «impulsando proyectos en toda Europa para que los investigadores reflexionen sobre cómo, de manera transversal, podemos regular los avances tecnológicos en beneficio de la sociedad» (Grau, 2020a). En este sentido, remarca la importancia del paradigma de investigación e innovación socialmente responsable ³² que caracteriza la línea europea y, además, la necesidad de reforzar la comunicación y el entendimiento entre las diferentes partes implicadas para que la retroalimentación sea capaz de llegar al mismo proceso de diseño y producción (Grau, 2019). Así, el enfoque ético -y el propio papel, por ejemplo, de la filosofía-, debería consistir en superar la visión crítica a posteriori y tratar de introducir esta forma de razonamiento desde los desarrollos iniciales (Roeser, 2020). Por lo tanto, a la hora de pensar en cualquier tipo de intervención, no solo hay que buscar en el sistema legal, sino también tener en cuenta las complejas consideraciones ético-jurídicas y entender el propio desarrollo de la tecnología, de forma que «un enfoque multidisciplinar es el único enfoque posible» (Bertolini, 2020).

Todos los discursos comparten esta convicción respecto a la necesidad de una aproximación plural, sin embargo, los testimonios apuntan también a que todavía hay mucho trabajo que hacer para que esta sea efectiva. Si bien la robótica en sí misma es una disciplina multidisciplinar donde matemáticos, físicos, ingenieros electrónicos y programadores trabajan en equipo, las diferencias metodológicas con respecto a las ciencias sociales y las humanidades plantean mayores dificultades. Por un lado, nos encontramos con una formación absolutamente técnica y especializada en las disciplinas técnicas (Torras, 2020a) y, por otro, con una falta de familiaridad con la lógica tecnocientífica por parte de las humanidades y las ciencias sociales (Mayer, 2020), que suelen mantener cierta distancia y limitarse a describir, mientras que lo necesario es hacer un esfuerzo por colaborar, lo cual no implica renunciar a una perspectiva crítica (Östlund, 2020). Andoni Alonso (2020) plantea el mismo tema de otra forma, al cuestionar el motivo que ha llevado a que la ética pueda ser concebida como algo sectorial dentro de un grupo de investigación. Como comenta «yo no tengo ni idea de mecatrónica, pero si pensamos que alguien en esta sala no tiene idea de lo que es lo bueno y lo malo, pensaríamos que es un psicópata» (Alonso, 2020). Así, apunta al problema de la superespecialización. Si bien Guillem Alenyà comparte esta preocupación, haciendo referencia incluso a las dificultades de muchos de sus estudiantes para poner sobre papel dos ideas con cierta coherencia, ve necesaria y beneficiosa la colaboración entre disciplinas ante la amplitud de los problemas y la complejidad de la ciencia que tenemos hoy en día (Alenyà, 2020).

Como condición necesaria de este trabajo multidisciplinar, Andrea Bertolini reivindica la necesidad de desarrollar un lenguaje común; y lo ilustra a través del concepto de autonomía:

Hasta ahora, en este apartado dedicado a la acción, se han presentado cuestiones fundamentales relativas, primero, a la importancia de la gobernanza, esto es, a quién se debería implicar en la toma de decisiones y, segundo, a las condiciones de posibilidad de una comunicación efectiva entre disciplinas.

Es el momento de introducir la perspectiva agencial de las propias tecnologías pues, precisamente, refleja bien esta cuestión de la autonomía. De acuerdo con Mavi Sánchez-Vives (2020) ³³ «la agencia es la sensación de control de que uno es el dueño de una acción». También se puede entender como la capacidad de reconocer nuestro efecto en el mundo, una capacidad que los robots todavía no tienen (Lanillos, 2020a). Si bien, como comenta David Abbink (2020), podemos afirmar que los robots no tienen moralidad ni conciencia de sí mismos, sí que tienen comportamiento, es decir, actúan, realizan una acción en el mundo que hay que coordinar debido a su impacto sistémico. Esto, como veremos a continuación, plantea un reto fundamental a la hora de conceptuar éticamente el proceso de toma de decisiones.

De acuerdo con Amparo Grau, cuando se vislumbran los riesgos y las oportunidades de lo que se ha venido llamando cuarta revolución industrial, nos encontramos ante el reto de incentivar una innovación responsable y regular allí donde sea necesario; a veces contamos con normas pensadas en otros contextos históricos que se ven constantemente superadas (Grau, 2020b). En este sentido, apunta que

Así, llegamos a la cuestión de si el Derecho debería estar inserto en el código de las propias máquinas. Cómo implementar normas que influyan en la manera en la que los sistemas sociotécnicos funcionen, empieza a ser relevante en el mundo de la inteligencia artificial, y es precisamente una de las líneas de trabajo de Carles Sierra (2020b). Esto, que tiene su origen en los intentos de formalizar analíticamente la lógica jurídica de los sistemas legales, en la actualidad se está planteando junto con la necesidad de alinear los valores que guían la acción, por ejemplo, de los robots, con los valores de las sociedades en los que estos tienen que interactuar. Este es uno de los mayores retos técnicos y éticos de la implantación de la robótica interactiva. Como afirma Sylvie Delacroix (2019), a menos que nos tomemos en serio la cuestión de cómo los humanos cambiamos de posición respecto de lo que está bien y lo que está mal, no podremos tomar decisiones mediadas por sistemas artificiales que se mantengan acompasadas con nuestras preferencias éticas. Es más, argumenta que si bien es necesaria una respuesta oficial a la pregunta ética, como podrían ser las normas jurídicas, el peligro sería, precisamente, convertir a la ética en una respuesta fija implementada en un código (Delacroix, 2020).

Carles Sierra (2020b) considera que el enfoque consecuencialista es el más apropiado para pensar en la toma de decisiones éticas en inteligencia artificial, pues el sistema debe ser capaz de saber si las consecuencias de la acción realizada son compatibles con los valores y consensos sociales de la comunidad. En este sentido, Carles Sierra aboga por una aproximación no universal y basada en comunidades o grupos, donde las normas, los valores y, en consecuencia, la interpretación de las emociones de las personas que integran dichas comunidades, pasan a ser una condición de posibilidad de su propio diseño.

Hasta aquí una cartografía de los principales retos éticos y tecnocientíficos que rodean a la robótica interactiva a través de las voces reunidas en el documental Los robots salen de las fábricas. Con este material he descrito el salto cualitativo que implica la transición desde la robótica industrial, basada en sistemas cerrados y predecibles, hacia la robótica interactiva, que opera en entornos abiertos, complejos e impredecibles y donde el componente humano pasa a situarse en el centro del diseño. De esta forma la inteligencia artificial, basada en datos, se convierte en un elemento habitual en tanto que se precisan modelos dinámicos de la realidad. El rápido avance de estas tecnologías y su incorporación inevitable, progresiva y paulatina a la vida social, despierta una serie de interrogantes de gran calado. Ya hemos visto que, al menos narrativamente, China parte de un modelo impulsado por el Estado y dirigido al control social; Estados Unidos de un modelo impulsado por el mercado y orientado a la búsqueda de beneficio; y que Europa toma una tercera vía que pone a la ética y al ser humano en el centro como única alternativa democráticamente sostenible a largo plazo. Por ello, una primera conclusión podría ser que el panorama general que rodea la robótica interactiva es amplio, multidisciplinar y político. Para cartografiarlo, se ha hecho uso de una metáfora muy utilizada en la divulgación en robótica, que equipara al ser humano con el robot en tanto que ambos sienten, piensan y actúan.

En cuanto al sentir, y partiendo de la motivación que ha llevado a algunos a trabajar cuestiones relacionadas con la robótica, se ha mostrado la problemática que plantean las expectativas y los imaginarios creados en torno a esta tecnología. Por un lado, las campañas publicitarias y comunicativas distorsionan nuestras percepciones. Por otro, si bien la ciencia ficción ha podido crear un exceso de expectativas, también resulta de suma utilidad tanto para volcar inquietudes y anhelos como para introducir reflexiones éticas. En términos epistémicos, es importante superar el enfoque dualista entre emoción y cognición. Si bien parece claro que un robot no puede sentir, su capacidad de simular sentimientos y de identificarlos e interpretarlos a través de sensores, explica que pueda tener lugar una interacción efectiva.

Con respecto al pensar, hemos visto cómo la inteligencia artificial basada en datos, dominante en la actualidad, ha dejado en un segundo plano las cuestiones más relacionadas con el conocimiento. Esto, en el caso de la interacción humano-máquina, supone un problema, dado que para que esta sea efectiva es preciso que el robot sea capaz de dar una explicación comprensible para el humano de por qué ha tomado una decisión; y esto no siempre es posible. Así, la total explicabilidad se convierte en uno de los retos más acuciantes. En lo que respecta a la posibilidad de crear inteligencia, es necesario superar el dualismo entre mente y cuerpo y avanzar en la dimensión social del conocimiento. Finalmente, se ha reabierto una deliberación pública en relación al desarrollo e implantación de estas tecnologías. En tanto que se parte de la base de que transforman la composición y el funcionamiento de la sociedad, se aboga por la incorporación de nuevas dimensiones democráticas.

Por último, en lo relativo a la acción, la intervención legislativa y el paradigma europeo de investigación e innovación responsable son hasta ahora las vías para superar las externalidades negativas de la creación destructiva que pueda generar la robótica interactiva. Aquí, el enfoque multidisciplinar no sólo es una posibilidad, sino que es la única respuesta posible. Sin embargo, hemos visto como las experiencias de los investigadores apuntan a que aún hay mucho trabajo que hacer para que esto sea realmente efectivo. Si bien el trabajo plural es consustancial a la investigación en robótica dentro del paradigma tecnocientífico, las distancias metodológicas, teleológicas e incluso comunicativas con respecto a las ciencias sociales y a las humanidades son considerables, y se ven agravadas por la tendencia creciente a una especialización cada vez mayor de las disciplinas. Además, resulta preciso introducir la perspectiva agencial de las propias tecnologías. Si bien los sistemas artificiales no tienen moralidad ni conciencia de sí mismos, su capacidad de actuar en el mundo es cada vez mayor. Para ello, es necesario coordinar y modular el impacto sistémico de su implantación mediante la codificación de normas y valores, lo que va a ser uno de los retos más desafiantes de la robótica interactiva.