EL BUEN GOBIERNO DE LOS ROBOTS PARA SU CORRECTO IMPACTO EN LA SOCIEDAD: ¿QUÉ HERRAMIENTAS EXISTEN?

2.1 La protección jurídica actual y sus posibles efectos

La imprevisibilidad a la que se ha hecho referencia presenta una doble vertiente. La primera se encuentra estrechamente relacionada con el procesamiento y el uso que se dé a la gran cantidad de datos que puede llegar a manejarse en la robótica; y la segunda se refiere a la posibilidad de que los denominados robots pueden llegar a provocar daños físicos.

Por otra parte, debe considerarse también el ámbito de aplicación al que pertenecen los distintos tipos de robots. En este sentido, y según la Strategic Research Agenda for Robotics in Europe 2020-2021, los sectores en los que la robótica tiene un mayor impacto son de diversa naturaleza. Entre ellos deben destacarse las manufacturas, la medicina, la agricultura, la logística y el transporte y el consumo empresarial (en inglés business to business o B2B) y doméstico (en inglés business to consumers o B2C) (Comisión Europea, 2021Comisión Europea. (2021a). Excelencia y confianza en la inteligencia artificial. Disponible en https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/excellence-trust-artificial-intelligence_es ).

La razón por la que debe realizarse una distinción es porque existen diferentes niveles de protección en nuestro derecho, atendiendo principalmente a las partes implicadas en los supuestos de hecho que se planteen en cada caso. En este sentido, una de las figuras más protegidos por el legislador es la del consumidor, entendido éste como toda «persona física o jurídica que actúa en un ámbito ajeno a una actividad empresarial o profesional» (LGDCU).

A este respecto, puede señalarse como ejemplo las medidas especiales que se contemplan en sectores tales como el bancario y ello con el fin de otorgar una mayor protección al consumidor respecto a sus productos o servicios.

En efecto, en el sector bancario además de tener una legislación exigente en cuanto al cumplimiento de normas especiales sobre contabilidad, seguridad y estabilidad económica, se ha establecido un sistema de supervisión ejercido por los Bancos Nacionales correspondientes -el Banco de España en el caso español-, y el ejercido por el Banco Central Europeo en su ámbito de competencia.

En ese sentido, debe decirse que en la actualidad el sector de la robótica carece de la trascendencia que tienen los bancos para la estabilidad y seguridad económica de un país. Los bancos suponen un elemento esencial de la economía de un país porque gestionan los ahorros de los ciudadanos, financian a empresarios y particulares, y a los propios Estados.

En ese sentido la labor y la función de la robótica hoy no cumple el carácter fundamental que realizan las entidades bancarias; pero no podemos negar, sin embargo, que sus implicaciones actuales alcanzan niveles muy significativos en lo que atañe a sus relaciones con los consumidores y que lo serán aún más en el futuro. El ejemplo del sector bancario nos sirve para entender cómo los consumidores y usuarios son sujetos a los que se reviste de una especial protección por su situación de vulnerabilidad, frente a otras personas con un mayor poder económico o protegidos por otras formas jurídicas.

Al respecto, debe decirse que el mercado de los consumidores constituye un ámbito fundamental del desarrollo de la robótica, existiendo multitud de robots inteligentes y no inteligentes, que se venden como bienes de consumo, lo que hace que sean los datos de aquéllos los que se vean comprometidos en mayor medida y expuestos a ciberataques (Parlamento Europeo, 2019Parlamento Europeo. (2019). Una política industrial global europea en materia de inteligencia artificial y robótica. Resolución, Estrasburgo. Disponible en https://www.europarl.europa.eu/doceo/document/TA-8-2019-0081_ES.pdf ).

En ese mismo sentido, puede observarse que algunos consumidores se encuentran bajo el paraguas de una normativa aún más garantista, como, por ejemplo, los menores de edad que se ven amparados por normas especiales en materia de protección de datos personales (art. 8 del Reglamento General de Protección de Datos (RGPD)).

Por todo ello, debe ponerse especial atención en la situación de los consumidores en materia de protección de sus derechos al adquirir bienes en el ámbito de la robótica, tanto en lo que tiene que ver con la seguridad física como en relación a los datos que se utilicen.

Por otro lado, y dejando a un lado el ámbito del consumo, debe destacarse otra área en la cual el impacto de la robótica en las personas físicas es directo y de gran importancia: la medicina.

En efecto los robots comienzan a jugar un papel muy importante tanto en los tratamientos como en las intervenciones médicas. Existen robots que participan en procesos de cirugía, de diagnóstico y de rehabilitación; incluso podríamos plantearnos su conveniencia a la hora de trabajar con pacientes con COVID-19. En este sentido los robots, aunque estén dotados de estructuras corpóreas, muchas veces similares a las humanas, no dejan de ser máquinas y, por tanto, no se ven amenazados por enfermedades o, como en este caso, por un virus. Por ello, su presencia en lo que tiene que ver con la asistencia de pacientes cuyo tratamiento arriesga, como hemos visto de manera importante, la vida de los trabajadores sanitarios, es una idea interesante. En este caso, se plantearían cuestiones similares a las que hemos visto al hablar de los consumidores, si bien con diferencias que deban analizarse y realizarse en cada caso.

2.2 Principales problemas y soluciones a la responsabilidad por daños producidos por robots

La responsabilidad por daños plantea dos problemas de singular importancia. El primero, como ya se ha mencionado, se refiere al comportamiento inesperado que podrían llegar a manifestar los robots; y el segundo, a la variedad y número de actores que están presentes en los procesos de funcionamiento de un robot (Lacruz Mantecón, 2019: 2378Lacruz Mantecón, Miguel I. (2019). Inteligencia Artificial y coches autónomos. Análisis jurídicos europeos. Revista Crítica de Derecho Inmobiliario, 95 (775): 2373-2409.). En este sentido, deben destacarse: los diseñadores, los fabricantes, y los propios usuarios que los incorporan a sus vidas y lo mismo puede decirse respecto al sector sanitario, donde actúan el médico o profesional sanitario, el fabricante de la solución tecnológica y la institución sanitaria que ofrece el tratamiento (Parlamento Europeo, 2019Parlamento Europeo. (2019). Una política industrial global europea en materia de inteligencia artificial y robótica. Resolución, Estrasburgo. Disponible en https://www.europarl.europa.eu/doceo/document/TA-8-2019-0081_ES.pdf ).

La intervención de distintos sujetos en los ámbitos señalados, dificultan la aplicación de la normativa que regula la responsabilidad extracontractual, entendiéndose ésta como aquélla que responde de los daños producidos de manera independiente de cualquier relación jurídica preexistente entre las partes.

La LGDCU constriñe la responsabilidad por daños causados por productos defectuosos a la figura del productor (art.135, LGDCU). Además, la misma norma define producto defectuoso como «aquél que no ofrezca la seguridad que cabría legítimamente esperar (…)» (art.137, LGDCU). Dicha responsabilidad supone que en caso de que medie culpa o negligencia por parte del productor, éste debe ser quien responda del daño producido, siempre que se pruebe la relación de causalidad directa entre el defecto y el daño, correspondiéndole esta tarea al perjudicado en cuestión (art. 139 LGDCU).

Las razones que explican las dificultades existentes ante esta normativa responden a varios motivos:

Esta problemática responde a la falta de acogimiento por parte de las normativas de la nueva realidad tecnológica que rompe con fuerza dentro de los distintos sectores productivos, por lo que es evidente que necesitamos nuevos instrumentos que sean capaces de acoger estos cambios y que sirvan como complemento a los ya existentes. Hoy en día, ya se han formulado diferentes posibilidades que en un futuro podrían quedar recogidas en nuestras leyes.

En primer lugar, considerar que sea el propio titular del robot el que tenga que responder de los daños causados a terceros, estableciéndose así una responsabilidad del mismo. Sin embargo, ello pasaría por dotar de un seguro obligatorio al robot, como ocurre con los vehículos, de manera que se cuente con un fondo que pueda proteger a las víctimas de las actuaciones independientes de estas máquinas (Lacruz Mantecón, 2019: 2379Lacruz Mantecón, Miguel I. (2019). Inteligencia Artificial y coches autónomos. Análisis jurídicos europeos. Revista Crítica de Derecho Inmobiliario, 95 (775): 2373-2409.). Este sistema pasaría por establecer un registro de los propios robots a los que se les asignaría una especie de matrícula con un número de póliza (Anguita Ríos, 2020: 25561 y ss.Anguita Ríos, Rosa María (2020). Inteligencia Artificial y Derecho Civil: líneas de pensamiento en materia de daños. Revista Crítica de Derecho Inmobiliario (781): 2541-2581. ), con lo que habría así un mayor control de los robots y se conseguiría una mayor seguridad jurídica para consumidores y fabricantes, e incluso una mayor aceptación social.

En el mismo sentido, y siguiendo la misma línea de razonamiento, se podría dotar de un seguro obligatorio a los propios fabricantes de robots inteligentes (Anguita Ríos, 2020: 2570Anguita Ríos, Rosa María (2020). Inteligencia Artificial y Derecho Civil: líneas de pensamiento en materia de daños. Revista Crítica de Derecho Inmobiliario (781): 2541-2581. ). De esta forma se eliminarían barreras disuasorias a la producción de máquinas inteligentes a la vez que se aseguraría la existencia de un fondo que pudiera resarcir a las víctimas.

Una propuesta más disruptiva y cargada de controversia es la de dotar de personalidad jurídica al robot, de manera que se constituya como un sujeto de obligaciones que pueda responder de los daños provocados por su acción. En tal caso se podría suplir su falta de patrimonio creando un fondo que nutrirían de manera conjunta, los diseñadores, fabricantes y usuarios (Comité Económico y Social Europeo, 2017Comité Económico y Social Europeo (2017). Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad. Dictamen de iniciativa. Disponible en https://eur-lex.europa.eu/legal-content/ES/ALL/?uri=CELEX%3A52016IE5369 ), a través, por ejemplo, del pago de una cantidad extra a la hora de adquirir el producto (Anguita Ríos, 2020: 2560Anguita Ríos, Rosa María (2020). Inteligencia Artificial y Derecho Civil: líneas de pensamiento en materia de daños. Revista Crítica de Derecho Inmobiliario (781): 2541-2581. ).

Esta primera idea vio la luz en la Resolución del Parlamento Europeo de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, al plantear el término «personalidad electrónica» como una posible alternativa en el futuro para aquellos robots más complejos (apdo. 59.f).

Sin embargo, el trasfondo de esta idea se encuentra plagada de interrogantes y de dificultades ya no sólo legales, sino sobre todo, a nuestro juicio, de carácter ético y moral. En esta línea se han manifestado por ejemplo el Comité Económico y Social Europeo (2017: 2)Comité Económico y Social Europeo (2017). Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad. Dictamen de iniciativa. Disponible en https://eur-lex.europa.eu/legal-content/ES/ALL/?uri=CELEX%3A52016IE5369 en uno de sus dictámenes titulado Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad, dónde cuestiona no sólo las implicaciones éticas y morales sino que argumenta también que « podría desaparecer el efecto correctivo y preventivo de la responsabilidad civil si esta dejase de recaer sobre el autor por haberse transferido al robot». Añade, además, que una forma jurídica como la que se plantea podría ser «susceptible de uso y aplicación indebidos » .

Por otra parte, debe tenerse en cuenta también que la atribución de personalidad jurídica a los robots, aunque pueda resolver el problema de la responsabilidad, desplazándola al propio robot, exige revestir a un sujeto, no sólo de obligaciones, sino también de derechos, es decir, de los derechos de los que gozan las personas físicas y jurídicas. Lo cual, a nuestro juicio, carece de rigor jurídico y, al menos, a día de hoy no tiene amparo en nuestro ordenamiento.

En su momento los miembros del Parlamento Europeo a favor de una resolución en ese sentido, hablaban de un tipo de personalidad que permitiera al robot, al igual que las organizaciones con personalidad jurídica, poder llevar a cabo actos como la firma de contratos o la capacidad para ser demandados. La entidad de esta personalidad jurídica, sin embargo, no llegaría a situarse al mismo nivel que las existentes, en el sentido de que lo que se buscaría es hacer al robot sujeto de obligaciones, por ejemplo, a través de un seguro obligatorio, como el que avanzábamos, pero limitando, a su vez, sus derechos (Delcker, 11 de abril de 2018Delcker, Janosch (11 de abril de 2018). Europe divided over robot ‘personhood’. POLITICO. Disponible en https://www.politico.eu/article/europe-divided-over-robot-ai-artificial-intelligence-personhood/ ).

Sin embargo, el rumbo que parece estar tomando la normativa en materia de IA, en cualquiera de sus aplicaciones, coloca como pilar fundamental la supervisión humana.

En efecto, la IA no debe en ningún momento «disminuir, limitar o desorientar la autonomía humana». Para ello, es necesario que los sistemas de IA promuevan una sociedad democrática, y equitativa, complementen y mejoren la acción humana y el respeto a los derechos fundamentales (Grupo Independiente de Expertos de Alto nivel sobre IA, 2018: 18Grupo Independiente de Expertos de Alto nivel sobre IA. (2018). Directrices éticas para una IA fiable. Comisión Europea. Disponible en https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60423 ).

3.1 Limitaciones a la discrecionalidad de los robots y manejo de principios éticos

Una vez aclarado que la independencia y libertad humanas deben situarse como pilares fundamentales en el diseño de la actuación de los robots inteligentes, habría que preguntarse de qué manera se podría configurar un sistema de supervisión por parte de las personas, que fuera lo suficientemente garantista pero que, al tiempo respetara y fomentara la innovación propia de esta tecnología.

No sería algo factible un tipo de participación humana que implicara una intervención por parte de las personas de todos los procesos de decisión de la IA; pero sí podría darse cierta discrecionalidad a las mismas durante la utilización de los sistemas de IA. Al respecto, podría asemejarse al poder decidir sobre la aceptación o no de una determinada actuación que vaya a llevar a cabo el sistema (Grupo Independiente de Expertos de Alto nivel sobre IA, 2018:19Grupo Independiente de Expertos de Alto nivel sobre IA. (2018). Directrices éticas para una IA fiable. Comisión Europea. Disponible en https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60423 ). En este sentido se podrían establecer los niveles de discrecionalidad dependiendo de los campos en lo que se implante.

De esta manera debería valorarse cuando se va a implantar un programa informático a una estructura corpórea como un robot, si va a estar en contacto con personas vulnerables como niños o ancianos. En este último caso, los niveles de control deberían poder ser mayores por los riesgos incrementales que implica el uso de robots inteligentes de manera general, y de manera especial, cuando se refiere a la relación que puedan tener los robots con este tipo de sujetos. Como ejemplo de posibles medidas a tomar, podrían ser la capacidad de poder desconectar al robot en caso de emergencia (Anguita Ríos, 2020: 2550Anguita Ríos, Rosa María (2020). Inteligencia Artificial y Derecho Civil: líneas de pensamiento en materia de daños. Revista Crítica de Derecho Inmobiliario (781): 2541-2581. ), o la existencia de un control parental en caso de los menores.

Por todo ello puede concluirse que, para poder llevar a cabo una correcta supervisión de los robots, es necesario tener un mayor conocimiento de la IA, que debe implicar a toda la sociedad en su conjunto, aunque de manera especial, a las partes implicadas directamente en el ciclo de vida de los robots inteligentes: los diseñadores, desarrolladores, fabricantes y usuarios finales de los productos (Grupo Independiente de Expertos de Alto nivel sobre IA, 2018: 8Grupo Independiente de Expertos de Alto nivel sobre IA. (2018). Directrices éticas para una IA fiable. Comisión Europea. Disponible en https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60423 ).

En este sentido, es necesario establecer una serie de principios éticos universales que sean conocidos por todas las partes que se introduzcan y apliquen en los procesos de diseño de la IA, que establezcan mecanismos de comprobación del correcto cumplimiento de estos requisitos a la hora de ofrecer robots dotados de IA y, finalmente, que los propios usuarios puedan reclamar el cumplimiento de esos requisitos en cada caso.

Estos principios no constituyen una mera idea lanzada al aire, sino que ya han sido estudiados y establecidos en documentos oficiales. Como ejemplo la lista de requisitos éticos promulgados por el Grupo Independiente de Expertos de Alto nivel sobre IA de la Comisión que incluye «el respeto de la autonomía humana» y la «prevención del daño; equidad; explicabilidad» (Grupo Independiente de Expertos de Alto nivel sobre IA, 2018:14Grupo Independiente de Expertos de Alto nivel sobre IA. (2018). Directrices éticas para una IA fiable. Comisión Europea. Disponible en https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60423 ). Aunque no se trate de un texto de derecho positivo y tan solo sean orientaciones para los profesionales de la IA, los principios señalados encuentran su fuente de inspiración en los derechos fundamentales, recogidos en mayor o menor medida en textos como el RGPD o la LGDCU.

Por tanto, estos principios pueden infundir un nuevo sentido a la aplicación de los textos ya existentes en temas focalizados en la IA, contribuyendo así a una interpretación más fiel de nuestro nuevo entorno, pudiendo ser una fuente de inspiración, una necesaria normativa, que algunos ya llaman de forma globalizada «Derecho de los robots» (Barrio Andrés, 2018Barrio Andrés, Moisés (dir.) (2018). Derecho de los robots. Wolters Kluwer.). Precisamente, y dada la inseguridad jurídica que puede llegar a generar como ya se ha visto al hablar de la responsabilidad por daños, es de urgente necesidad lograr una normativa común que recoja unos principios éticos que sirvan de base para el despliegue y manejo de la IA y la robótica, (Parlamento Europeo, 2020Parlamento Europeo (2020). Resolución del Parlamento Europeo, de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas que contiene la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial (ley de inteligencia artificial). Disponible en: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_ES.html#title1 ).

3.2 La protección de datos

Una de las ventajas de la existencia de unos principios éticos comunes sería como se ha indicado antes un aumento de la información disponible acerca de lo que debería ser la IA fiable, lo que ayudaría a un mayor acogimiento de ésta en nuestra sociedad y un mayor empoderamiento de los consumidores, en lo que tiene que ver con la responsabilidad y con la protección de sus datos. Este último punto es de especial relevancia tal y como hemos dicho, ya que los robots dotados de IA recopilan y etiquetan datos del entorno en el que se encuentran, y en mayor o menor medida, aprenden de los mismos. Asimismo, el propio diseño de los robots inteligentes implica la implantación de una serie de algoritmos y datos que variarán dependiendo del uso para el que vaya a ser destinados en un futuro. Debido a este uso masivo de datos debería revisarse, por un lado, la validez del corpus legislativo existente en materia de protección de la privacidad, como son el RGPD o el próximo Reglamento sobre la privacidad y las comunicaciones electrónicas¹Propuesta de Reglamento del Parlamento Europeo y del Consejo sobre el respeto de la vida privada y la protección de los datos personales en el sector de las comunicaciones electrónicas y por el que se deroga la Directiva 2002/58/CE (Reglamento sobre la privacidad y las comunicaciones electrónicas). Disponible en https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX%3A52017PC0010 [Fecha de consulta: 23 noviembre 2021].. Muchos dudan de su eficacia, y se preguntan si los robots y la IA van a ofrecer las debidas garantías, teniendo en cuenta que los pequeños artilugios que utilizamos a diario en nuestras vidas profesionales y personales nos sorprenden, demasiado a menudo, con mensajes que nos hacen dudar de nuestra privacidad²La CIA desclasifica documentos sobre un robot mosquito espía. Disponible en: https://mundo.sputniknews.com/seguridad/202002191090529199-la-cia-desclasifica-documentos-sobre-un-robot-insecto-espia--video/ [Fecha de consulta: 23 noviembre 2021].^. Es por ello, que desde el Parlamento Europeo se afirma que «puede resultar necesario adaptar hasta cierto punto algunos instrumentos jurídicos concretos al objeto de reflejar la transformación digital y dar respuesta a los nuevos retos que plantea el uso de la inteligencia artificial» (Parlamento Europeo, 2020: 5Parlamento Europeo (2020). Resolución del Parlamento Europeo, de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas que contiene la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial (ley de inteligencia artificial). Disponible en: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_ES.html#title1 ).

Por otro lado, será necesario contar con mecanismos que permitan evaluar todo lo que tiene que ver con el proceso de diseño de los robots, en concreto con el posible impacto de los diferentes datos que se le implantan. De hecho, esto último ya se recoge también dentro de las propuestas del Comité de Expertos al hablar de la auditabilidad de la IA (Grupo Independiente de Expertos de Alto nivel sobre IA, 2018: 24Grupo Independiente de Expertos de Alto nivel sobre IA. (2018). Directrices éticas para una IA fiable. Comisión Europea. Disponible en https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60423 ), y además se asemeja a herramientas utilizadas ya en otros sectores. Un ejemplo serían las pruebas de stress test de los bancos en las que se realizan simulaciones de diferentes escenarios económicos para conocer la situación hipotética en la que se encontrarían los bancos al funcionar en esas circunstancias. De esta manera se podrían diseñar robots desde la una perspectiva preventiva en lo que tiene que ver con los riesgos, minimizándolos en la medida de posible. En este sentido no hay que olvidar la repercusión del entorno y de la interacción con los diferentes agentes en lo que se refiere a la actuación posterior y más cuando hablamos de sujetos que buscan relacionarse de forma contenciosa con estas máquinas. Por ello, sería necesario o bien dotar a los robots de mecanismos de discriminación de información, teniendo de base los principios éticos que se comentaban, o bien incrementar los controles para la adquisición de este tipo de máquinas por parte de los consumidores y las empresas, de manera que se garantice la idoneidad de los diferentes sujetos y entidades que vayan a manejar estos robots.

3.3 El futuro de la regulación

Las últimas tendencias normativas parecen inclinarse más por un control sobre los sistemas de IA, y así lo demuestran las nuevas líneas de actuación recogidas dentro del marco reglamentario propuesto desde las instituciones europeas. En 2020 el Parlamento y el Consejo europeos aprobaron una resolución que contenía una propuesta legislativa de Reglamento sobre los principios éticos de la IA y la robótica. Por ejemplo, el legislador proponía llevar a cabo una «evaluación de riesgos»³Dependiendo de la función que desempeñe la IA se diferencian la IA de riesgo inaceptable, alto, limitado y reducido (Comisión Europea, 2021a) [Fecha de consulta: 23 de noviembre de 2021]. de estas tecnologías bajo unos criterios objetivos, así como, en caso de considerarse de alto riesgo⁴Por ejemplo: «el software para la clasificación de los currículos en los procesos de selección de personal, la aplicación de la IA en la cirugía asistida por robots, la calificación de exámenes etc.» (Comisión Europea, 2021a) [Fecha de consulta: 23 de noviembre de 2021]., una «evaluación de conformidad» con los requisitos éticos establecidos en el propio texto de la propuesta de Reglamento. Esto último daría lugar a la expedición del llamado «Certificado europeo de calidad ética» en caso de arrojar un resultado positivo. Además, se establecería la figura de una «autoridad de control» en cada Estado Miembro para garantizar la aplicación del Reglamento, y efectuar las evaluaciones en cuestión (arts. 14,15,16,17,18 de la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial (ley de inteligencia artificial). Posteriormente el 24 de abril de 2021 la Comisión publicó otra propuesta de Reglamento que recogía la llamada Ley de Inteligencia Artificial, desarrollando las ideas anteriormente expuestas y ampliando la regulación sobre la introducción al mercado y el manejo de la IA. En este sentido, la IA que se encuentra fuertemente regulada es la considerada de alto riesgo⁵Se entiende por alto riesgo: «riesgo significativo, derivado del desarrollo, el despliegue y el uso de la inteligencia artificial, la robótica y las tecnologías conexas, de causar lesiones o daños a las personas o a la sociedad, vulnerando los derechos fundamentales y las normas de seguridad establecidas en el Derecho de la Unión, teniendo en cuenta su uso o finalidad específicos, el sector en el que se desarrollan, despliegan o usan y la gravedad de las lesiones o daños que cabe esperar que se produzcan» (art.4 de la propuesta de Reglamento del Parlamento Europeo y del Consejo sobre los principios éticos para el desarrollo, el despliegue y el uso de la inteligencia artificial, la robótica y las tecnologías conexa) [Fecha de consulta: 23 de noviembre de 2021]. Ver en: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_ES.html#title17 , dedicándose a esta la mayor parte de su articulado. La normativa establece de forma específica una serie de líneas rojas a los usos de la misma, así como fuertes obligaciones relacionadas con la supervisión humana, la adecuada gestión de riesgos, la calidad del dato o la transparencia (Comisión Europea, 2021aComisión Europea. (2021a). Excelencia y confianza en la inteligencia artificial. Disponible en https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/excellence-trust-artificial-intelligence_es ; Anguita Ríos, 2020: 3-5Anguita Ríos, Rosa María (2020). Inteligencia Artificial y Derecho Civil: líneas de pensamiento en materia de daños. Revista Crítica de Derecho Inmobiliario (781): 2541-2581. ). Por otra parte, los proveedores y usuarios de tecnologías consideradas de riesgo limitado o reducido⁶«Al utilizar sistemas de IA como robots conversacionales, los usuarios deberán ser conscientes de que están interactuando con una máquina para poder tomar una decisión informada de continuar o no» (Comisión Europea, 2021b) [Fecha de consulta: 23 de noviembre de 2021] únicamente deberán cumplir con medidas de transparencia y manejo respectivamente, quedando fuera de la regulación las categorizadas de riesgo mínimo o nulo (Anguita Ríos, 2020: 5Anguita Ríos, Rosa María (2020). Inteligencia Artificial y Derecho Civil: líneas de pensamiento en materia de daños. Revista Crítica de Derecho Inmobiliario (781): 2541-2581. ).

De esta manera, el nuevo marco regulatorio pretende garantizar la seguridad de estas tecnologías durante todo su ciclo de vida, imponiendo medidas de hard law o soft law en función del riesgo que tengan asociado. Al mismo tiempo, se pretenda impulsar con esta legislación el desarrollo y despliegue de estas tecnologías, para lo cual se dedicarían por ejemplo recursos en investigación o se llevarían a cabo consultas públicas sobre los proyectos que se impulsen en esta área (Comisión Europea, 2021bComisión Europea (2021b). Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión. Disponible en: https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX:52021PC0206 ).