“Considerando que, desde el monstruo de Frankenstein creado por Mary Shelley al mito clásico de Pigmalión, pasando por el Golem de Praga o el robot de Karel Čapek -que fue quien acuñó el término-, los seres humanos han fantaseado siempre con la posibilidad de construir máquinas inteligentes, sobre todo androides con características humanas”.
Así se pronuncia el Parlamento Europeo , en la Resolución de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica[1].
Para abordar el origen de las leyes sobre robótica nos tenemos que remontar a las tres leyes de la robótica de Isaac Asimov[2], que establecen: en primer lugar, un robot no hará daño a un ser humano ni, por inacción, permitirá que un ser humano sufra daño. En segundo lugar, un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley. Por último, un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.
En definitiva, el principio “alterum non laedere” está y debe estar presente en la regulación de la responsabilidad civil en el ámbito de la robótica y de la inteligencia artificial.
El Parlamento Europeo[3], en sus recomendaciones, apunta que los grandes avances tecnológicos han propiciado que los robots estén desarrollando rasgos cognitivos y autónomos. En particular, cita la capacidad para aprender de la experiencia y tomar decisiones independientes, de modo que se asimilan cada vez más a agentes que interactúan con su entorno y que pueden modificarlo de modo significativo, por lo que su actuación podría causar daños susceptibles de responsabilidad jurídica[4]. Es la autonomía del robot la cuestión clave que justifica la urgencia de su regulación.
El Parlamento Europeo[5], en cuanto a la política industrial global de la robótica y de la inteligencia artificial en materia de salud, si bien establece que el contacto humano es un aspecto esencial de la atención a la persona, señala la utilidad de estas herramientas en el sector de la prestación de cuidados y el impacto que la inteligencia artificial muestra en el bienestar, en la prevención, en el diagnóstico y en la investigación, así como en la consecución de la medicina personalizada y en la mejora de la sostenibilidad y de la eficiencia de los sistemas sanitarios.
Si bien al combinar el diagnóstico humano y la IA la tasa de error puede ser inferior y por lo tanto conveniente, el uso de robots autónomos plantea serias dudas en materia de responsabilidad, hasta el punto de que el Parlamento Europeo[6] considera que el uso de estas técnicas, en particular en el ámbito sanitario, debe estar basado en el principio de responsabilidad, conforme al cual, la máquina es operada por el ser humano.
En atención a ello, se solicita a la Comisión que supervise los avances en estas técnicas y que proponga modificaciones normativas para aclarar el marco de la responsabilidad civil entre el usuario -médico o profesional sanitario-, el fabricante y la institución sanitaria. Además, los usuarios no deben verse inducidos a aceptar sin más el diagnóstico o el tratamiento sugerido por un instrumento tecnológico por el temor a ser demandados por daños y perjuicios en el caso de que su saber y experiencia profesionales les lleve a conclusiones y a resultados distintos o diferentes de los extraídos por la IA.
La Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establece el programa Europa Digital para el período 2021-2027[7] establece que robots cada vez más autónomos se emplean en hospitales y las aplicaciones de inteligencia artificial han pasado de la fase de experimentación a la real.
2.1. Naturaleza del robot en el ámbito sanitario
El robot aplicado a usos sanitarios es un producto sanitario conforme a lo dispuesto por el Real Decreto 1591/2009[8], en el que se indica que por tal debe entenderse:
“Cualquier instrumento, dispositivo, equipo, programa informático, material u otro artículo, utilizado solo o en combinación, incluidos los programas informáticos destinados por el fabricante a finalidades específicas de diagnóstico y/o terapia y que intervengan en su buen funcionamiento, destinado por el fabricante a ser utilizado en seres humanos con fines de: Diagnóstico, prevención, control, tratamiento o alivio de una enfermedad. Diagnóstico, control, tratamiento, alivio o compensación de una lesión o una deficiencia. Investigación, sustitución o modificación de la anatomía o de un proceso fisiológico. Regulación de la concepción, y que no ejerza la acción principal que se desee obtener en el interior o en la superficie del cuerpo humano por medios farmacológicos, inmunológicos ni metabólicos, pero a cuya función puedan contribuir tales medios”[9].
2.2. Aplicaciones
El Parlamento Europeo[10] presta una especial atención a este ámbito y solicita a la Comisión y a los Estados Miembros que incrementen la financiación en las tecnologías de inteligencia artificial relacionadas con la salud y se considere si deben actualizarse e uniformar a escala europea los programas de formación del personal médico y sanitario para garantizar la competencia y la igualdad necesaria en el conocimiento y en el uso de los instrumentos tecnológicos más avanzados de la robótica quirúrgica y biomédica.
Reconoce que el mejor diagnóstico -y a ello contribuyen estas nuevas tecnologías- podría salvar millones de vidas, y destaca la contribución de la robótica a la innovación de prácticas y de técnicas preventivas, clínicas y de rehabilitación en el sector sanitario, muy especialmente para los pacientes con discapacidad. Constata como realidad que el mayor uso de los sensores en el ámbito de la robótica ha incrementado el ámbito de aplicación de la prestación de cuidados, permitiendo a los pacientes obtener tratamientos más personalizados y recibir teleasistencia, a la vez que se genera información de gran valor. Consciente de que los ciudadanos se sienten incómodos ante la perspectiva de introducir al robot en la asistencia sanitaria ordinaria, el Parlamento solicita a la Comisión y a los Estados que elaboren estrategias y campañas de comunicación sensibilizadoras de los beneficios de la utilización de los robots en la vida cotidiana.
3. ¿Hacia una personalidad jurídica del robot? [arriba]
La autonomía del robot implica la dificultad de su consideración como un simple instrumento en manos o dependiente de humanos como el fabricante, el operador, el propietario o el usuario, entre otros, por ello, el propio Parlamento Europeo[11] repara en la cuestión de si las normas sobre responsabilidad civil son suficientes o si se requeriría un nuevo cuerpo normativo específico que regulara la responsabilidad de los distintos agentes por los actos y por las omisiones de la máquina que causaran daños cuando no fuera controlada por un humano.
De hecho, una de las recomendaciones del Parlamento Europeo[12] es el avance en la definición y clasificación del “robot inteligente” que debería tener ciertas características como la capacidad para adquirir autonomía por medio de sensores y/o mediante interconectividad con su entorno y el análisis de los datos; la capacidad para aprender a través de la experiencia y de la interacción; la forma del soporte físico del robot y la capacidad de adaptar su comportamiento y las acciones al entorno.
RAMÓN FERNÁNDEZ[13] expone la doctrina responsability gap[14], en relación a los robots y hace referencia, en primer lugar, a la teoría de la inmunidad selectiva a los fabricantes. Se daría esta posibilidad en el supuesto de actuación dañosa no evitable habiendo actuado con la debida diligencia, una vez diseñado el producto e informado el consumidor. En segundo lugar, cabría apelar a la teoría de la personalidad jurídica de modo que serían responsables de los daños a terceros. En este caso el punto de partida implica que la capacidad cognitiva y de decisión del robot es similar a la del sujeto por quien se debe responder, asimilándose a los animales y entrando en juego la responsabilidad del propietario. Por último, se plantea la teoría de la responsabilidad del propietario del robot que es acorde a la dificultad de probar la negligencia del propietario, el carácter defectuoso del producto y el nexo de causalidad, por lo que se apelaría a una responsabilidad objetiva del propietario limitando el máximo de resarcimiento.
Lo cierto es que desde nuestro marco normativo el robot no puede ser considerado responsable de sus actos y de sus omisiones, por lo que desde el momento en que la máquina sea autónoma la normativa civil con la que contamos no será suficiente para imputarles responsabilidad jurídica.
En Europa contamos con la Directiva 85/374/CEE[15] -y con sus normas de transposición- pero no resulta suficiente al cubrir únicamente los daños producidos por los defectos de fabricación del robot siempre que el perjudicado pueda demostrar el daño real, el defecto que padece el producto y la relación de causalidad, en cuyo caso, la responsabilidad sería objetiva. No siempre es posible la atribución de la acción o de la omisión que causa el daño a la falta de diligencia de un humano.
Por ello, y para dar cobertura a las máquinas autónomas, en el sentido de que serán capaces de adaptarse, aprender e interactuar con su entorno, lo que conllevaría actuaciones imprevisibles y propias, se ha puesto de manifiesto la posibilidad e incluso la conveniencia de dotar a la máquina de personalidad jurídica.
El Parlamento Europeo[16] insta a la Comisión, entre otras medidas, a que realice una evaluación de impacto de una futura legislación con el objeto de explorar, analizar y considerar las implicaciones de soluciones jurídicas como la creación a largo plazo de personalidad jurídica específica para el robot, especialmente para aquellos autónomos de mayor complejidad que puedan considerarse personas electrónicas responsables de reparar los daños que causen. Ello implicaría aplicar esta personalidad electrónica a los casos en los que el robot decida de modo autónomo o interactúe con terceros de forma independiente. Hay que considerar que la autonomía y la capacidad de aprendizaje del robot implica la interacción con terceros, pudiendo derivar daños y teniendo que ser estos reparados.
El Dictamen del Comité Económico y Social Europeo sobre:
“la Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad”[17] abarca también la robótica y realiza una serie de recomendaciones de interés en esta materia entre las que cabe destacar además del control humano, la evaluación de la normativa de la Unión Europea. El CESE deja bien clara su postura de oposición a la “introducción de cualquier tipo de personalidad jurídica para los robots o la IA, puesto que socavaría los efectos correctores preventivos de la legislación en materia de responsabilidad, generaría un riesgo moral tanto en el desarrollo como en la utilización de la IA y daría lugar a un posible uso indebido”[18].
NÚÑEZ ZORRILLA[19] pone de manifiesto los temores que le suscita la creación de una personalidad jurídica específica para el robot, y con ello, la creación de un ente con capacidad jurídica propia y los riesgos que puede suponer para la seguridad humana, la intimidad, la integridad, la dignidad y la información personal, entre otros. Además, existen diferencias insalvables tales como que la persona no ha sido creada por el ordenamiento, sino que es preexistente y, además, goza de libertad, lo que no se ajusta a un robot que no es un ente completamente libre e independiente -ni lo debería ser-. Cierto es que la persona jurídica tampoco es preexistente, pero esta es un instrumento que el ordenamiento crea para el cumplimiento de determinados fines, sin que ostente la titularidad de determinados derechos como el de la vida o el de la integridad física.
Precisamente por ello, se consideró posible la creación de una personalidad jurídica específica en estos casos, de modo que, en beneficio de los humanos, se concibiera el robot como titular de derechos sin la consideración del estatus propio de la persona natural, como distinto es también el de las personas jurídicas. Este es el espíritu que impregna la Resolución sobre normas de Derecho civil sobre robótica del Parlamento Europeo:
“crear a largo plazo una personalidad jurídica específica para los robots, de forma que como mínimo los robots autónomos más complejos puedan ser considerados personas electrónicas responsables de reparar los daños que puedan causar, y posiblemente aplicar la personalidad electrónica a aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con terceros de forma independiente”[20].
La previsión estaría reservada al robot inteligente, cuyas características se describen en el mismo texto:
“capacidad de adquirir autonomía mediante sensores y/o mediante el intercambio de datos con su entorno (interconectividad) y el intercambio y análisis de dichos datos; capacidad de autoaprendizaje a partir de la experiencia y la interacción (criterio facultativo); un soporte físico mínimo; capacidad de adaptar su comportamiento y acciones al entorno; inexistencia de vida en sentido biológico”[21].
Sin embargo, es el propio Parlamento Europeo el que más adelante se opondrá a dotar de personalidad jurídica a los robots y abogará claramente por el control humano como principio insoslayable.
4. Alternativas a la personalidad jurídica del robot [arriba]
Si resulta remoto y desaconsejado atribuir personalidad jurídica al robot, solo resta que en el caso de que el robot produzca daños, estos sean imputados a la persona que tiene su control.
El cambio de paradigma que la atribución de personalidad jurídica al robot supondría y la difícil conciliación con la normativa en materia de responsabilidad de la realidad que se impone, ha derivado en alternativas que pasan por asignar la responsabilidad al usuario o al propietario del robot o responsabilizar al fabricante del mismo por el defectuoso funcionamiento de la máquina[22].
YÁÑEZ DE ANDRÉS[23] precisa que la ventaja de esta última opción es que ya está prevista en las leyes de responsabilidad por producto defectuoso, aunque no llega a cubrir todos los supuestos, concretamente los daños producidos no por el defecto de la máquina y, además, en ocasiones, será complicado precisar el responsable puesto que en la fabricación de un robot y en las modificaciones de la máquina participan muchos agentes. En cuanto a responsabilizar al usuario o al propietario, esta posibilidad goza igualmente de previsión, pero no sería justa en el caso de defectos en el funcionamiento. Por ello, otra posibilidad sería la combinación de ambos sistemas para imputar la responsabilidad por daños causados por el robot, complementada con un seguro obligatorio en previsión de los daños causados por la máquina.
En relación al seguro, el Parlamento[24] como solución a la insuficiencia normativa a la hora de asignar responsabilidad a la máquina insta a la Comisión a realizar una evaluación de impacto de un nuevo instrumento normativo que considere las implicaciones de establecer un seguro obligatorio cuando sea pertinente para categorías específicas de robots, similar al de los automóviles, de modo que los fabricantes o los propietarios estarían obligados a suscribirlo por los posibles daños y perjuicios, además de un fondo de compensación que garantizara la reparación de los mismos ante la ausencia de seguro.
No obstante, añade[25] que la diferencia con el régimen de seguros en la circulación por carretera es que este cubre tanto las actuaciones humanas como los fallos mecánicos, y un sistema de aseguramiento de robots debería considerar todas las responsabilidades potenciales en la cadena. Además, este sistema debería completarse con un fondo que garantizara la reparación de los daños en caso de ausencia de cobertura por parte del seguro. Solicita a la Comisión que se permita que el fabricante, el programador, el propietario o el usuario puedan ser beneficiados mediante un régimen de responsabilidad limitada si contribuyen a un fondo de compensación o si suscriben de modo conjunto un seguro que garantice la compensación de daños o perjuicios causados por el robot.
En lo que respecta a este régimen, el Parlamento Europeo insta a decidir acerca de la conveniencia de crear un fondo general para todos los robots autónomos inteligentes o uno individual para cada categoría, así como optar por la posibilidad de un canon único al introducir un robot en el mercado o realizar pagos periódicos durante la vida del robot.
Sería el número de matrícula individual el que relacionaría el robot con el fondo del que depende, lo que permitiría que cualquier persona que interactúe con el robot pueda conocer la naturaleza del fondo, los límites de su responsabilidad y los nombres y funciones de los participantes, así como otra información pertinente.
La Dirección General de Políticas de la Unión[26] señala la problemática que podría generar el establecimiento de un régimen de responsabilidad específico para los robots autónomos mientras el resto seguiría sujeto al régimen tradicional. Podría darse el caso de que ante un daño las partes prefirieran acudir a un régimen o a otro y los jueces se verían obligados a analizar, caso por caso, las características del robot implicado para comprobar si es o no inteligente a los efectos de determinar la ley aplicable. Ello requeriría que expertos tuvieran que determinar las capacidades de la máquina -y recordemos que el concepto de robot, y, más aún, la distinción del inteligente y del que no lo es no es cuestión pacífica-. La Dirección General considera esto como un efecto negativo ya que conduciría a incrementar los gastos procesales y a ralentizar los procesos judiciales. Por ello plantea como solución la aplicación del nuevo régimen para todos los robots, ya que, además, estos litigios, en realidad, serían planteados en circunstancias en las que se vería envuelto un robot inteligente.
5. La responsabilidad del robot por los daños a terceros. Bases de una nueva regulación [arriba]
El Parlamento Europeo, en el Anexo a la Resolución sobre Recomendaciones respecto al contenido de la propuesta solicitada[27] en relación a la responsabilidad civil determina que sea la solución jurídica elegida que fuera en esta materia, esta no debería limitar el tipo o el alcance de los daños y perjuicios que puedan ser objeto de compensación, y tampoco la naturaleza de la misma, con fundamento en que los daños han sido causados por un agente no perteneciente a la especie humana.
Por lo tanto, siendo que transitamos hacia la convivencia con robots autónomos inteligentes es necesario que avancemos en un futuro instrumento legislativo que establezca principalmente y en inicio si debe aplicarse la vía de la responsabilidad objetiva o la gestión de riesgos.
YÁÑEZ DE ANDRÉS[28] aboga por un derecho propio de los robots y de la inteligencia artificial y plantea una serie de líneas a considerar. En primer lugar, propone asignar responsabilidad por producto defectuoso a los fabricantes implicados en el mecanismo robótico de modo solidario frente al dañado, incluyendo al usuario, con responsabilidad directa del productor y subsidiariamente del proveedor. Se fijaría la responsabilidad interna entre los fabricantes como subjetiva, siendo objetiva frente al usuario, poseedor y dañado. En segundo lugar, propone el citado autor establecer un seguro obligatorio que cubra la responsabilidad del productor -en el ámbito médico debería fijarse una cobertura elevada- y un fondo de garantía para los casos de fallo en el funcionamiento del robot, así como establecer el derecho de repetición si hubiera culpa grave de los fabricantes. En tercer lugar, propone introducir la figura del derecho francés de la responsabilidad por “hechos de las cosas”, que implica que el usuario o poseedor actúa como garante o guardián del robot, por lo que siempre sería responsable objetivo de los daños que cause, en el caso de que no pueda aplicarse la responsabilidad por producto defectuoso. Por último, este criterio de responsabilidad residual se reforzaría con un seguro obligatorio, siempre con el respaldo de un fondo de garantía.
Ciertamente, optar por un sistema culpabilístico haría complicada la prueba en este ámbito, por lo que parece más acorde optar por la responsabilidad objetiva en conjunción a un sistema que contemple el riesgo y su aseguramiento.
El Parlamento Europeo[29], considera que el futuro instrumento legislativo debe resultar de una profunda evaluación de la Comisión acerca de si resulta de interés el enfoque de la responsabilidad objetiva o el de la gestión de riesgos. Hace referencia a que la responsabilidad objetiva únicamente requiere prueba de la producción de un daño o perjuicio y del nexo causal con el funcionamiento del robot. Observa, por otro lado, que el enfoque de gestión de los riesgos no se centra en la persona cuya actuación fue negligente como responsable, sino en la persona que es capaz, en determinadas circunstancias, de minimizar los riesgos y de gestionar el impacto negativo.
En cuanto a la graduación de la responsabilidad, el Parlamento Europeo[30] considera que tras la identificación de las partes a las que incumba la responsabilidad, esta debería ser proporcional al nivel de las instrucciones impartidas al robot, y presta especialmente atención a la figura del formador del robot, que si bien idealmente queda justificado, determinar en el caso concreto el grado de formación recibida por el robot y el límite de lo que corresponde a esa instrucción o al desarrollo autónomo de la máquina no sería tarea fácil. En este sentido, a mayor capacidad de aprendizaje y de autonomía del robot menor debería ser la responsabilidad del formador, y a la inversa, cuando menores fueran estas habilidades, mayor la responsabilidad del mismo.
Ante una situación límite, el Parlamento[31] recomienda en el Anexo y en relación a la licencia para los diseñadores, que estos integren mecanismos de salida evidentes, o teclas de interrupción de urgencia de modo coherente a los objetivos de diseño, lo que ha sido tildado de previsión del “botón de la muerte”.
Mientras no exista una normativa específica o se adapte el régimen de responsabilidad a la convivencia entre la persona y la máquina, cuando el robot cause daños la responsabilidad podrá ser imputada al fabricante, al programador, al propietario o al usuario, puesto que el robot no puede ser responsable. Ello se podrá sostener siempre y cuando la inteligencia artificial no llegue a superar a la humana[32], y el control del humano sobre la máquina se tambalee.
Por el momento, únicamente podemos contar con una regulación que no se ajusta a la realidad, y quedan como interrogantes fundamentales la naturaleza de la responsabilidad de quien asuma la responsabilidad por los daños causados por el robot y la responsabilidad que, en su caso, podría ser exigible al robot, en aquellos casos en los que a consecuencia del desarrollo de rasgos cognitivos autónomos el robot pueda interactuar con su entorno y su actuación sea propia y no ajena.
La Directiva 85/374/CEE, a través de las normas de transposición, prevé la cobertura de los daños ocasionados por los defectos de fabricación con las debilidades puestas de manifiesto, que el Parlamento Europeo señala en sus considerandos[33], en el sentido de que en materia de responsabilidad extracontractual puede ser insuficiente, puesto que el perjudicado tiene que poder demostrar el daño, el defecto del producto y la relación de causalidad.
Además, el Parlamento Europeo[34] también señala la aplicación de las normas de responsabilidad por una actuación que ocasione daños, en la que el usuario de un producto es responsable del comportamiento que causa un perjuicio. Establece[35] un sistema de responsabilidad objetiva para el fabricante, el operador, el propietario o el usuario, en los casos en los que el agente podía haber previsto y evitado el comportamiento del robot que produzca los daños.
Extiende en sus considerandos, el Parlamento Europeo las deficiencias al ámbito de la responsabilidad contractual[36], en tanto en cuanto las máquinas pudieran elegir a sus contrapartes, negociar las cláusulas contractuales, celebrar contratos y decidir sobre su aplicación. Ello requeriría nuevas normas acordes a la realidad de los nuevos avances tecnológicos.
La Dirección General de Políticas de la Unión[37], se hace eco de que si el robot causara un daño que puede ser originado a consecuencia del diseño o de la producción, que bien podría ser un fallo en el algoritmo, el diseñador o el productor deben ser considerados responsables. No obstante, el tipo de responsabilidad variaría en función de que el dañado comprara el robot, en cuyo caso procedería apelar a la responsabilidad contractual o si es un tercero el que lo adquirió, por lo que en ese caso estaríamos en la esfera de la responsabilidad extracontractual. Para evitar las dudas e incongruencias que ello pudiera generar convendría articular esta problemática en un futuro instrumento normativo y hacerlo compatible con la Directiva 85/374/CEE.
6. Robótica en el ámbito sanitario: la realidad que se impone a la norma [arriba]
En relación a la clasificación de robots con fines de salud, el Parlamento Europeo[38] hace referencia a los Robots asistenciales, a los Robots médicos y a los Robots de rehabilitación e intervenciones en el cuerpo humano.
6.1. Robots asistenciales
Esta tipología de robots se ha desarrollado con el propósito de prestar asistencia a los ancianos dependientes, y desarrollan funciones de cuidado y de supervisión continua. Así hay robots que informan de caídas a los servicios de emergencia, recuerdan las horas de la medicación o interaccionan con ancianos o con discapacitados en su estimulación cognitiva, además de acompañarles, incluso de trasladarles a una cama. No solo demuestran su utilidad para el colectivo de mayores, así el proyecto MOnarCH[39] ideó la utilización de robots sociales para interactuar con los niños que estaban ingresados en el Instituto de Oncología de Lisboa, surgiendo el robot Casper. Hay otros robots sociales, como Charlie, que ayudan a los niños diabéticos a controlar los niveles de azúcar[40].
El Parlamento Europeo[41] se hace eco de que con el paso del tiempo y a consecuencia de los progresos de la investigación el desarrollo de robots de asistencia geriátrica ha avanzado de modo que hoy son habituales, su coste es menor y su aceptación por los consumidores es mayor.
Los robots en este ámbito sirven a una gran gama de usos con funciones de prevención, de asistencia, de seguimiento, de estimulación y de compañía de las personas con edad avanzada o que padecen demencia, deterioro cognitivo y pérdida de memoria.
Respecto de estas aplicaciones hay que tomar en consideración que el contacto humano es fundamental y resultan necesarias medidas para evitar que la utilización de robots deshumanice la prestación de los cuidados. Por ello, se reserva para estos aquellas tareas automatizadas lo que permitirá incrementar la atención humana, traduciéndose en que el personal médico y asistencial podrá dedicar más tiempo al diagnóstico y a planificar el tratamiento. El Parlamento Europeo incide en que a pesar del potencial de la robótica para mejorar la movilidad y la integración de las personas con discapacidad o de edad avanzada, siempre serán necesarios cuidadores humanos para mantener la insustituible interacción social.
6.2. Robots médicos
En el campo quirúrgico, el robot Da Vinci es el más utilizado, permitiendo al cirujano realizar intervenciones complejas a través de una mínima invasión. Se lanzó al mercado en 1999 y ha vino a revolucionar la cirugía robótica.
Su ventaja respecto a la intervención realizada por un cirujano humano sin acompañamiento robótico es la posibilidad de visión completa en tres dimensiones y en alta resolución, frente a una imagen de resolución más baja y con un campo más limitado de la técnica tradicional. A su vez, el sistema electrónico de brazos quirúrgicos del robot de un centímetro de diámetro permite al cirujano actuar con alta precisión dentro de la incisión realizada. Ello supone la posibilidad de mejora en la eliminación del tejido maligno y con ello disminuir la posibilidad de recaída, así como evitar dañar el tejido sano.
No es Da Vinci un robot que opere de modo autónomo, por lo que responde a las consideraciones realizadas por los documentos europeos que proyectan la futura regulación de la robótica: la máquina controlada por el humano y, en mayor medida, en el ámbito sanitario.
El Parlamento Europeo señala[42] la importancia de educar, formar y preparar adecuadamente a los profesionales de la salud con el objeto de garantizar la máxima competencia profesional para proteger y salvaguardar la salud de los pacientes y, además, incide en la necesidad de definir los requisitos profesionales mínimos con los que deberá contar un cirujano para operar con robots quirúrgicos.
Se parte del principio fundamental del respeto al principio de autonomía supervisada de los robots, conforme a la cual la programación inicial de los cuidados y la elección final sobre la ejecución correspondería en todo caso al ámbito de decisión humana. En relación a ello, y en concreto, a la responsabilidad civil en este ámbito, por el momento, las recomendaciones del Parlamento Europeo indican, como hemos apuntado, que la máquina debe ser operada por el humano[43].
También resulta necesaria[44] la formación del usuario para familiarizarse con la tecnología y, de hecho, existe una creciente tendencia al autodiagnóstico mediante el uso de robots móviles, si bien estos usos no deberían disminuir ni constituir un perjuicio en la relación entre el médico y el paciente, sino proporcionar al médico asistencia para el diagnóstico y el tratamiento del paciente con el objeto de disminuir el error humano y de aumentar la calidad y la esperanza de vida.
Considera que los robots en medicina avanzan cada vez más hacia la ejecución de cirugías de alta precisión, así como en la realización de procedimientos repetitivos, pudiendo mejorar los resultados de la rehabilitación y proporcionar un apoyo logístico eficaz en los hospitales. En relación a los dispositivos robóticos médicos implantados en el cuerpo humano se solicita a la Comisión que garantice su seguridad.
El robot Da Vinci es una herramienta para el cirujano, ya que le permite operar sin temblores, el acceso a espacios complicados para dedos y para pinzas y obtiene imágenes de alta definición adaptándose al zoom requerido por el cirujano. Como otros beneficios propios de esta tecnología, se puede hacer referencia a menor grado de dolor y riesgo de infección, menos pérdida de sangre, menor riesgo de complicaciones, cicatrices más pequeñas y menor estancia hospitalaria. En un futuro próximo se prevé, a través de la tecnología 5G, realizar cirugías a distancia con estos robots[45].
6.3. Rehabilitación e intervenciones en el cuerpo humano
La robótica aplicada a la rehabilitación es un gran avance en la rehabilitación de miembros paréticos, afectados, en consecuencia, por una parálisis parcial o debilitamiento de la contractilidad de la musculatura -como puede suceder a consecuencia de un ictus-. Las neurociencias han demostrado que los movimientos repetitivos intensos son capaces de estimular nuevos circuitos neuronales, lo que se ha dado en llamar como plasticidad cerebral. En este caso el robot emula a un fisioterapeuta y facilita la recuperación motora a través de videojuegos, ensamblándose brazos robóticos exoesqueléticos en los miembros superiores o inferiores del paciente[46].
Un paso más, es la utilización de prótesis biónicas para pacientes amputados. Hoy ya se prueban prótesis que se integran en el hueso del muñón y conectan con los nervios motores para permitir movimientos naturales, con sensores, que permiten al paciente la capacidad de sentir[47].
El Parlamento Europeo constata[48] los progresos de la robótica y su potencial en la rehabilitación de órganos dañados y en el restablecimiento de funciones corporales, si bien es consciente de que los robots médicos y los sistemas ciberfísicos pueden cambiar la concepción en relación al cuerpo humano. Apela, para suavizar el impacto, al establecimiento de comités de ética sobre robótica en los hospitales e instituciones sanitarias para examinar y contribuir a la resolución de problemas éticos y complejos generados en torno al cuidado y al tratamiento de los pacientes.
En relación a las prótesis robóticas señala la necesidad de garantizar el acceso continuo al mantenimiento, la mejora y las actualizaciones de software para subsanar fallos y vulnerabilidades.
Recomienda crear entidades de confianza independientes para proporcionar a quien lleve dispositivos médicos vitales y avanzados los servicios necesarios de mantenimiento, reparaciones y mejoras, entre las que se debe incluir la actualización de software, especialmente en los casos en los que el proveedor original deje de prestar los servicios, para lo que se propone la obligación de que los fabricantes proporcionen instrucciones de diseño global, entre las que se incluiría el código fuente, a estas entidades de confianza propuestas con un modelo similar al del depósito legal de publicaciones.
Llama la atención sobre la prioridad de que se protejan los sistemas integrados en el cuerpo de la manipulación, de la desconexión o del borrado de la memoria por el peligro para la salud y/o la vida que podría suponer uno de estos incidentes.
Destaca la importancia de garantizar la igualdad en el acceso a las innovaciones tecnológicas, a los instrumentos y a las intervenciones y, en especial, la atención a los derechos de las personas con discapacidad.
La humanidad se encuentra a las puertas de una era en la que los robots llegan dispuestos a desencadenar una revolución y un cambio de paradigma. En este sentido, resulta de vital importancia encontrar el equilibrio entre el avance médico necesario y las normas jurídicas, que, sin obstaculizarlo, sean adecuadas en materia de responsabilidad.
El presente trabajo se ha realizado financiado por el Proyecto de I+D+i DERECHO Y MEDICINA: DESAFIOS TECNOLOGICOS Y CIENTIFICOS (DEMETYC) PID2019104868RA-I00 / AEI /10.13039/501100011033
ASIMOV, I., Círculo vicioso. Los robots. Trad. Domingo Santos. Barcelona: Martínez Roca, 1989.
BARRIO ANDRÉS, M., “Hacia una personalidad electrónica para los robots”, Revista de Derecho Privado, núm. 102, 2018.
DÍAZ ALABART, S., Robots y responsabilidad civil, Reus, Madrid, 2018.
LÓPEZ VÁZQUEZ, M.A., “Hola, me llamo robot y soy su médico”, Rev. Pediatr. Aten. Primaria, vol. 21, 2019.
MARCO MOLINA J., La responsabilidad civil del fabricante por productos defectuosos. Fundamento y aplicación, Atelier, Barcelona, 2007.
NÚÑEZ ZORRILLA, M.C., “Los nuevos retos de la Unión Europea en la regulación de la responsabilidad civil por los daños causados por la inteligencia artificial”, Revista Española de Derecho Europeo, núm. 66, Civitas, 2018.
PALMERINI, E., “Robótica y derecho: sugerencias, confluencias, evoluciones en el marco de una investigación europea”, Revista de Derecho Privado, núm., 32, Bogotá, junio 2017.
RAMÓN FERNÁNDEZ, F., “Robótica, inteligencia artificial y seguridad: ¿Cómo encajar la responsabilidad civil?”, Diario La Ley, N° 9365, Sección Doctrina, Wolters Kluwer, 25.2.2019.
RODRÍGUEZ LLAMA, S., Régimen de responsabilidad civil por productos defectuoso, Aranzadi, Pamplona, 2002;
SÁNCHEZ BARRILAO, J.F., «Derecho constitucional, desarrollo informático e inteligencia artificial: aproximación a la propuesta del Parlamento Europeo a favor de una “regulación sobre robótica”» en Retos jurídicos por la sociedad digital, VALLS PRIETO, J. (coord.), Aranzadi, Cizur Menor, 2018;
TOMÁS MARTÍNEZ, G., “¿Puede un robot ser responsable por causar daños?: primeras reflexiones ante el nuevo reto europeo de innovación legal” en Culpa y responsabilidad, PRATS ALBENTOSA L.; TOMÁS MARTÍNEZ, G. (coords.), Thomson Reuters-Aranzadi, Cizur Menor, 2017.
YÁÑEZ DE ANDRÉS, A., “Robótica y responsabilidad”, Diario La Ley, N° 40, Sección Ciberderecho, Wolters Kluwer, 9.6.2020.
*Profesora Titular de Derecho Civil. Universidad de las Islas Baleares (España).
[1] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica 2015/2013(INL)) P8_TA(2017)0051.
https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_ES.pdf
[2] Se recogieron por vez primera en el relato corto Runaround publicado en 1942 en la revista Astounding Science Fiction. Se puede encontrar en ASIMOV, I., Círculo vicioso. Los robots. Trad. Domingo Santos. Barcelona: Martínez Roca, 1989.
[3] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica…op. cit.
[4] Sobre la materia BARRIO ANDRÉS, M., “Hacia una personalidad electrónica para los robots”, Revista de Derecho Privado, núm. 102, 2018; DÍAZ ALABART, S., Robots y responsabilidad civil, Reus, Madrid, 2018; SÁNCHEZ BARRILAO, J.F., «Derecho constitucional, desarrollo informático e inteligencia artificial: aproximación a la propuesta del Parlamento Europeo a favor de una “regulación sobre robótica”» en Retos jurídicos por la sociedad digital, VALLS PRIETO, J. (coord.), Aranzadi, Cizur Menor, 2018; TOMÁS MARTÍNEZ, G., “¿Puede un robot ser responsable por causar daños?: primeras reflexiones ante el nuevo reto europeo de innovación legal” en Culpa y responsabilidad, PRATS ALBENTOSA L.; TOMÁS MARTÍNEZ, G. (coords.), Thomson Reuters-Aranzadi, Cizur Menor, 2017.
[5] Resolución del Parlamento Europeo, de 12 de febrero de 2019, sobre una política industrial global europea en materia de inteligencia artificial y robótica (2018/2088 (INI)) P8_TA(2019)0081.
https://www.europarl.europa.eu/doceo/document/TA-8-2019-0081_ES.pdf
[6] Resolución del Parlamento Europeo, de 12 de febrero de 2019, sobre una política industrial global europea en materia de inteligencia artificial y robótica, op. cit., Considerando AK.
[7] Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establece el programa Europa Digital para el período 2021-2027. Bruselas 6.6.2018.
https://eur-lex.europa.eu /resource.html ?uri=cellar:32 1918fd-6af4-1 1e8-9483-01 aa75ed71a1.00 07.02/DOC_1&f ormat=PDF
[8] Real Decreto 1591/2009, de 16 de octubre, por el que se regulan los productos sanitarios. BOE núm. 268, de 16.10.2009.
[9] Art. 1.a Real Decreto 1591/2009.
[10] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., 78 ss.
[11] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., Considerando AB.
[12] Anexo Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., 1.
[13] RAMÓN FERNÁNDEZ, F., “Robótica, inteligencia artificial y seguridad: ¿Cómo encajar la responsabilidad civil?”, Diario La Ley, N° 9365, Sección Doctrina, Wolters Kluwer, 25.2.2019.
[14] PALMERINI, E., “Robótica y derecho: sugerencias, confluencias, evoluciones en el marco de una investigación europea”, Revista de Derecho Privado, núm., 32, Bogotá, junio 2017.
http://www.scielo.org.c o/scielo.php?sc ript=sci_arttext &pid=S0123-43 662017000 100053
[15] Directiva del Consejo de 25 de julio de 1985 relativa a la aproximación de las disposiciones legales, reglamentarías y administrativas de los Estados miembros en materia de responsabilidad por los daños causados por productos defectuosos (85 /374/CEE). DOCE núm. L 2010/29.
[16] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., 59.f.
[17] Dictamen del Comité Económico y Social Europeo sobre la «Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad» (Dictamen de iniciativa) (2017/C 288/01).
https://eur-lex .euro pa. eu/legal-cont ent /ES/TXT/P DF/? uri=CELEX 5 2016IE5 369 &from=ES
[18] Dictamen del Comité Económico y Social Europeo sobre la Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad, op. cit., Conclusión 1.12.
[19] NÚÑEZ ZORRILLA, M.C., “Los nuevos retos de la Unión Europea en la regulación de la responsabilidad civil por los daños causados por la inteligencia artificial”, Revista Española de Derecho Europeo, núm. 66, Civitas, 2018, pág. 11 (BIB 2018/9706).
[20] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., 59.f.
[21] 1. Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., 1.
[22] Véase RODRÍGUEZ LLAMA, S., Régimen de responsabilidad civil por productos defectuoso, Aranzadi, Pamplona, 2002; MARCO MOLINA J., La responsabilidad civil del fabricante por productos defectuosos. Fundamento y aplicación, Atelier, Barcelona, 2007.
[23] YÁÑEZ DE ANDRÉS, A., “Robótica y responsabilidad”, Diario La Ley, N° 40, Sección Ciberderecho, Wolters Kluwer, 9.6.2020.
[24] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., 59 a y b.
[25] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., 57, 58 y 59.
[26] Dirección General de Políticas de la Unión, European Civil Law Rules in Robotics, pág. 17
https://op europa.eu/e s/publication-d etail/-/public ation/19ea0f 1c-9ab0-11e6-8 68c-01aa75ed71a 1/language -en/format-PDF/ source-70693082
[27] Anexo Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit.
[28] YÁÑEZ DE ANDRÉS, A., “Robótica y responsabilidad”, op. cit.
[29] Anexo Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., 53ss.
[30] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., 56.
[31] Anexo Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit.
[32] Anexo Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., Considerando PA.
[33] Anexo Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., Considerando AE.
[34] Anexo Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., Considerando AH.
[35] Anexo Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., Considerando AD.
[36] Anexo Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., Considerando AG.
[37] Dirección General de Políticas de la Unión, European Civil Law Rules in Robotics, op. cit., pág. 18
[38] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., 31ss.
[39] https://www.monarch-fp7.eu/
https://ec.europa.eu/digital-single-market/en/blog/monarch-robot-system-helps-children-hospitals
[40] LÓPEZ VÁZQUEZ, M.A., “Hola, me llamo robot y soy su médico”, Rev. Pediatr. Aten. Primaria, vol. 21, 2019, págs. 339-340.
[41] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., 31 y 32.
[42] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., 33, 34 y 35.
[43] Así se establece igualmente en el punto AK de la Resolución del Parlamento Europeo, de 12 de febrero de 2019, sobre una política industrial global europea en materia de inteligencia artificial y robótica, op. cit.
[44] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., 33, 34 y 35.
[45] LÓPEZ VÁZQUEZ, M.A., “Hola, me llamo robot y soy su médico”, op. cit.
[46] Idem.
[47] Idem.
[48] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, op. cit., 36-40.
