81.- La responsabilidad cívica de los robots.
 
Supongamos que una ama de casa (por ejemplo llamada Ama Rosa o simplemente María ya que se me vienen a la memoria debido a recuerdos infantiles y asi no es así que se lo pregunten a las abuelas que vivieron su plena jueventud en los años 50 del siglo XX después de Jesucristo y verán cómo sí es cierto y estoy diciendo la verdad) se compra un robo doméstico para que haga todos los días la comida porque ella tiene que ir todos los días a la peluquería para ponerse más guapa y a la peluqueria de perros para poner más guapa a su "Fifí" y uno de esos días, de repente y sin previo aviso, se quema la comida, se quema la sartén, se quema la cocina entera y se quema toda la vivienda quemándose, de paso y sin previo aviso, las tres viviendas de los vecinos que viven en el mismo piso. ¿Cuánta puede ser la responsabilidad cívica de ese robot doméstico?, ¿un robot doméstico puede ir a la cárcel? ¿Osimagináis la que se peude armar, con esto de la responsabilidad civil, si los robots sustituyeran a los doctores para hacer intervenciones a vida a muerte mientras dichos doctores están tranquilamente, y sin dar ni golpe, tomando café con leche en la cafetería del Hospital Morales Meseguer de la ciudad de Murcia por poner un ejemplo?
 
Más que de un problema de "andar por casa" nos estaríamos enfrentando a una verdadera problemática de carácter social. Así que comencemos por preguntarnos ¿cuáles son los obstáculos que enfrenta hoy la robótica? Según el profesor Michio Kaku, lograr que aprendan a responder a partir de estímulos ambientales, y una mayor precisión y rapidez son algunas de las asignaturas pendientes. "Actualmente, las capacidades intelectuales que tienen los robots pueden compararse con las de un insecto. A lo mejor, en diez años se consigan máquinas con el intelecto de un ratón; los más optimistas consideran que en unos cincuenta años se podrán conseguir robots semejantes a un ser humano", dijo a "La Nación" de Argentina el profesor de física Michio Kaku, de la City University de Nueva York. "A mí esto último me parece difícil porque dentro de unos veinte años va a empezar a escasear el silicio", agregó con una buena dosis de ironía.
 
La falta de silicio para los chips con que se fabrican los circuitos integrados de los robots no es el único problema de aquellos que se dedican a diseñar y construir estas máquinas. Conseguir que se muevan como los seres humanos, que su aspecto sea parecido al nuestro, que aprendan y luego puedan tomar decisiones de manera autónoma, que perciban y diferencien los elementos que conforman el mundo que los rodea, son solamente algunos de los inconvenientes que enfrentan desde hace años los fabricantes de autómatas. Son muchas las cosas sorprendentes que se han logrado en los últimos años en el campo de la robótica y sus aplicaciones: robots capaces de subir escaleras y evitar obstáculos a su paso; otros que colaboran con tareas hogareñas, como cortar pasto y programar la vídeo; rostros que pueden responder con gestos humanos ante diversos estímulos, entre otros.
 
Pero aun así, antes de que se llegue a conseguir un humanoide perfecto seguramente se podrán filmar unas cuantas versiones más de "Terminator". "Hay áreas donde la robótica todavía está en pañales -aseguró Kaku-. Una de ellas es el reconocimiento de patrones. Con una cámara incorporada los robots pueden conseguir posibilidades de visión más desarrolladas que las humanas. Pero el problema es que entiendan lo que ven. "Se ha logrado que diferencien formas geométricas muy definidas, movimientos lineales o colores, pero las cosas se complican si queremos que se trasladen en un cuarto cerrado con cierta velocidad y precisión en sus movimientos o más si pretendemos que reconozcan una cara nueva. Al ver en acción un robot se toma conciencia de la sorprendente cantidad de cosas que puede hacer y que entiende del mundo que lo rodea un chico de cinco años." 
 
En el documental "Robo Sapiens", que emitió "Discovery Channel" y en el cual ofició como presentador Michio Kaku, se reseñan los proyectos más importantes en los que se está trabajando actualmente en robótica en Estados Unidos, Japón y en varios países de Europa.
Este documental muestra que, en la gran cantidad de prototipos sobre los que se investiga en la actualidad, el conjunto de los problemas que tratan de resolver los científicos pasa por cuestiones básicas como conseguir que los robots puedan entender lo que perciben, aprender a partir de ese entendimiento, actuar sobre la base de la experiencia que les da el aprendizaje y brindar respuestas que puedan ser comprendidas por el hombre.
 
El proyecto Inteligencia Computacional Aplicada a la Robótica Cooperativa, en el que está trabajando un grupo de investigadores del Departamento de Computación de la Facultad de Ciencias Exactas y Naturales, de la UBA, es una manera muy original de abordar la búsqueda de modelos teóricos y mecanismos que permitan resolver algunos de estos problemas. En la actualidad trabajan para desarrollar habilidades en microrrobots para que puedan jugar al fútbol entre ellos. "Trabajar con fútbol de robots es simplemente una excusa para estudiar varios problemas complejos con los que se enfrenta la robótica y que, una vez que uno encuentra la manera de solucionarlos en ese juego, pueden ser aplicados a otras áreas", explica el doctor Juan Miguel Santos, al frente del equipo de investigadores de la UBA.  Los problemas a los que se refiere son, entre otros, encontrar la manera en que el robot pueda diferenciar las formas y los colores que obtiene de una cámara (para reconocer la pelota, por ejemplo), saber en qué lugar del espacio se encuentra en cada momento (para saber en qué dirección están el arco al cual patear, sus compañeros y los contrarios) y cómo lograr que el aparato aprenda a trasladarse desde un punto a otro con la rapidez y la precisión adecuadas.
"Desafíos de este tipo se presentan cuando se quiere diseñar una máquina que controle una plantación para eliminar vegetales atacados por una plaga, por decir algo. En ese campo va a encontrar obstáculos, va a tener que diferenciar, por la detección de formas o colores, las plantas sanas de las enfermas, entre otras cosas", dice Santos.  Una aplicación que puede darse en la Argentina mucho antes de que se acabe el silicio.
 
"La mayoría de las investigaciones y el desarrollo de los proyectos más importantes en robótica se realizan actualmente en Estados Unidos, Japón y Europa. Pero eso no excluye que otro país que quiera dar el salto y ubicarse en una posición de vanguardia pueda hacerlo. Claro, eso implica un compromiso a largo plazo que dedique importantes recursos destinados a esos proyectos y, por supuesto, una clara visión de futuro sobre la importancia de hacerlo", opina el doctor Michio Kaku. Muchos científicos y docentes que trabajan en esta temática en la Argentina coinciden con él. Uno de ellos es el doctor Benjamín Kochen, actual rector de la Universidad de San Juan, que desde 1983 dirige el Instituto Nacional de Automática (INAUT), que depende de esa casa de estudios y es uno de los lugares más importantes de aquel país dedicados a la investigación y el desarrollo en robótica.  "En los planos de la producción teórica y la investigación aplicada no tenemos nada que envidiarle a nadie. Donde hay retraso, sí, es en la implementación de estos desarrollos en sus posteriores aplicaciones concretas. Las ecuaciones económicas todavía no cierran para que el Estado o las empresas fomenten en gran escala el desarrollo robótico en nuestro país. Por eso, conseguir algunos resultados que nos permitan cerrar esas ecuaciones es hacia donde apuntan nuestros proyectos en el instituto".
 
He aquí, dentro del contexto general de la responsabilidad civil de los robots, un texto titulado "Ética y Robótica" que se encuentra en Internet: La robótica es la rama de la tecnología que se dedica al diseño, construcción, operación, disposición estructural, manufactura y aplicación de los robots. La robótica combina diversos disciplinas como son: la mecánica, la electrónica, la informática, la inteligencia artificial y la ingeniería de control. Otras áreas importantes en robótica son el álgebra, los autómatas programables y las máquinas de estados. En la actualidad las tareas que realizan los robots son aquellas que puedan presentar algún riesgo al ser humano o que necesitan de gran precisión.
 
En los comienzos de la robótica Isacc Asimov público en 1942, las Leyes que la regían; lo hacía para evitar que un robot pudiese dañar a un ser humano.
 
1. Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley.
 
Estas leyes de cierto modo se derivaban del imperativo moral establecido por Kant; en un principio se cumplían, pero los tiempos cambian, los robots ya están entre nosotros, y parece que lo que hace furor es el robot armado para la guerra y no la "doméstica cibernética" o el "trabajador robótico". Esto convirtió al código de conducta para seres artificiales en un tema bastante vago dentro de la robótica, sin tener una discusión desfavorable en su aplicación.
 
Algunos puntos que se podrían observar dentro de la ética de la robótica son:
1) El uso responsable e irresponsable que algunas personas hacen con algunos objetos tecnológicos.
2) Cómo los seres humanos deben de tratar a los objetos tecnológicos, como los robots autónomos o de usos militares.
3) Los problemas que se pudieran llegar a generar por la interacción de los robots y los seres humanos.
 
En cuanto al primer punto, y en general, lo que preocupa no es tanto la tecnología en sí misma, sino la utilización que se puede hacer de ella. Dado que las investigaciones científicas y los objetos tecnológicos tienen el poder de afectar a toda la humanidad, las decisiones sobre su curso actual y futuro no deben involucrar únicamente a los científicos, los empresarios y los gobernantes. Es necesario que la mayoría de la gente tenga una participación mucho más activa a fin de fijar los límites adecuados.
 

Los científicos están impresionados y alarmados por los avances en la inteligencia artificial, ellos discuten si debería de haber límites sobre la investigación que podría conducir a la pérdida del control humano sobre los robots autónomos. Ya que se están utilizando varios robots para la guerra. Con tantos conflictos militares ha habido grandes avances tecnológicos en el área militar. Por ejemplo en el 2007 había más de 5 mil robots militares en Iraq, en su mayoría eran buscadores de explosivos. Esto nos plantea una idea bastante preocupante, y es que los robots no tardan en tener ametralladoras o lanzamisiles. Cuánto más tardaran los gobiernos en diseñar este tipo de robot, si en la actualidad ya existen varios aviones sin pilotos. Como los global hawks que sirven como aparatos de espionaje.
 
Se está presentando una revolución en el campo de batalla, se está cambiando no solamente las guerras que se están peleando, sino también la política, la economía, las leyes y la ética que rodea la guerra. Como podemos ver el mundo ahora se está preparando para tener guerras en lugares donde nunca se habían pensado pelear. Uno solo puede esperar por lo mejor y que los nuevos robots no generen futuros conflictos entre naciones. El uso de los robots está generando más preocupación y discusiones éticas. En especial con las nuevas ideas que se están generando para diseñar robots que usen armas. Debido a esto la ética de los robots es un tema bastante controversial y está atrayendo la atención de los medios. No solo la robótica militar preocupa a los medios, también la marina estadounidense ha reconocido la urgencia de redefinir la nueva ética del campo de batalla.
 
Conforme va avanzando la tecnología nos vamos encontrando con más y más cuestiones que nos ponen a pensar sobre los fundamentos de nuestra ética como personas y sociedad. Como sociedad estamos llegando al punto en donde debemos de tomar una decisión sobre nuestra opinión del futuro de los robots militares. Realmente queremos tener guerras en las que participen robots junto con los seres humanos. Pero cuando estén los robots en la zona de guerra se nos podrán presentar varios dilemas como los siguientes.

Recientemente un equipo internacional de científicos y académicos -pertenecientes a EURON (EUropean RObotics research Network)- elaboró un prototipo de "código de ética". A grandes rasgos, sus recomendaciones son las siguientes:
 
· Asegurarse el control de los humanos sobre los robots.
• Prevenir su utilización nociva o ilegal.
• Proteger los datos obtenidos por los robots.
• Rastrear y grabar la actividad de los robots.
• Brindar una identificación única a cada robot.  
 
Se sabe que una persona es autónoma cuando: se cuestiona los valores que su familia y la sociedad le imponen, reflexiona sobre sus acciones y las acciones del mundo, no se rige por lo que le dicen, y busca la felicidad en lo que hace. ¿Pero que define que un robot sea autónomo? Un robot es autónomo cuando pueda hacer sus funciones sin la ayuda o el control de un ser humano. En la actualidad no hay mucho problema con esto, porque la mayoría de los robots que son autónomos son juguetes o sirven para diseñar ciertas actividades. El mayor problema con los robots autónomos es cómo se les enseña a respetar la vida y de acuerdo a qué criterio. Si nosotros como personas estamos teniendo conflictos con la ética que se nos presenta ¿cómo le podemos enseñar a un robot a respetar la ética? Este dilema es con el que se están presentando la mayoría de los científicos, que están desarrollando la robótica militar. Ya que existe el deseo de diseñar robots que sean autónomos y que tengan armas. Este dilema nos lleva directamente a hablar sobre ¿cómo un robot podría saber que algo está bien y que algo está mal?
 
La necesidad de diseñar un robot militar que pueda usar armas surge de la necesidad de cuidar y preservar la vida humana en un conflicto bélico. Es por esto que la ética debe de ser tomada con mayor consideración por aquellos que están diseñando los robots militares. Ya que son ellos los que les dictarán a los robots qué hacer y qué no hacer. Lo que definirá que el que un robot este haciendo el bien o el mal será la perspectiva de los científicos hacia los dilemas éticos. Una posible solución podría ser que se diseñen nuevos códigos de ética para la robótica y áreas relacionadas con la ingeniería.
 
El respeto a la dignidad humana es de suma importancia. Porque al mantener el respeto hacia uno mismo y hacia los demás podremos asegurarnos que vamos a vencer cualquier obstáculo. La dignidad es la esencia del ser, son los valores que integran a una persona y lo que le ayuda a definir su perspectiva en cuanto a los dilemas morales y éticos. Los seres humanos son libres de decidir qué acción tomar en ciertas circunstancias. Todo ser humano tiene dignidad y valor inherentes, solo por su condición básica de ser humano. El valor de los seres humanos difiere del que poseen los objetos que usamos. Las cosas tienen un valor de intercambio. Son reemplazables. Los seres humanos, en cambio, tienen valor ilimitado puesto que, como sujetos dotados de identidad y capaces de elegir, son únicos e irreemplazables. Al haber establecido que era el respeto a la dignidad humana se nos presentan varias preguntas y dilemas éticos. Pero para los robots cómo se les puede enseñar el respeto a la dignidad humana. Cuando un robot militar tenga armas debemos de preguntarnos si realmente los debemos de hacer autónomos. Ya que en los conflictos bélicos frecuentemente se nos presenta hechos en donde vemos que los derechos humanos han sido violados. Si permitimos que los robots traigan armas vamos a ver que los gobiernos comenzarán a justificar este hecho diciendo que deben de cuidar las vidas de sus soldados.
 
Termino el tema volviendo al problema planteado al principio. ¿Puede un robot tener tanta responsabilidad civil como para terminar sus días dentro de una cárcel por haber sido el culpable del incendio de varias viviendas cuando estaba haciendo la comida de una señora que estaba en la peluquería arreglándose el moño? 
 
Me lo responde cierta Nota de Justicia y Derecho que encuentro navegando por las redes sociales. ¿Puede un robot tener responsabilidad civil o penal? El debate sobre la posibilidad de atribuir algún tipo de personalidad jurídica a los robots ha saltado a la actualidad durante los últimos meses, para entusiasmo de los tecnólogos y pasmo de más de un jurista. Se trata de un tema apasionante que ha sido objeto de análisis en el reciente primer congreso sobre aspectos legales de la robótica, organizado por la Fundación para la Investigación sobre el Derecho y la Empresa(FIDE).
 
El director del evento, Alejandro Sánchez del Campo, autor del conocido blog Replicante digital, ya se había manifestado meses atrás a favor de esta opción: "sugiero que empecemos a plantear la posibilidad de que estas máquinas puedan tener obligaciones o incluso algún tipo de personalidad reconocida legalmente. Puede parecer disparatado pero no debemos olvidar que el derecho tiene que adaptarse a la realidad." Y en su intervención inicial, Antonio Garrigues Walker, presidente de la Fundación Garrigues y que a sus ochenta y dos años puede presumir de una envidiable modernidad, hizo suya la propuesta al señalar que estamos asistiendo al nacimiento de un nuevo Derecho tecnológico y científico, en el que considerar la posibilidad de reconocer a los robots una "personalidad eléctrica", con derechos y obligaciones específicos, no debería asustarnos. Esta posible personalidad, señaló, no sería una ficción muy diferente de la personalidad jurídica atribuida a diferentes entidades en nuestro ordenamiento desde hace mucho.
 
Para situar el marco del debate, Juan Carlos Lorente, responsable de desarrollo de negocio de robótica de GMV, se ocupó de presentar con precisión lo que es un robot y los principales tipos que existen. Según la RAE, un robot es una "Máquina o ingenio electrónico programable, capaz de manipular objetos" y realizar operaciones antes reservadas solo a las personas, añade. Este concepto es el actual, pero se trata de un concepto que evoluciona con el tiempo, y no se tiene claro lo que será un robot mañana. Pese a ello, no resulta fácil definirlos, porque un robot a veces es un producto y a veces parte de una solución.
Con todo, apuntó la existencia de tres tipos principales de robots: los industriales, los de servicios profesionales y los de servicio doméstico o personal. La robótica industrial, destinada a facilitar la fabricación de bienes fue el principio, pero se considera que el futuro estará en los robots de servicios.
 
Avanzando en el tema, Pablo García Mexía , profesor visitante de Derecho de internet en el College of William & Mary y Off counsel de Ashurst LLP, avanzó los posibles aspectos a tener en cuenta a la hora de regular estos derechos de los robots. En principio, según la concepción civilista, solo el capaz es persona. Pero ¿puede haber entes que no sean persona? ¿Que puedan contraer derechos y obligaciones, o comparecer en juicio o cometer un delito? ¿Cabe pensar en un Ente Capaz No Personal (ECNP), capaz de pensar, aprender, percibir, decidir y hasta sentir, al que pueda reconocerse una personalidad electrónica. Según García Mexía esta regulación tendría sentido con dos finalidades principales: limitar los riesgos derivados del funcionamiento de estos sistemas y garantizar las responsabilidades derivadas de los daños que pudiesen causar con su funcionamiento.
¿Quiénes tendrían esa personalidad? Particularmente los entes técnicamente más complejos, aunque no está claro si este concepto implica necesariamente características antropomórficas. ¿Qué derechos se les podría reconocer? Desde luego no los constitucionales, que son propios de las personas, pero sí algunos derechos patrimoniales, con la finalidad de garantizar su posible responsabilidad por daños causados. Por esta razón, sí podrían disponer de algún tipo de tutela jurisdiccional. ¿Qué obligaciones podrían exigírseles como consecuencia de los derechos que se les reconocieran? Básicamente dos: previsibilidad de su actuación y responsabilidad civil por las consecuencias dañosas derivadas de sus actos (si bien se plantea también una responsabilidad fiscal como consecuencia del incumplimiento de obligaciones de ese tipo). Finalmente García Mexía planteó el inquietante tema de qué sucederá si, como consecuencia del desarrollo de una superinteligencia artificial, un día ese tipo de entes llega a tomar autoconciencia de su existencia y realizar por tanto actos intencionales, con conciencia del bien y del mal. En esta situación podría ser más dudosa la negativa a reconocerles algún derecho de la personalidad.
 
El notario Francisco Rosales de Salamanca aportó otro enfoque al debate: una cosa es la personalidad y otra la capacidad jurídica. En su opinión, reconocer derechos o personalidad jurídica a un robot no es algo particularmente complejo. En la actualidad ya se puede constituir una sociedad aportando un robot, señaló. Los problemas que surgen son de tipo más práctico. Por un lado, el juicio de capacidad de un robot, que es algo que los notarios realizan cotidianamente respecto de las personas físicas, identificándoles y valorando su capacidad de obrar. En el caso de un robot el juicio sobre esa capacidad va a requerir analizar un software, y eso no lo puede hacer un notario. Para empezar, señaló, el software de control de un robot es un sistema cerrado, en principio no se puede intervenir sobre él. ¿Qué problemas pueden causar en este sentido cuestiones como la obsolescencia tecnológica?
El problema es quien puede ejercer esos derechos del robot, con qué requisitos, en qué condiciones y con qué garantías. Y, además, hasta dónde llegan las responsabilidades de su fabricante, diseñador o propietario. Por eso, la Propuesta del Parlamento Europeo sobre la materia se refiere a la necesidad de inscripción de estos sistemas en un registro y a la obligatoriedad de un seguro sobre su funcionamiento (por eso los seguros de responsabilidad civil van a experimentar un importante crecimiento en esta materia, ya que sin duda surgirán muchas problemas de responsabilidad civil relacionada con el uso de los robots). Pero hay que tener en cuenta que este programa europeo intervendrán, en primer lugar, juristas generalistas, a continuación juristas especializados y finalmente informáticos "con nociones jurídicas", lo cual no deja de ser un riesgo. Por eso conviene que los juristas tengan a su vez nociones informáticas, para poder comprender mejor de lo que se está hablando en cada momento.
 
Avanzando más en el debate, se llegó a la siguiente y trascendente cuestión. Según la dogmática penal clásica, esta pregunta tiene una única respuesta: solo pueden cometer delitos las personas físicas (y muy recientemente, en determinados supuestos, también las jurídicas). Así lo destacó Juan Pablo Nieto Mengotti, Fiscal, quien añadió a continuación que, no obstante, por medio de la figura de la autoría mediata, el responsable de los daños que pudiese causar un robot sería la cadena de sus responsables (propietario, programador, cuidador...) En estos casos, aunque no se puede delinquir se sabe a quién exigir la responsabilidad por los daños que causen. La problemática que puede surgir en el ámbito procesal, si un robot causa un daño y se inician medidas cautelares penales contra su propietario o usuario, podría complicarse hasta extremos hoy casi inimaginables si un abogado se propusiera forzar la "declaración" de un robot en un juicio. El día en que ese hecho se produzca, si es que se produce alguna vez, las cosas habrán cambiado para siempre, apuntó. Pero, sin llegar a esa compleja situación, pueden producirse otras intermedias, todavía inéditas pero no descartables de futuro, como que este robot puede servir como pieza de convicción y, por tanto, estar sujeto al trámite de inspección judicial.
 
En cuanto a mi opinión particular se refiere, yo aconsejo a los esposos que tengan esposas que se van a la peluquería todos los días a la hora de hacer la comida, que tengan mucho cuidado con lo que hacen y que no se les ocurra regalarles, ahora que se acerca la Navidad, ningún robot doméstico. Por si acaso.