"La IA es algo imparable, y es necesario establecer las reglas de juego"
Entrevistamos a Bárbara Román Méndez y José Manuel Sendín Rodríguez, abogados de :NO{legaltech}
- Bárbara, José Manuel, para aquellos que aún no conozcan ni hayan oído hablar de :NO{legaltech} (dirección de Twitter @nolegaltech) podéis presentarnos vuestra firma y cuál es el objetivo a la hora de posicionaros como un laboratorio legal, LegalLAB.
:NO{legaltech} es en la actualidad una consultora legal para empresas tecnológicas. Nace como plataforma desde la cual canalizar nuestros conocimiento jurídico y solventar problemas de los profesionales de la tecnología, incluyendo emprendedores, programadores, desarrolladores. Buscábamos experimentar en el terreno donde se cruzan Derecho y Tecnología, y pensamos que una consultora sería la mejor forma de hacerlo.
Una vez definido el proyecto :NO{legaltech} se dividió entre la consultoría más profesional y el laboratorio, donde poder testar y probar cosas nuevas sin que ello afecte a nuestro trabajo. El objetivo no era otro que crear nuestro propio espacio para ideas.
- ¿Cuándo y cómo surge la idea de crear la que es la primera carta de derechos de los robots publicada hasta el momento?
La idea de experimentar con los límites del marco normativo en el derecho tecnológico en general y en la IA es una de nuestras razones de ser. Intentamos analizar qué es lo que se nos viene encima y surgía siempre el mismo escenario: la IA y su interacción con los seres humanos. Ya estamos rodeados de IA que de alguna forma nos facilitan la vida, pero todavía todos esos dispositivos están en una fase inicial.
El proyecto CAROL, que es como nosotros llamamos a esta idea, surgió de regreso del primer congreso de Legaltech celebrado el pasado mayo en San Sebastián del que Bárbara es coorganizadora. En el trayecto de vuelta teorizábamos sobre diferentes escenarios, por ejemplo si un robot de compañía tendría derecho a tener su tiempo de descanso o de ocio, si un robot inteligente con capacidad para tomar decisiones podría decidir en contra del criterio de un humano, y la forma jurídica para poder hacer valer sus derechos. Entre Santiago y Donosti hay muchos kilómetros (risas) y cuando llegamos a casa el mundo de CAROL estaba creado.
Bloqueamos nuestras agendas durante una semana entera, que dedicamos a escribir y reescribir nuestras ideas, y así nació la propuesta de derechos para los robots.
- ¿Por qué es necesario contar con esta regulación y qué persigue?
La IA es algo imparable, y es necesario establecer las reglas de juego; pero unas reglas de juego adaptadas a la nueva realidad y no un refrito de textos del siglo pasado.
Nuestra propuesta es un punto de partida, un marco, al igual que la declaración universal de los derechos humanos establece los derechos que todo ser humano por el mero hecho de serlo tiene, esta declaración puede servir de pauta para esos hipotéticos derechos de los que deben disponer los robots. Más que la necesidad de una regulación, lo que vemos claro es que necesitamos como humanos una reflexión sobre nuestras propias creaciones. Que sea posible no significa necesariamente que sea ético, o legal, o adecuado para los objetivos que deberíamos mantener como humanidad en este planeta. Las implicaciones morales y éticas de la robótica inteligente, de la que será la generación 5.0 de los robots, son casi ilimitadas.
- En vuestro proyecto se ahonda en el tema de la personalidad electrónica. ¿Cuáles son los principales retos jurídicos que la e-personalidad en las máquinas plantea?
Si el ser humano crea una máquina a la que dota de capacidad de aprendizaje y de autonomía en la toma de decisiones tiene que asumir las consecuencias que se deriven de ella.
Entendemos que si una máquina es capaz de aprender mediante su adaptación al entorno llegará un momento en que quiera lo mismo que tienen los seres humanos: la libertad de decidir y de elegir aquello que sea lo mejor para ellas.
Y es precisamente esto lo que echamos en falta en los diversos proyectos legislativos que hemos analizado. En todos ellos el robot es una máquina creada al servicio del ser humano, pero en ningún momento se piensa o al menos se plantea la reflexión acerca de lo que las máquinas podrían llegar a exigir, prueba de ello es la obligatoriedad de la implementación del botón del pánico para inhabilitar a cualquier dispositivo.
- Ante el avance en todos los campos que se espera en los próximos años en el ámbito de la Inteligencia Artificial (IA) ¿qué lugar le estará reservado al humano en dicho ecosistema de IA? ¿Lograremos estar integrados?
El ser humano está desarrollando esta tecnología para su propio beneficio, para la mejora de la calidad de vida y para poder hacer cosas que a los humanos nos es físicamente imposible. O al menos eso es lo que parece.
Esto es algo que llevamos haciendo desde el inicio de nuestra existencia, intentar mejorar nuestra duración y calidad de vida, creamos un tractor para no tener que seguir realizando las tareas agrícolas de forma manual, creamos los coches para desplazarnos de una forma cómoda y rápida, etc.
Por ello el ser humano se beneficie de estos avances y como siempre ha ocurrido esto provocará una modificación de nuestra forma de vida. Algo que nos dicen mucho es que las máquinas eliminarán miles de puestos de trabajo...esto es algo que lleva ocurriendo desde que se produjo la revolución industrial y el mundo no se ha parado, la clave es adaptarse a la nueva realidad.
- Ustedes denunciaban recientemente la sexualización de las máquinas en tanto que el soporte físico del robot suele ser femenino. No pretendemos adentrarnos en la cuestión bizantina de cuál es -semánticamente hablando- el sexo de los robots, máxime cuando al igual que con el de los ángeles, la cuestión dialéctica en sí es una auténtica trampa saducea, pero sí es cierto que en la definición y desarrollo de la programación de la Inteligencia Artificial se incurre en sesgos cognitivos muy humanos. ¿Es posible desexualizar la cuestión semántica de género en la robótica?
Ya no iríamos a debates tan profundos, sobre la conveniencia de desexualizar o no a las máquinas. Simplificando, el debate que surgió en este contexto es si realmente era necesario sexualizarlos para que los humanos los reconocieran como semejantes o cercanos, y en este caso si el uso sexual de los robots era ético. En el debate que mencionas, surgieron posturas muy interesantes que definiticamente vamos a abordar en el 2018, especialmente en cuanto al uso terapeutico de robots sexuales. Si es necesario crear un robot con forma femenina, como herramienta para tratar una conducta o una enfermedad de un hombre, estaremos todos de acuerdo en que un robot con forma de niño con la misma finalidad es igualmente aceptable. Tratar esta cuestión con médicos, abogados o informaticos hace que consigas ver las caras de una misma pieza. Esto es lo que nos interesa.
- La deriva de un tiempo hacia ahora que se está experimentando de que todo -o al menos gran parte- del Derecho se encamina a encuadrarse en una dimensión tecnológica o de Derecho TIC ¿consideráis que ello justificaría la creación de juzgados especializados en Derecho TIC? ¿Qué nivel de conocimiento TIC encuentran ustedes en los jueces?
Rotundamente no. De hecho, la tendencia de los últimos años de crear cosas nuevas cuando las anteriores funcionan (o no, pero habría que arreglar esas y no irse a por novedades locas) no nos parece la más adecuada. El derecho tecnológico es derecho, con los mismos fundamentos del derecho romano, pero si es cierto que un mayor conocimiento de las novedades tecnologicas por parte de los operadores juridicos no vendría mal.
No sólo los jueces, pero por su papel relevante especialmente ellos, tienen que mejorar sus conocimientos en el llamado Derecho tecnológico. Nosotros entendemos que ya desde la Universidad se tiene que producir un cambio en la formación de los futuros juristas, ya que en la vida personal todos hemos asimilado las novedades tech pero en el mundo profesional cuesta más hacerlo…
Crear juzgados especializados en derecho tecnológico, cuando en realidad siempre tratamos de derecho civil, penal, mercantil, administrativo, no soluciona el problema, un ejemplo de ello es lo que está ocurriendo con los que se han creado para las cláusulas suelo.
- Los recientes desarrollos en IA como los que está propiciando IBM con Watson está empezando a hacer posible que ya empiece a hablarse de los “IA Lawyers”. En este sentido ¿no debería la Administración empezar a apostar por esta tecnología para hacer posible la existencia de “IA Judges” que eviten la actual falta de seguridad jurídica, carencia de previsibilidad en los fallos, y la arbitrariedad que supone la disparidad de los mismos ante supuestos idénticos que propician los jueces humanos?.
José Sendín: Quería precisar que el dispar criterio en las resoluciones judiciales no se basa en la arbitrariedad sino en la discreccionalidad de los jueces, son dos cosas muy distintas, ya que la arbitrariedad está expresamente prohibida.
En estos momentos ya existen herramientas que pueden predecir cual sería el fallo de una sentencia mediante el análisis de datos, analizan todos los casos similares que se han tramitado en una determinada jurisdicción y te dicen las probabilidades que existen de que el juez resuelva en uno o en otro sentido.
Recientemente hemos leído en la prensa que el Mjusticia tenía pensado implementar una de estas herramientas para ayudar a los jueces en la tarea de analizar la jurisprudencia. Sin duda, esto ayudará pero la labor de dictar sentencia no es una operación matemática.
Bárbara: Bueno, dictar sentencias no debería ser algo matemático pero la experiencia en los tribunales nos enseña que hay casos que son obvios desde el inicio, y que realmente acaban consumiendo recursos y tiempo de trabajo de los jueces cuando podrían resolverse por otros cauces. Me refiero a procesos de menor enjundia jurídica, como reclamación de deudas, cuestiones contractuales, liquidaciónes de empresas, algunas cuestiones laborales… que personalmente sí creo que podrían redirigirse a sistemas automáticos de resolucion de conflictos.
Y viendo experiencias previas en otros países no me parece que estemos tan alejados de la realidad.
- Para terminar ¿cuál es el papel que pueden desempeñar los robots para los abogados, van a servirles o sustituirles y en qué áreas?
Los robots ayudarán a los abogados, no los sustituirán en aquellas tareas que requieran de la creatividad o de la intervención humana pero es un poco inocente pensar que, en un mundo donde todos los puestos de trabajo están siendo automatizados, el sector legal se encuentra a salvo de este fenómeno. Cuando se generalizó el uso de internet y la posibilidad de acceder a modelos de contratos, de resolver cuestiones legales sin intervención directa de abogados, empezaron a surgir plataformas de reclamaciones colectivas o de trabajos legales en cadena… todos estos pasos conllevan una reducción significativa del trabajo de los abogados más generalistas. Lo que se va a demandar en un futuro es la alta especialización, el trabajo en redes, y por supuesto que las tareas más administrativas o de paralegal las realicen sistemas operativos automatizados y que harán su trabajo mejor que los humanos. Esa es la fuerza de la inteligencia artificial: no podrán hacer todo lo que el humano hace, pero lo que sea que se les asigne como tarea lo harán mejor, y más rápido.