La personalidad electrónica

Resumen

La evolución práctica de las inteligencias artificiales ha trascendido a ciertas esferas reguladas. El mercado financiero, el hogar, el consumo, la conducción vial y los quirófanos son algunos ejemplos. La principal innovación consiste en la capacidad de decisión autónoma de estos entes; el desafío jurídico consiste en su regulación. Se examina la creación de una tercera personalidad jurídica que permite a estas entidades operar dentro del margen de la ley con el propósito de prevenir consecuencias insospechadas.

Palabras clave

Robots, bots, inteligencias artificiales, autonomía, personalidad, atributos de la personalidad, capacidad, responsabilidad, patrimonio.

Una generación que defina la época en la que vive, peca de inmodesta; la actual parece que puede darse el lujo. No hay dudas de que la revolución tecnológica caracteriza nuestra época. El cúmulo de datos se ha materializado en verdaderas inteligencias artificiales (AI) y robots, máquinas capaces de tomar decisiones autónomas (Uber, Cybernife)(1), y programas con vocación de ser verdaderos socios cognitivos (Siri o Google Hello).

Para muchos, los robots inteligentes comportan la necesidad de creación de una tercera categoría de personalidad, la electrónica (I), que inauguraría una vida jurídica, cuyo alcance comporta singular interés (II).

I. La creación de la tercera personalidad

Se hace necesario una aproximación conceptual al estado actual de las AI (§1), previa determinación de los entes a proteger (§2).

  1. Aproximación al estado actual: el renacimiento tecnológico

La influencia del iusnaturalismo y el racionalismo llevaron a concebir el derecho civil en función del individuo y considerarlo como el conjunto de todos los derechos a él pertenecientes. De modo que, en el epicentro del derecho civil se ubica el ser humano, y todo lo que es digno de protección se reduce a sus atributos.(3)

Lejos del interés de las ciencias jurídicas se encontraba el objeto de un antiguo sueño humano: el autómata. Las invenciones de Leonardo o de Al Jazarí, el monstruo de Frankenstein creado por Mary Shelley, el Golem de Praga, la pequeña Vicky o Samantha en la aclamada producción cinematográfica, Her, son clarísimos ejemplos de cómo esta aspiración tecnológica trasciende el ámbito científico y se inserta en la cultura popular.

Ahora bien, ¿qué tenemos hoy al alcance del bolsillo? Capacidad de comunicación mediante el lenguaje natural con robots, asesoría financiera, pulseras ultrasónicas para ciegos, navegación autónoma y el sueño de Cesare Lombroso(4): faception, especie informática que asegura poder distinguir un criminal con tan solo un examen facial por video sin ningún otro tipo de data comparativa. En fin, la tendencia actual apunta al desarrollo de máquinas inteligentes y autónomas con capacidad de ser entrenadas para pensar y tomar decisiones de manera independiente.

El precedente más importante es la supercomputadora de IBM nombrada Deep Blue. Esta venció al entonces campeón mundial de ajedrez, Garry Kasparov, en una competencia televisada(5). La segunda gran hazaña se produjo hace menos tiempo. En 2016, una supercomputadora de Google llamada Alphago derrotó al campeón mundial de go, un surcoreano llamado Lee Se-Dol.

Destáquese que el go es tenido como el juego de mesa de mayor dificultad de todos los existentes. Sin embargo, lo verdaderamente relevante fue lo que sucedió a lo largo del campeonato. Luego de haber sido vencido tres veces, el humano decidió jugar de un modo inesperado en la cuarta partida, algunos dirían qué torpe. Se dice que la máquina no contaba con ello, y perdió. Al día siguiente, Se-Dol implementó la misma estrategia, no obstante Alpha Go había aprendido, y ganó.

Para su aprendizaje Alpha Go no se valió de la data contentiva de las jugadas entre humanos on line, como normalmente sucedía hasta ese momento con los demás modelos de AI. Los programadores solo le suministraron las reglas del juego, y el sistema sacó sus conclusiones y estrategias a partir de su propia práctica. Aprendió a predecir los movimientos humanos, y una vez puesta a prueba, siguió aprendiendo. Imaginemos esta misma tecnología aplicada al béisbol o al fútbol.

Otro terreno en el que pocos imaginaron los robots podrían incursionar, también ha sido trastocado: las artes. Sin necesidad de hablar del impacto de las tecnologías en la música y la arquitectura, la inteligencia artificial de IBM llamada Watson fue la autora del tráiler de la película Morgan(6). En definitiva, bien se puede explicar que para los más visionarios vivimos el segundo renacimiento, el tecnológico, y quizás más atrevido, el cognitivo.

Muchas interrogantes jurídicas se abren. Si tomamos el ejemplo del tráiler de Morgan habrá que concluir que la titularidad de los derechos de propiedad intelectual de lo que fabrica un robot ya no es una hipótesis, sino un reto del presente. Si el trabajo de un robot le lleva a un descubrimiento científico, a una invención patentable o una obra protegida, el derecho ha de tener una respuesta. La de los textos normativos actuales se queda corta.

  1. Entes a proteger

Hasta ahora entendemos por persona, todo ser susceptible de llegar a ser sujeto, activo o pasivo, de derecho. Por consiguiente, son personas aquellos entes con vocación a desempeñar un papel en la vida jurídica. De forma que, se conocen dos tipos: la persona natural, que comprende al individuo de carne y hueso y la persona moral, reconocida a entidades inmateriales que por lo regular agrupan un conjunto de individuos, intereses o patrimonios(8).

De cara a la realidad descrita, la intensidad del sol desdibuja la clasificación. Las máquinas han evolucionado. Algunos autores refieren el concepto de máquina sapiens. Y es que la nevera que compra de manera independiente es justo eso: un ente robótico autónomo. Watson y muchas inteligencias artificiales cambian su comportamiento de acuerdo con las condiciones en las que operan, por analogía con el ser humano; este fenómeno es justamente lo que conocemos como autonomía. Todo indica que los robots transitan la ruta de escape del determinismo y se aproximan al acto volitivo; por supuesto, aun el humano define los algoritmos.

Desde luego, no toda máquina podría ser entendida como persona electrónica. No es lo mismo una licuadora al robot llamado Project Debater, cuya función consiste en debatir, y lo ha hecho con la excelencia retórica de cualquier experto comunicacional en temas como la legalización de actividades prohibidas. Por ahora, el debate más reciente lo ha perdido la inteligencia artificial frente al campeón del pensamiento y la argumentación, Harish Natarajan, en el marco de la conferencia Think 2019(9).

Los entes, que en su conjunto denominamos persona electrónica, incluyen a aquellas inteligencias artificiales y robots con capacidad de decisión e interacción cognitiva, económica y, por lo tanto, jurídica con las personas reconocidas. Llegará el día, en que un ser humano pretenda legar en beneficio de su androide como ya lo hace respecto de sus mascotas. De modo, que por persona electrónica ha de entenderse aquel robot inteligente con capacidad de interconectividad (intercambio de datos con su entorno), autoaprendizaje y adaptabilidad conductual.

Será desafío del legislador disponer cuál sería el punto de partida de esta personalidad, dónde se registrarían, el régimen de su identidad digital y su duración. Sabiendo que el verdadero desafío consiste en determinar cuáles atributos se reconocerían, ¿nombre? ¿domicilio? ¿estado civil? ¿capacidad? Y la gran pregunta, ¿patrimonio?

II. El alcance de la personalidad electrónica

En el epicentro del debate importan dos efectos de la personalidad, y serán los tratados a seguidas: capacidad (§1) y responsabilidad (§2).

  1. Capacidad de la tercera persona

Uno de los mercados más sofisticados de la economía moderna, sin dudas que lo constituye la bolsa de valores. En este, las empresas obtienen financiación mediante la compraventa de instrumentos financieros. El ejemplo más simple lo proporciona el mercado de las acciones. En este entorno, la clave de la inversión la proporciona el valor de la empresa en el presente y a futuro, y la determinación de estos precios son el gran reto del éxito de la inversión.

Muchos son las variables que determinan el valor de las acciones. Desde las noticias hasta el estado del clima. Conózcase que hay bots que analizan patrones de voz de políticos y ejecutivos y determinan si mienten o no; este tipo de información nutre la autonomía tendente a comprar o vender en el mercado financiero.

Hace ya más de 20 años, la Bolsa de Nueva York contrató matemáticos y científicos -conocidos originalmente como quants-, con la encomienda de crear modelos científicos. Estos últimos son softwares con capacidad de reproducir un sistema estudiado (en este caso la bolsa). Se les proporciona todos los datos históricos y actuales de la bolsa con el propósito de calcular riesgos y tendencias, en cuya función se origina un pronóstico de oportunidades para el futuro. Al final, estos programas han devenido en inteligencias artificiales que compran y venden. Son capaces de realizar 1,000 operaciones por segundo; el saldo anual es que el 60% de las transacciones son ejecutadas por estos entes de la tercera personalidad.

En nuestra tradición civil, conocemos dos capacidades: goce y ejercicio. La primera consiste en la aptitud de ser titular de derechos, mientras que la segunda se refiere a la aptitud de ejercitar tales derechos(10). Sin reconocimiento normativo alguno, las inteligencias artificiales ejercen de facto, la última.

El reto que supone la capacidad de hecho de la persona electrónica desborda el ordenamiento jurídico vigente. Vendarse los ojos no parece ser la solución. Estados Unidos aprobó en 2016 una propuesta regulatoria llamada National Artificial Intelligence Research and Development Strategic Plan(11). En 2017 lo ha hecho la Europa comunitaria; el Parlamento de la Unión aprobó una resolución de recomendaciones denominada Régles de Droit Civil sur la Robotique(12).

En un principio, hay que objetar la capacidad plena de ejercicio. Debe limitarse a una gama de negocios jurídicos permitidos o admisibles. Para poner una ilustración extramuros de la moral actual, no sería plausible la concesión de la capacidad conyugal. No obstante, en los ámbitos mercantil, laboral, financiero y médico la solución es distinta. El auge de las inteligencias artificiales inserta estos entes en todos estos mercados y en ellos, toman decisiones autónomas. Hasta ahora, el límite de la capacidad lo pone el fabricante; tarea que debería asumir el legislador.

  1. Responsabilidad por el hecho del robot inteligente

La gran objeción que pesa contra el reconocimiento de la personalidad en provecho de los robots inteligentes se intuye desde la responsabilidad civil. Se critica la ausencia de un patrimonio económico con el cual la máquina pueda responder en caso de comprometer su responsabilidad. Así, pues, para no pocos, detrás de la teoría de la personalidad electrónica subyace un interés de evasión de responsabilidad en beneficio de los fabricantes.

Innegable, la censura luce atractiva. Sin embargo, se derrumba vistos los fundamentos que gobiernan la responsabilidad civil actual. En nuestro derecho, la responsabilidad de un individuo conoce varias fuentes: el hecho personal, el ajeno y el de las cosas.

En el estado actual de la interpretación jurídica, la reparación del perjuicio generado por el robot inteligente habría que decidirla en función de las reglas del hecho de las cosas. Se trata de una responsabilidad objetiva, en la que se juzga celosamente la participación activa de la cosa en la generación del daño sin consideración de ninguna índole conductual(13). Colocar al robot inteligente en la misma posición reglamentaria que una bruta escalera mecánica, se traduce en una torpeza inmejorable.

Hace alrededor de un año en la Bolsa de Nueva York, una serie de acciones bajaron por debajo de un límite determinado. Ante este evento, las inteligencias artificiales que allí interactúan, ordenaron la venta de los paquetes de acciones afectados. Al final, el descenso fue mucho mayor de lo previsto(14). En este escenario, si un inversor, por cuya cuenta la inteligencia artificial compra y vende, deseare demandar por las pérdidas, ¿podría actuar contra el fabricante?

Adviértase, que la inteligencia artificial que ha decidido vender y al final fracasa, no debe una obligación de resultado, sino de medios. Estos juicios no son propios de la responsabilidad por el hecho de las cosas, sino del personal. En ese sentido, hay que cuestionar hasta qué punto podemos aceptar que una cosa se comprometa a obligaciones de diligencia, cuyo régimen de responsabilidad es subjetivo. Obsérvese que no se trata de que el robot explotó y ocasionó lesiones corporales al inversor, en cuya hipótesis no habría lugar a dudas respecto de la responsabilidad por producto defectuoso. O que la nevera no refrigera como se promete en el manual de uso. En este caso, lo que ha sucedido es que la máquina ha tomado una decisión infructífera.

La evidencia es contundente: la realidad desborda los esquemas normativos actuales. Hay que plantearse el diseño de un verdadero régimen de responsabilidad civil pensado y estructurado de cara al hecho del robot inteligente. Luego, la cuestión del patrimonio no representa un problema mayor. Así como el comitente responde por el hecho del preposé, el propietario o el fabricante podrían hacerlo por el hecho de su creación.

Conclusión

La conciencia distingue la humanidad de la robótica. La meta no es confundir la regulación de la persona electrónica con la dignidad humana que fundamenta los valores del ordenamiento jurídico. Sino que, en función de esos mismos valores, el estado actual de las tecnologías obliga la reforma de nuestras normas, en aras de equilibrar la dinámica interactiva entre humanos y robots inteligentes, cuyo estado de inconsciencia es el mismo de una tostadora. El derecho ha de reaccionar y evitar tropiezos previsibles de las inteligencias artificiales y contribuir junto a estas al progreso de nuestra civilización.

Redactado por: Félix Santana Reyes

Bibliografía

  1. El autor es docente de derecho de las obligaciones en la Universidad Nacional Pedro Henríquez Ureña.
  2. Uber es una de compañías que más invierte en vehículos sin conductor humano.
  3. V. Orestano, Riccardo. Diritti soggettivi e diritti senza soggetto, Biblioteca Giuridica, Roma, 1960, p. 150.
  4. Autor italiano, creador de la Nueva Scuola y conocido por su teoría de los perfiles delincuenciales. En su concepción, el delito resulta de tendencias innatas, de orden genético, observables en ciertos rasgos físicos o fisonómicos de los individuos.
  5. Reseña disponible en: https://www.youtube.com/watch?v=KF6sLCeBj0. Fecha de consulta: 8 de marzo de 2019.
    6.V.https://www.wired.co.uk/article/ibm-watson-ai-film-trailer Fecha de consulta: 8 de marzo de 2019.
  6. Cfr. Josserand, Louis. Derecho civil. Teorías generales del derecho y de los derechos. Las personas, t. I, v. I, Ediciones Jurídicas Europa-América, 1939, p. 170.
  7. Cfr. Capitant. Henri. Vocabulario jurídico, Depalma, 1930, pp. 426-427.
  8. Disponible en: https://www.lavanguardia.com/tecnologia/actualidad/20190213/46436055985/inteligencia-artificial-debate-project-debater-harish-natarajan-ibm.html Fecha de consulta: 8 de marzo de 2019.
  9. V. Lequette, Yves, Simler, Ph.ilippe y Terré, Francois. Droit civil. Les obligations, Dalloz, Paris, 2009, p. 113.
  10. Texto completo en: https://www.nitrd.gov/PUBS/nationalairdstrategicplan.pdf Fecha de consulta: 8 de marzo 2019.
  11. Texto completo en: http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2017-0051+0+DOC+XML+V0//FR Fecha de consulta: 8 de marzo de 2019.
  12. V. Cass Civ., 2ème Ch., 14 juin 2018, arrêt 826, M. Florian.
  13. Reseña disponible en:
    https://www.clarin.com/mundo/robots-algoritmos-nuevos-actores-bursatiles-detras-caida-bolsas0SJtfBmDLM.html Fecha de consulta: 8 de marzo de 2019.

Cass Civ., 2ème Ch., 14 juin 2018, arrêt 826, M. Florian.

Capitant. Henri. Vocabulario jurídico, Depalma, Buenos Aires, 1930.

Josserand, Louis. Derecho civil. Teorías generales del derecho y de los derechos. Las personas, t. I, v. I, Ediciones Jurídicas Europa-América, 1939.

Lequette, Yves, Simler, Ph.ilippe y Terré, Francois. Droit civil. Les obligations, Dalloz, Paris, 2009.

Orestano, Riccardo. Diritti soggettivi e diritti senza soggetto, Biblioteca Giuridica, Roma, 1960.