Las leyes de Asimov fueron una serie de normas y regulaciones que Isaac Asimov, un famoso escritor de ciencia ficción, creó y popularizó a través de sus conocidas obras, que fueron adaptadas al cine y la televisión, y que marcaron el comienzo de las leyes de la robótica en el siglo pasado.
Escritores de ciencia ficción:
Los 20 mejores autores del género y sus mejores obras (novelas y cuentos)
¿Qué son las leyes de Asimov?
¿Qué son las leyes de la robótica de Asimov? Son unas normas o leyes elaboradas por Isaac Asimov que regulan el comportamiento de los robots que aparecen en gran parte de sus obras de ciencia ficción. Son expuestas por primera vez en un relato corto llamado Círculo vicioso, escrito en 1941 y publicado en 1942.
Breve biografía de Asimov
Escritor de origen judeo-ruso nacido en 1920. Cuando apenas tenía tres años migró a New York con sus padres y fue conocido por sus obras de ciencia ficción y por ser la persona que creó las tres leyes de la robótica.
Infancia y juventud
Pasó su infancia y juventud en Brooklyn, donde aprendió a leer a muy temprana edad (cuatro o cinco años). Estudió y trabajó en el barrio, donde sus padres administraban una tienda de golosinas y revistas, entre las cuales se topó por primera vez con lo que sería su pasión de toda la vida: la ciencia ficción.
Comenzó a escribir relatos de ficción con 19 años y a publicarlos en las llamadas pulps, revistas de historietas baratas, hechas de un papel rústico, que fueron muy populares en Estados Unidos hasta 1950.
Estudios superiores y trabajo
Trató de ingresar en la escuela de medicina, pero fue rechazado debido a que en esa época en algunas universidades limitaban el acceso a los judíos. Sin embargo, se graduó de bioquímico en 1939, y realizó un postgrado en 1941 en la Universidad de Columbia.
Mientras estudiaba seguía escribiendo y publicando sus cuentos y relatos. Su trabajo estuvo asociado por muchos años con Astounding, una revista que era dirigida por John W. Campbell, considerado por él mismo como su mentor. En esas publicaciones también estarían trabajos de otros reconocidos autores de ficción y fantasía como L. Ron Hubbard y Robert Heinlein.
Se casó en 1942 y tuvo dos hijos, pero la relación terminó en 1973 cuando se divorció para casarse con Janet Opal Jeppson ese mismo año. También en ese año fue contratado por la Marina de Guerra de Estados Unidos. Después de obtener su doctorado, en 1948, fue asociado en la Universidad de Boston, aunque sin permiso para impartir clases.
En el año 1958 ya era un escritor consolidado. En 1985 lo declararon Presidente Honorario de la Asociación de Humanistas Estadounidenses, donde se mantendría hasta su muerte.
Enfermedad y muerte
En el año 1983 fue sometido a una delicada intervención quirúrgica donde le colocaron un triple baipás coronario. En la cirugía se hizo necesaria una transfusión de sangre que posteriormente se descubrió estaba contaminada del virus VIH.
Tanto los médicos como el propio Asimov lo mantuvieron bajo secreto hasta después de su muerte, debido a los prejuicios existentes en esa época. Su salud se deterioró poco a poco hasta que falleció en 1992 por insuficiencia renal y cardíaca.
Datos curiosos sobre su vida
Nunca aprendió ruso a pesar de su origen. Tenía el coeficiente intelectual de un superdotado. Sentía un miedo extremo a las alturas (solo se montó dos veces en avión durante toda su vida) y sufría de claustrofilia, que es lo contrario a claustrofobia. Las personas que tienen este padecimiento les gustan los lugares encerrados y pequeños.
También desde joven mostró una personalidad excepcionalmente tímida que le impedía relacionarse fácilmente con los demás. En su edad adulta fue humanista, racionalista y progresista. No se opuso a la religión pero combatió las supersticiones y creencias infundadas.
Su obra
Escribió más de 500 títulos de diversos temas: química, astronomía, historia, temas sociales y matemáticas, pero sobre todo es recordado por sus obras sobre ciencia ficción. Entre las más destacadas están: Yo, Robot, Saga La fundación, Bóvedas de acero, El fin de la eternidad, Némesis…
También fue asesor de los guionistas de la película Star Trek y amigo personal de su creador Gene Roddenberry, así como de otros famosos de la época como Arthur C. Clarke y Frederik Pohl. Fue ganador de diversos premios de literatura y catorce condecoraciones honoris causa en varias universidades del mundo. Sus obras se han adaptado a la televisión y al cine. Para rendirle honores llamaron a un cráter con su nombre en Marte, también a un asteroide.
Leyes de Asimov: las tres (o cuatro) leyes
¿Quién creó las leyes de la robótica? ¿Cuáles son las leyes de la robótica de Asimov? Las leyes de Isaac Asimov están presentes en buena parte de su obra de ciencia ficción. Estas reglas creadas por el escritor aparecen por primera vez en 1942 en su obra Círculo vicioso y posteriormente en muchas otras.
La idea de estas normas es la regulación de la relación entre el hombre y el robot para proteger a los humanos. Según Asimov, estas regulaciones para los robots fueron creadas para evitar el razonable temor humano de que las máquinas se alcen contra sus creadores para dominarlos.
¿Cuáles son las tres leyes de la robótica? Son una especie de código moral bajo el cual deben actuar los robots, sin embargo, a pesar de ellas, en las propias obras de su creador, estas máquinas diseñadas por el hombre transgreden las reglas de la robótica provocando situaciones peligrosas para la integridad humana. Si sigues las tres leyes de la robótica puedes observar que son bastante simples.
Primera ley de la robótica
Un robot no causará daño a ningún ser humano, ni por inacción, ni tampoco permitirá que sufra ningún daño.
Segunda ley de la robótica
Un robot cumplirá las órdenes impartidas por humanos, a menos que estas estén en conflicto o contradigan a la primera ley.
Tercera ley de la robótica
Un robot resguardará su existencia, siempre que ese hecho no contradiga a la primera o segunda ley.
Ley cero
En posteriores obras de ficción (Robots e Imperio -1985) en las que los robots dominaban planetas y a los humanos, Asimov, agregó esta cuarta ley que llamó ley cero de la robótica, donde afirma que un robot no dañará a la humanidad, o permitirá que sufra daños por inacción. Le atribuye el orden de cero para establecer una jerarquía, donde todas las otras leyes se supediten a esta.
La tecnología robótica y las leyes del presente y del futuro
Para Asimov, las leyes que él mismo creó eran obvias, usando frases de robótica y bajo su óptica, ya existían y estaban implícitas en los diseños y principios que se aplicaban a la tecnología de su propio tiempo. Por ejemplo, en el uso de las herramientas de todo tipo, se pueden ver expresadas dichas leyes:
- Las herramientas deben ser seguras para el uso humano. Este principio se refiere al diseño que debe tener un instrumento para que no lesione o dañe a alguien, por ejemplo, un martillo o destornillador. Por supuesto se pueden producir lesiones debido a la impericia del que los manipula, pero no por el diseño.
- Las herramientas deben ser lo más eficientes que se pueda mientras esto no perjudique al usuario. Es por eso que existen interruptores de circuito y otros mecanismos para proteger la integridad del que las manipula.
- Se debe preservar el buen estado de la herramienta a menos que su destrucción sea necesaria para la seguridad del usuario o debido a su propio diseño.
Sin embargo, a pesar de la aparente reglamentación existente sobre la tecnología, el creciente desarrollo científico y técnico alcanzado por la humanidad ha transformado su propia esencia y ha planteado problemas éticos y sociales que requieren de una regulación legislativa acorde a la nueva situación. Las leyes de la robótica de Asimov marcaron un principio en este largo camino.
Medios de comunicación como Internet, con metadatos que requieren de sofisticados software, presentan un mundo nuevo donde la robótica y la inteligencia artificial toman protagonismo. Tanto en el presente inmediato, como a mediano y largo plazo será necesaria la creación de una moderna legislación acorde a la realidad del cambiante siglo XXI.
Las leyes de la robótica y la tecnología del presente
La cuarta revolución industrial alcanzada por la humanidad genera diferentes impresiones sobre el futuro que se avecina. Ya en el momento presente muchas naciones se preocupan por establecer un marco legal para regular el desarrollo de la robótica.
En este contexto, la Unión Europea, por ejemplo, ha presentado hace poco la más reciente actualización sobre la normativa de IA, maquinarias y robots, donde entre otras cosas se busca cuidar los derechos fundamentales. Algunas de las medidas incluyen:
- Prohibición del reconocimiento facial en determinadas circunstancias.
- Prohibición de cualquier sistema de IA para la manipulación del comportamiento humano. Por ejemplo, juguetes que promuevan la violencia o el mal comportamiento a través de asistentes de voz, etc.
- Se exige un alto nivel de transparencia para que los usuarios sepan cuando están interactuando con un robot, por ejemplo, a través de los chatbots.
- Se agregan algunas normas de seguridad para el uso de impresoras 3D, máquinas de construcción y otras de producción industrial.
También existe un modelo de código de ética para ingenieros y comités de investigación relacionados con la robótica. En este código se establecen unos principios de la robótica generales. Algunos de ellos son:
- Beneficencia. Las máquinas deben actuar a favor del ser humano.
- Principio de no perjuicio o no hacer daño. Los robots no pueden de ninguna forma causar daño a las personas.
- Principio de precaución. Los investigadores deben prever y responder por los posibles impactos y daños ambientales.
- Conservación de la privacidad.
La comunidad internacional
Al igual que para la Unión Europea, para otras regiones del mundo el tema de la regulación sobre la IA ocupa un importante papel en la agenda internacional, debido al poder intrínseco que tienen sobre los derechos humanos fundamentales y su influencia cada vez más notable en todos los aspectos cotidianos.
A pesar de las diferencias que existen entre los sistemas jurídicos de los diferentes países, producto de sus diversas culturas e idiosincrasias, existen una serie de consideraciones que son comunes en relación a la ética y los aspectos legales de los desarrollos robóticos, por ejemplo:
- Respeto a la diversidad. Este concepto también se relaciona con la equidad y la eliminación de la discriminación, minimizando cualquier riesgo de exclusión. Debe ser beneficioso para la humanidad y debe tomar en cuenta a las personas con discapacidad.
- Deben tener altos estándares de seguridad.
- Toda investigación debe tener un alto nivel de transparencia, donde queden documentadas todas las fases del proceso.
- Se debe partir de la base de que los seres humanos serán los responsables de cualquier toma de decisión que pueda ser hecha por un desarrollo de inteligencia artificial, especialmente en lo relacionado con los servicios profesionales.
- Siempre se deben respetar los principios de beneficencia, autonomía, precaución, justicia, rendición de cuentas y reversibilidad. También los derechos humanos universalmente reconocidos: la dignidad humana, la igualdad, la equidad, la no discriminación, la privacidad, la protección de datos, etc.
- Se debe tener registros de los robots inteligentes.
- Se debe tener una gestión de riesgo, donde los controles sean más estrictos cuanto más grandes sean los riesgos.
- No se deben desarrollar proyectos como armas de destrucción autónomas.
Las leyes de la robótica y la tecnología del futuro
¿Cómo influyen las leyes en mi futuro? Los enormes retos legales que se avecinan, con la llegada de los nuevos y revolucionarios progresos tecnológicos y científicos, son una realidad que la humanidad ya está enfrentando. Científicos, legisladores, ingenieros y otros profesionales, realizan encuentros para analizar los alcances de estos avances. Las divergencias que se presentan entre los diferentes ámbitos del conocimiento (derecho, ciencia y tecnología) originan importantes debates sobre las nuevas normativas del futuro.
El reto no es fácil, el comportamiento humano es regido por normas (leyes) que precisan lo que se puede o no hacer. Sin embargo, en estas leyes solo se describen las situaciones especialmente conflictivas, ya que el ser humano actúa bajo criterios éticos que son transmitidos socialmente a través de la escuela y la familia. En el futuro se puede prever que la capacidad técnica permita a un robot conocer el ordenamiento jurídico y otros temas relacionados con las leyes, no obstante, el actuar cotidiano de un robot fuera de este marco social ¿podrá generar resultados inesperados?
Diferentes enfoques sobre las leyes de la robótica
El interés general por la robótica aumenta en la misma proporción con la que se desarrolla la tecnología y son muchas las personalidades (escritores, políticos, economistas y personas de todos los ámbitos del quehacer humano) que exponen sus puntos de vista al respecto. Las leyes de la robótica de Isaac Asimov sirvieron sin duda de inspiración a muchos.
Frank Pasquale
Frank Pasquale, experto en IA, aprendizaje automático y algoritmos, ha sido reconocido internacionalmente por su labor en el estudio y análisis de la regulación del tema tecnológico en varios contextos.
Entre otras cosas, ha asesorado a diversos líderes gubernamentales y empresariales en áreas relacionadas con las finanzas, la salud y el Internet. También ha trabajado con la Cámara de Representantes de los EE.UU, el Comité Bancario del Senado, Comité de Energía, asesoramiento a funcionarios en Reino Unido y Canadá sobre políticas, leyes y regulaciones tecnológicas etc.
En su libro Nuevas leyes de la robótica, Pasquale expone otras leyes y aspectos fundamentales a considerar, no tomados en cuenta en su momento por Asimov.
- Primera nueva ley: los sistemas robóticos serán hechos para complementar la labor de los profesionales, no para sustituirlos. Un ejemplo práctico de esto es un sistema que ayude en la asistencia sanitaria a las enfermeras, sin embargo, ellas deben estar siempre presentes.
- Segunda nueva ley: esta ley prohíbe otorgar humanidad a los sistemas robóticos. La identidad como sistema robótico debe estar siempre clara y presente.
- Tercera nueva ley: sostiene que no contribuirán con la carrera armamentista de suma cero (destrucción mutua asegurada). Se refiere a los robots o drones soldado y aconseja frenar el control social sobre los ciudadanos y la escalada armamentista.
- Cuarta nueva ley: con esta ley se obliga a indicar la identidad del creador, propietario y controlador del diseño, con el objetivo de determinar responsabilidades ante posibles eventos que se salgan de control.
La conclusión de las leyes de la robótica para Pasquale es promover y determinar la cooperación, autenticidad, complementariedad y atribuciones de los desarrollos de IA y robóticos, y hacer fácilmente distinguible la tecnología al servicio del ser humano en contraste con una que lo reemplace.
David D. Woods y Robin Murphy
Woods y Murphy, del Laboratorio de Ingeniería de los Sistemas Cognitivos (Ohio) y profesor en Texas A&M respectivamente, propusieron tres leyes que son:
- Un robot debe contar con los estándares más avanzados en materia legal, de seguridad y de ética.
- Los sistemas robóticos deben responder a los seres humanos de acuerdo al rol que desempeñe.
- Un robot debe cuidar su integridad, siempre que esta acción no tenga conflictos con las dos leyes anteriores.
Según Woods se trata de leyes de la robótica reales y responsables para una relación humano-robot objetiva y fundamentada.
Alan Winfield
Winfield, investigador en Robótica Cognitiva en el Laboratorio de Robótica (Bristol), propuso en 2013 cinco leyes de los robots que se habían publicado por EPSRC/AHRC en 2010.
- Los robots son máquinas que pueden ser usadas para múltiples usos. No deben ser diseñados para dañar a algún humano, excepto en los casos de seguridad nacional.
- Los seres humanos son los responsables de las acciones desplegadas por los robots. Los desarrollos robóticos deben ser diseñados y operados (siempre que sea posible) para respetar las leyes, las libertades y los derechos fundamentales.
- Los robots son productos. El diseño debe garantizar su seguridad.
- Los robots deben reflejar su naturaleza no humana de forma clara y transparente.
- La responsabilidad legal sobre un robot debe ser atribuida a una persona.
David Langford
Langford es un crítico y escritor de ciencia ficción de nacionalidad británica. Este literato menciona tres leyes de manera irónica:
- Un robot no causar daño a los entes gubernamentales autorizados, pero podrá eliminar a los intrusos.
- Los robots obedecerán personal autorizado, a menos que esto cree conflictos con la tercera ley.
- Un robot protegerá su existencia con cualquier armamento letal, porque su tecnología es muy costosa.
Las leyes de Asimov se destacan por su sencillez y son de gran importancia, ya que sentaron las bases para el comienzo del desarrollo de las leyes de la robótica a mediados del siglo pasado. A partir de ese momento muchas propuestas han surgido, sin duda, inspiradas en este gran escritor de ciencia ficción.
