Responsabilidad en inteligencia artificial: Señoría, mi cliente robot se declara inocente

Resumen

La trascendencia que ha adquirido la ia no es fruto de la casualidad, sino más bien de la necesidad de acelerar procesos en aras de la, en ocasiones por exceso, tan ansiada eficacia, sin desconocer la eficiencia como argumento a favor de esta que sumar al anterior. Pero los aspectos positivos no deben apabullar y ocultar los reparos que este recurso comporta. Conviene no olvidar qué es lo que subyace detrás de la IA, que no es otra cosa que, pese a quien pese, el ser humano. El algoritmo se retroalimenta y toma decisiones propias, pero no nace de la nada, sino por voluntad de su autor. Todo esto nos aproxima a una necesidad como es el análisis de la responsabilidad de los sistemas de IA.
  • Referencias
  • Cómo citar
  • Del mismo autor
  • Métricas
Acemog?lu, D. 2002: «Cambio técnico, desigualdad y mercado laboral». Journal of Economic Literature, 2002, 40-1: 7-72.

Acemog?lu, D. 2012: «Diversidad y progreso tecnológico». Revisión de la tasa y dirección de la actividad inventiva. University of Chicago Press, 319-360.

Acemog?lu, D. y Autor, D. 2011: «Habilidades, tareas y tecnologías: implicaciones para el empleo y los ingresos», Manual de economía laboral, 4b: 1043-1171.

Acemog?lu, D. y Restrepo, P. 2018: «La carrera entre el hombre y la máquina: implicaciones de la tecnología para el crecimiento, la participación de los factores y el empleo». American Economic Review, 108 (6): 1488-1542.

Acemog?lu, D. y Restrepo, P. 2018b: «Robots and Jobs: Evidence from us Labor Markets». Nber Working Paper n.º 23285.

Acemog?lu, D. y Restrepo, P. 2018c: «Modeling Automation». nber Working Paper n.º 24321.

Acemog?lu, D. y Restrepo, P. 2018d: «Inteligencia artificial, automatización y trabajo». Documento de trabajo nber n.º 24196.

Aguirre Aldaz, C. M.; De Pablo Contreras, P.; Pérez Álvarez, M. Á. y Parra Lucán, M.ª Á. 2018: Curso de Derecho Civil I Derecho Privado. Derecho de la Persona. Madrid: Ed. Edisofer.

Aguirre Aldaz, C. M.; De Pablo Contreras, P.; Pérez Álvarez, M. Á. y Parra Lucán, M.ª Á. 2018: Curso de Derecho Civil ii, vols. 1 y 2. Madrid: Ed. Edisofer.

Allport, G. W. 1937: Personalidad: una interpretación psicológica. Nueva York: Holt and Co.

Andrich, C.; Novosel, L. y Hrnkas, B. 2009: Common Sense Knowledge. Graz University of Technology.

Asimov, I. 1942: «Círculo vicioso». Revista Astounding Science Fiction, 1942.

Atabekov, A. y Yastrebov, O. 2018: «Legal Status of Artificial Intelligence Across Countries: Legislation on the Move». European Research Studies Journal, 2018, vol. 21, n.º 4.

Ayres, R. U. y Miller, S. M. 1983: Robots: aplicaciones e implicaciones sociales. Ballinger Publishing Co.

Barrios Andrés, M.; Aransay Alejandre, A. M.ª; Domínguez Peco, E. M.ª; García Portero, R.; García-Prieto Cuesta., J.; Gómez-Riesco Tabernero De Paz, J.; López Rincón, D.; Puente Pérez, E.; Sánchez García, A.m.; Segura Alastrué, M. 2018: Derecho de los Robots. Madrid: Ed. Wolters Kluwer.

Basozábal Arrue, X. 2015: Responsabilidad extracontractual objetiva: parte general. Madrid: Boe. Ref: ANU-C-2016-10022800233.

Benedikt Frey, C. y Osborne, M. 2017: The future of employment: how susceptible are Jobs to computerisation? Technol. Forecast. Soc. Change.

Benítez, R.; Escudero, G.; Kanaan, S. y Masip, D. 2013: Inteligencia artificial avanzada. Barcelona: Ed. uoc

Bengio, Y. 2009: «Learning deep architectures for AI». Foundations and Trends in Machine Learning, 2009, vol. 2, n. º 1: 1-127.

Black, J. y Baldwin, R. 2010: Regulación basada en riesgos realmente receptiva. Ley y política, 32: 181-213. https://doi.org/10.1111/j.1467-9930.2010.00318.x

Bonet Navarro, J. 2017: «La tutela judicial de los derechos no humanos. De la tramitación electrónica al proceso con robots autónomos». Revista Ceflegal, 2017, n.º 208.

Bringsjord, S. y Schimanski, B. 2003: What is artificial intelligence? Psychometric AI as an answer. Eighteenth International Joint Conference on Artificial Intelligence, 18, 887-893.

Brooks, R. A. 1991: «Intelligence without reason». En Proceedings of the 12th International Joint Conference on Artificial Intelligence (ijcai’91), vol. 1, 569-595.

Cassidy, S. 2004: «Estilos de aprendizaje: una descripción general de teorías, modelos y medidas». Psicología de la Educación, 2004, 24 (4): 419-444.

Cerrillo I Martínez, A. 2019: «El impacto de la inteligencia artificial en el Derecho Administrativo ¿nuevos conceptos para nuevas realidades técnicas?». Revista General de Derecho Administrativo, 2019, 50 (de la versión que obra en el repositorio de inap).

Coeckelbergh, M. 2010: «Robot rights? Towards a social-relational justification of moral consideration». Ethics and Information Technology, vol. 12, n.º 3.

Colton, S.; Halskov, J.; Ventura, D.; Gouldstone, I.; Cook, M. y Pérez-Ferrer, B. 2015: «The painting fool sees! New projects with the automated painter». En International Conference on Computational Creativity (ICCC 2015), 189-196.

Colton, S.; López de Mántaras, R. y Stock, O. 2009: «Computational creativity: coming of age». AI Magazine, vol. 30, n. º 3: 11-14.

Crawford, K. 2016: «Artificial Intelligence’s White Guy Problem». The New York Times.

Crawford, K. 2016: Can an algorithm be agonistic? Ten scenes from life in calculated publics. Science, Technology & Human Values 41(1): 77-92.

Cure Aarón, F. D., bajo la tutoría de GAITÁN PARDO, J. 2019: El Sistema de Responsabilidad Civil para Vehículos Autónomos en Colombia. Bogotá, D. C

Daugherty, P. y Wilson, H. J. 2018: Human + Machine: Reimagining Work in the Age of AI. Harvard Business Review Press.

David, H. 2015: «¿Por qué todavía hay tantos trabajos? La historia y el futuro de la automatización del lugar de trabajo». Revista de Perspectivas Económicas, 2015, 29 (3): 3-30.

David, H.; levy, Frank y Murnane, R. J. 2003: «El contenido de habilidades del cambio tecnológico reciente: una exploración empírica». The Quarterly Journal of Economics, 2003, 118 (4): 1279-1333.

De La Quadra-Salcedo, T. y Piñar Mañas, J. L. 2018: Sociedad digital y Derecho. Madrid: Ministerio de Industria, Comercio y Turismo-Boletín Oficial del Estado, 866, 868, 870.

Dennet, D. C. 2018: From Bacteria to Bach and Back: The Evolution of Minds. Londres: Penguin Random House.

Díaz Alabart, S. 2018: Robots y Responsabilidad Civil. Derecho Español Contemporáneo. Madrid: Ed. reus.

Dosi, G. 1982: «Paradigmas tecnológicos y trayectorias tecnológicas». Política de Investigación, 11 (3): 147-162.

Domingos, P. 2015: The master algorithm: How the quest for the ultimate learning machine will remake our world. Basic Books.

Dreyfus, H. L. 1965: Alchemy and Artificial Intelligence. Santa Mónica, California, Rand Corporation.

Dreyfus, H. L. 1992: Lo que las computadoras aún no pueden hacer: una crítica de la razón artificial. MIT Press.

Eidenmüller, H. 2017: The rise of robots and the law of humans. Zeitschrift für Europäisches Privatrecht, v. 4. Munich; C.H. Beck.

Ercilla García, J. 2018: «Aproximación a una Personalidad Jurídica Específica para los robots». Revista Aranzadi de Derecho y Nuevas Tecnologías, 2018, 47 (de la base de datos Aranzadi Instituciones).

Feliú Ignacio, M. I.; Laukyte Migle, R. y Zornoza Somolinos, A. 2017: Robótica y Derecho del consumo. Madrid: Comunidad de Madrid.

Ferrucci, D. A.; Levas, A.; Bagchi, S.; Gondek, D. y Mueller, E. T. 2013: «Watson: beyond jeopardy!». Artificial Intelligence, n.º 199: 93-105.

Floridi, L. 2017: Robots, jobs, taxes, and responsibilities. Philosophy and Technology, 30(1), 1-4.

Forbus, K. D. 2012: «How minds will be built». Advances in Cognitive Systems, 2012, n.º 1: 47-58.

Guihot, M.; Matthew, A. F. y Suzor, N. 2017: «Nudging Robots: Innovative Solutions to Regulate Artificial Intelligence». Vanderbilt Journal of Entertainment & Technology Law. Forthcoming.

Gladwell, M. 2000: The Tipping Point: How Little Things Can Make A Big Difference. London: Little, Brown and Company

Goertzel, B. 2007: Human-level artificial general intelligence and the possibility of a technological singularity: a reaction to Ray Kurzweil’s The Singularity Is Near, and McDermott’s critique of Kurzweil, Artificial Intelligence, 171 (18), 1161-1173.

González Granado, J. (2016). Derecho y Robots en la Unión Europea: hacia una persona electrónica. Leyes sobre robots: el futuro ya está aquí http://tallerdederechos.com/derecho-y-robots-en-la-union-europea-hacia-una-persona-electronica/

González Santos, M.ª J. 2017: «Regulación legal de la robótica y la inteligencia artificial: retos de futuro». Revista Jurídica de la Universidad de León, n.º 4.

Graezt, G. y Michaels, G. 2018: «Robots at Work». The Review of Economics and Statistics, de próxima publicación.

Groover, M. P.; Weiss, M.; Nagel, R. N. y Odrey, N. G. 1986: Robótica industrial: tecnología, programación, y aplicaciones. McGraw-Hill.

Hernández Esteban, E. 2018: «Inteligencia artificial y vehículos autónomos: el régimen de la responsabilidad civil ante los nuevos retos tecnológicos». Revista Aranzadi de Derecho y Nuevas Tecnologías, 2018, 48 (de la base de datos Aranzadi Instituciones).

Holland, J. H. 1975: Adaptation in natural and artificial systems. Michigan: University of Michigan Press.

Honey, P. y Mumford, A. 1986: El manual de estilos de aprendizaje. Peter Honey Associates.

Huang, T.-J. 2017: «Imitating the Brain with Neurocomputer A ‘New’ Way Towards Artificial General Intelligence». Internacional Journal of Automation and Computing, 2017, vol. 14.

Inhelder, B. y Piaget, J. 1958: The Growth of Logical Thinking from Childhood to Adolescence. Nueva York: Basic Books.

Kaplan, A. y Haenlein, M. 2019: «Siri, Siri, in my hand: Who’s the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence». Business Horizons, 2019, 62 (1): 15-25.

Kavukcuoglu, K.; Graepel, T. y Hassabis, D. 2016: «Mastering the game of go with deep neural networks and tree search». Nature, 2016, vol. 529, n.º 7.587: 484-489.

Kurzweil, R. 2005: The Singularity is Near: When Humans Transcend Biology. New York: Penguin.

Lacruz Mantecón, M. L. 2018: Los robots y el Derecho. Madrid: Reus.

Lake, B. M.; Ullman, T. D.; Tenenbaum, J. B. y Gershman, S. J. 2017: «Building machines that learn and think like people». Behavioral and Brain Sciences, 2017, vol. 40: e253.

Lambea Rueda, A. 2018: «Entorno digital, robótica y menores de edad». Revista de Derecho Civil, 2018, n.º 4.

Legg, S. y Hutter, M. 2007: «Universal intelligence: A definition of machine intelligence». Minds and Machines, 2007, 17(4): 391-444.

Llamas Pombo, E. 2002: Responsabilidad Civil por Manipulación Genética. Revista del Notariado 854, Temas de Derecho privado.

López De Mantarás, R. 2016: «Artificial intelligence and the arts: toward computational creativity». En aa. vv.: The Next Step: Exponential Life. Madrid, bbva/Turner, 100-125.

López Huguet, M.ª L. 2008: «El domicilio de las personas jurídicas: evolución desde el Derecho romano y significado actual». Revista Electrónica del Departamento de Derecho de la Universidad de La Rioja, 2008, n.º 6.

mazzucato, M. 2015: El Estado Emprendedor. Anthem Press.

McCarthy, J. 2007: What is Artificial Intelligence? Stanford University.

McCulloch, W. S. y PITTS, W. 1943: «A logical calculus of ideas immanent in nervous activity». Bulletin of Mathematical Biophysics, 1943, n. º 5: 115-133.

Méndez, M. (16 de mayo de 2017). Peligro al volante: por qué Tesla tiene tanta culpa como el conductor si hay un accidente. El Confidencial https://www.elconfidencial.com/tecnologia/2016-07-02/tesla-piloto-automatico-coche-autonomo-muerte_1226761/

Mokyr, J. 1989: Robótica industrial: tecnología, programación y aplicaciones. Rowman & Littlefield Publishers.

Núñez Zorrilla, M. d. C. 2018: «Los nuevos retos de la Unión Europea en la regulación de la responsabilidad civil por los daños causados por la inteligencia artificial». Revista Española de Derecho Europeo, 2018, 66 (de la base de datos Aranzadi Instituciones).

Nagler, J.; Van den Hoven, J. y Helbing, D. 2019: An Extension of Asimov’s Robotics Laws. En: Helbing D (ed.) Hacia la iluminación digital: ensayos sobre los lados oscuro y claro de la revolución digital. Springer International Publishing, Cham, págs. 41-46

Newell, A. y Simon, H. A. 1976: «Computer science as empirical inquiry: symbols and serch». Communications of the ACM, 1976, vol. 19, n.º 3: 113-126.

Napolitano, R. E. y Jiang X. 2018: Inteligencia artificial: con una introducción al aprendizaje automático. Chapman y Hall/Crc, segunda edición.

Nelson, R. y Sidney, W. 1977: «En busca de una teoría útil de la innovación». Política de Investigación, 1977, 6 (1): 36-76.

Nilsson, N. J. 2009: La búsqueda de la inteligencia artificial: una historia de ideas y logros. Cambridge University Press.

Ocde. 2019: Recommendation of the Council on the Artificial Intelligence.

Omohundro, S. 2012: Rational artificial intelligence for the greater good. En Eden, Søraker, Moor, & Steinhart.

Ong, O. K. y Nee, A. Y. C. 2013: Aplicaciones de realidad virtual y aumentada en la fabricación. Springer Science and Business Media.

Orseau, L. y Armstrong, S. 2016: «Safety Interruptible Agents». En Uncertainty in artificial intelligence: 32nd conference.

Paul Allen, (2018) «Allen Institute for Artificial Intelligence to Pursue Common Sense for AI».

Pathak, P.; Pal, P. R.; Shrivastava, M. y Ora, P. 2019: «Fifth Revolution: Applied AI & Human Intelligence with Cyber Physical Systems». International Journal of Engineering and Advanced Technology, 8 (3): 23-27.

Pearl, J. y Mackenzie, D. 2018: The Book of Why: The New Science of Cause and Effect. Nueva York: Basic Books.

Peña Valenzuela, D. 2007: «Riesgo, daño y responsabilidad jurídica en la era digital». Derecho Penal y Criminología, 2007, vol. 28.

Petit, N. 2017: Law and Regulation of Artificial Intelligence and Robots: Conceptual Framework and Normative Implications. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2931339.

Ponce Solé, J. 2019: «Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico». Revista General de Derecho Administrativo, 50, (de la versión que obra en el repositorio de inap).

Puyol, J. 2018: «Robots: ¿Hacia un nuevo concepto de «personalidad jurídica»?. Confilegal https://confilegal.com/20181217-hacia-un-nuevo-concepto-de-personalidad-juridica/

Quintero Olivares, G. 2017: «La robótica ante el derecho penal: el vacío de respuesta jurídica a las desviaciones incontroladas». Revista Electrónica de Estudios Penales y de la Seguridad, 2017, n.º 1.

Ramírez, M. y Castañeda, A. 1974: Democracia cultural, desarrollo bicognitivo y educación. Prensa Académica.

Ramos Tapia, M. I.; Moreno Torres Herrera, M. R.; Marín De Espinosa Ceballos, E. B. y Pérez Alonso, E. J. 2010: Fundamentos de Derecho Penal. Parte General. Ed. Tirant lo Blanch.

Robert Guillén, S.; Camacho Clavijo, S.; Navas Navarro, S.; Mateo Borges, I.; Górriz López, C. y Castells I Marquès, M. 2017: Inteligencia artificial. Tecnología y Derecho. Ed. Tirant lo Blanch.

Rodríguez Bajón, S. 2017: «La era Asimov. Análisis de la Propuesta del PE en materia de robótica». Diario La Ley, 2017, n.º 4. Sección Ciberderecho. Ed. Wolters Kluwer.

Romeo Casabona, C. M.; Sola Reche, E. y Boldova Pasamar, M. A. 2013: Derecho Penal. Parte General. Introducción. Teoría jurídica del delito. Ed. Comares.

Russell, S. y Norvig, P. 2016: Artificial Intelligence: a Modern Approach. Pearson Education Limited.

Sánchez Del Campo, A. 2019: «Cuestiones jurídicas que plantean los robots». Revista de Privacidad y Derecho Digital, 2019, n.º 2.

Santos González, M.ª J. «Regulación legal de la robótica y la inteligencia artificial: retos de futuro». Revista Jurídica de la Universidad de León, 2017, n.º 4.

Savigny, F. K. 2005: Sistema de Derecho Romano Actual. Granada: Comares.

saxena, v.; wu, x.; srivastava, i. y Zhu, K. 2018: «Towards neuromorphic learning machines using emerging memory devices with brain-like energy efficiency, preprints». Journal of Low Power Electronics and Applications, 8(4), 34 https://doi.org/10.3390/jlpea8040034

Scherer, M. U. 2016: «Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies». Harvard Journal of Law & Tecnology, 2016, vol. 29.

Searle, J. R. 1980: «Minds, brains, and programs». Behavioral and Brain Science, 1980, vol. 3, n.º 3: 417-457.

Silver, D.; Huang, A.; Maddison, C. J.; Guez, A.; Sifre, L.; Ven Den Driessche, G.; Schrittwieser, J.; Antonoglou, I.; Panneershelvam, V.; Lanctot, M.; Dieleman, S.; Grewe, D.; Nham, J.; Kalchbrenner, N.; Sutskever, I.; Lillicrap, T.; Leach, M. y Simshaw, D. 2015: Regulating Healthcare Robots: Maximizing Opportunities While Minimizing Risks. Richmod J. Law Technol.

Solanas, A. y Antoni, M. B. 2009: Advances in artificial intelligence for privacy protection and security. World Scientific.

Solum, L. B. 1992: «Legal Personhood for Artificial Intelligences», 70 North Carolina Law Review, 1231-1283, 1267.

Somolinos Sánchez, J. A. 2002: Avances en la robótica y visión por computador. Ed. Universidad Castilla-La Mancha.

Thierer, A. D. 2013: «Technopanics, threat inflation, and the danger of an information technology precautionary principle»,  Revista de derecho, ciencia y tecnología de Minnesota, 14(1): 309-386.

http://purl.umn.edu/144225.

Turing, A. M. 1948: Intelligent Machinery. National Physical Laboratory Report. Reimpreso en Meltzer, B. y Michie, D. (eds.). 1969: Machine Intelligence, 5. Edimburgo, Edinburgh University Press.

Turing, A.M. 1950: «Computing machinery and intelligence-AM Turing». Mind, 1950: 59 (236): 433.

Verdera Server, R. 2019: Lecciones de Derecho Civil. Derecho Civil I. Ed. Tirant lo Blanch.

Weizenbaum, J. 1976: Computer Power and Human Reasoning: From Judgment to Calculation. San Francisco: W. H. Freeman and Company.

Weng, J.; Mcclelland, J.; Pentland, A.; Sporns, O.; Stockman, I.; Sur, M. y Thelen, E. 2001: «Autonomous mental development by robots and animals». Science, 2001, n. º 291: 599-600.

Weng, Y.-H. 2016: Regulation of Unknown: A Lesson from Japan’s Public Law and Policy for Next-Generation Robots. VU University Amsterdam.

Weng, Y.-H.; Chen, C.-H. y Sun, C. T. 2007: «The Legal Crisis of Next Generation Robots: On Safety Intelligence». En The ACM 11th International Conference on Artificial Intelligence and Law.

Wilson, H. J.; Daugherty, P. y Davenport, C. 2019: «The Future of AI Will De About Less Data, Not More». Harvard Business Review, https://hbr.org/2019/01/the-future-of-aiwill-be-about-less-data-not-more.

Zeira, J. 1998: «Trabajadores, máquinas y crecimiento económico», Quarterly Journal of Economics, 1998, 113 (4): 1091-1117.

Código Civil español.

Directiva 85/374/CEE sobre la responsabilidad por los daños causados por productos defectuosos.

Ley 24/2015, de 24 de julio, de Patentes.

Ley 17/2001, de 7 de diciembre, de Marcas.

Ley 22/2018, de 6 de noviembre, de Inspección General de Servicios y del sistema de alertas para la prevención de malas prácticas en la Administración de la Generalitat y su sector público instrumental.

Ley Orgánica 10/1995, de 23 de noviembre, del Código Penal.

Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales.

Real Decreto 1013/2009, de 19 de junio, sobre caracterización y registro de la maquinaria agrícola.

Real Decreto 2822/1998, de 23 de diciembre, por el que se aprueba el Reglamento General de Vehículos.

Real Decreto 88/2013, de 8 de febrero, por el que se aprueba la Instrucción Técnica Complementaria aem 1 «Ascensores» del Reglamento de aparatos de elevación y manutención, aprobado por Real Decreto 2291/1985, de 8 de noviembre.

Real Decreto 920/2017, de 23 de octubre, por el que se regula la inspección técnica de vehículos.

Real Decreto de 24 de julio de 1889 por el que se publica el Código Civil.

Real Decreto Legislativo 1/1996, de 12 de abril, por el que se aprueba el texto refundido de la Ley de Propiedad Intelectual, regularizando, aclarando y armonizando las disposiciones legales vigentes sobre la materia.

Real Decreto Legislativo 1/2007, de 16 de noviembre, por el que se aprueba el texto refundido de la Ley General para la Defensa de los Consumidores y Usuarios y otras leyes complementarias.

Dictamen del Comité Económico y Social Europeo, sobre Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad.

Dictamen del Comité Económico y Social Europeo, 31 de mayo de 2017, c 288/1.

Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(inl)).
Laín Moyano, G. . (2021). Responsabilidad en inteligencia artificial: Señoría, mi cliente robot se declara inocente. AIS: Ars Iuris Salmanticensis, 9(1), 197–232. https://doi.org/10.14201/AIS202191197232

Descargas

Los datos de descargas todavía no están disponibles.
+