Dilemas éticos de los vehículos autónomosResponsabilidad ética, análisis de riesgo y toma de decisiones

  1. Javier Bustamante Donas
Revista:
Argumentos de razón técnica: Revista española de ciencia, tecnología y sociedad, y filosofía de la tecnología

ISSN: 1139-3327

Año de publicación: 2022

Número: 25

Páginas: 275-309

Tipo: Artículo

DIALNET GOOGLE SCHOLAR lock_openIdus editor

Otras publicaciones en: Argumentos de razón técnica: Revista española de ciencia, tecnología y sociedad, y filosofía de la tecnología

Resumen

Este artículo plantea un análisis de los dilemas éticos creados en torno a los sistemas autónomos inteligentes, y más particularmente en torno a los vehículos autónomos. Se estudia el estado de la cuestión desde un punto de vista interdisciplinar. Se señalan los desafíos para la seguridad de los sistemas autónomos, así como las vulnerabilidades que afectan a la resistencia de los sistemas autónomos con respecto a ataques externos. Para tal fin se compara la habilitación para el manejo de vehículos con la certificación de sistemas autónomos. Se aplican dichos conceptos al estudio del caso del primer accidente mortal causado por un vehículo autónomo en relación con la asignación de responsabilidad ética y legal. Por último, se apunta a la tarea pendiente del análisis de la relación entre la ética de los vehículos autónomos y la teoría de juegos.

Referencias bibliográficas

  • Bansal, S., & Tomlin, C. J. (2019). Control and Safety of Autonomous Vehicles with Learning-Enabled Components. In H. Yu, X. Li, R. Murray, S. Ramesh, & C. J. Tomlin (Eds.), Safe, Autonomous and Intelligent Vehicles. Springer Nature. https://doi.org/10.1007/978- 3- 319- 97301- 2.
  • Bonnefon, J. F., Shariff, A., & Rahwan, I. (2016). The Social Dilemma of Autonomous Vehicles. Science, 352(6293): 1573-1576. https://doi.org/10.1126/science.aaf2654
  • Carlini N., & Wagner, D. (2017). Towards evaluating the robustness of neural networks. In Security and Privacy (SP), 2017 IEEE Symposium, 39–57.
  • Carlini, N., & Farid, H. (2020). Evading deepfake-image detectors with whiteand black-box attacks. arXiv preprint arXiv:2004.00622.
  • Cummings, M.L. (2017). The Brave New World of Driverless Cars: The Need for Interdisciplinary Research and Workforce Development. TR News, 34–37.
  • Dolhansky, B., Bitton, J., Pflaum, B., Lu, J., Howes, R., Wang, M. & Canton Ferrer, C. (2020). The deepfake detection challenge (DFDC) dataset. arXiv preprint arXiv:2006.07397.
  • Eykholt, K., Evtimov, I., Fernandes, E., Li, B., Rahmati, A, Xiao, C., Prakash, A., Kohno, T., & Song, D. (2018). Robust PhysicalWorld Attacks on Deep Learning Visual Classification, IEEE/CVF Conference on Computer Vision and Pattern Recognition, 1625-1634, doi: 10.1109/CVPR.2018.00175.
  • Gandhi, A., & Jain, S. (2020). Adversarial Perturbations Fool Deepfake Detectors. arXiv preprint. https://doi.org/10.48550/arXiv.2003.10596.
  • Goodfellow I. J., Shlens, J., & Szegedy, C. (2014). Explaining and harnessing adversarial examples. arXiv preprint arXiv:1412.6572. https://doi.org/10.1126/science.aaf2654
  • Guevara, J. F. (2021). Moral machine: descubriendo el desafío ético de las inteligencias artificiales. Arbor, 197(800), a607. https://arbor.revistas.csic.es/index.php/arbor/article/view/2421.
  • Handi Yu et al. (2019). Efficient Statistical Validation of Autonomous Driving Systems. In H. Yu, X. Li, R. Murray, S. Ramesh, & C. J. Tomlin (Eds.), Safe, Autonomous and Intelligent Vehicles. Springer Nature. https://doi.org/10.1007/978- 3- 319- 97301- 2.
  • Km77.com (2022) Conducción autónoma, niveles y tecnología. https://www.km77.com/reportajes/varios/conduccion-autonomaniveles.
  • Kos, J., Fischer, I., & Song, D. Adversarial examples for generative models. arXiv preprint arXiv:1702.06832, 2017.
  • Kwon, C., & Hwang, I. (2019). Cyberattack-Resilient Hybrid Controller Design with Application to UAS. In H. Yu, X. Li, R. Murray, S. Ramesh, & C. J. Tomlin (Eds.), Safe, Autonomous and Intelligent Vehicles. Springer Nature. https://doi.org/10.1007/978- 3- 319- 97301- 2.
  • Li, B., & Vorobeychik, Y. (2014). Feature cross-substitution in adversarial classification. In ANIPS’14: Proceedings of the 27th International Conference on Neural Information Processing Systems Volume 2, 2087–2095.
  • Moosavi-Dezfooli, S., Fawzi, A., Fawzi, O., & Frossard, P. (2016). Universal adversarial perturbations. CoRR, abs/1610.08401.
  • Neekhara, P., Dolhansky, B., Bitton, J., & Ferrer, C. C. (2021). Adversarial Threats to DeepFake Detection: A Practical Perspective. In 2021 IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops (CVPRW), Nashville, TN, USA. 923-932.
  • Nguyen, A., Yosinski, J., & Clune, J. (2015). Deep neural networks are easily fooled: High confidence predictions for unrecognizable images. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 427–436.
  • NTSB (2017). Highway Accident Report: Collision Between a Car Operating with Automated Vehicle Control Systems and a TractorSemitrailer Truck near Williston, Florida May 7, 2016. NTSB/HAR17/02 PB2017–102600.
  • Papernot, N., McDaniel, P., Jha, S., Fredrikson, M., Celik, Z. B., & Swami, A. (2016). The limitations of deep learning in adversarial settings. In Security and Privacy (EuroS&P), 2016 IEEE European Symposium on, 372–387.
  • Quach, K. (14 de marzo de 2022). Driver in Uber’s self-driving car death goes on trial, says she feels ‘betrayed’. The Register. https://www.theregister.com/2022/03/14/in_brief_ai/
  • SAE (2022). Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road Motor Vehicles J3016_202104. SAE.org. https://www.sae.org/standards/content/j3016_202104/
  • Sandel, M. (2011) Justicia. ¿Hacemos lo que debemos? Debate.
  • Shinar, D., & Schieber, F. (1991). Visual requirements for safety and mobility of older drivers. Hum. Factors, 33(5), 507–519.
  • Sibros medium (2022). The Current State of Automotive Software Related Recalls. https://sibros.medium.com/the-current-state-ofautomotive-software-related-recalls-ef5ca95a88e2
  • Smiley, L. (2022). ‘I’m the Operator’: The Aftermath of a SelfDriving Tragedy. Wired, 8 de marzo. https://www.wired.com/story/uber-self-driving-car-fatal-crash/
  • Stern, R. (12 de mayo de 2021). Trial Delayed for Backup Driver in Fatal Crash of Uber Autonomous Vehicle. Phoenix New Times. https://www.phoenixnewtimes.com/news/uber-crash-arizonavasquez-herzberg-trial-negligent-homicide-charge-11553424.
  • Styles, R. y Smith, J. (20 de marzo de 2018). Convicted armed robber who was behind the wheel of self-driving Uber when it killed pedestrian as she wheeled her bike across a road. Daily Mail. https://www.dailymail.co.uk/news/article-5524031/PICTUREDFelon-wheel-killer-self-driving-Uber-car.html
  • Yu, H., Li, X., Murray, R., Ramesh, S., & Tomlin, C. J. (Eds.). (2019). Safe, Autonomous and Intelligent Vehicles. Springer Nature. https://doi.org/10.1007/978- 3- 319- 97301- 2.
Fuente de los datos: Dialnet