Tecnoética y seguridad aplicadas en la industria de la automoción (Parte II)

user-pic

El acelerado desarrollo tecnológico en la industria automotriz ha llevado a la creación de vehículos inteligentes con habilidades cada vez más sorprendentes. No obstante, esto abre las puertas a una discusión en términos éticos y de seguridad respecto a lo que representa su uso para las personas.

1500x844_tecnoetica_2.jpg

El automóvil del futuro

La automoción ha sido históricamente una de las industrias más influenciables por las tecnologías. Ahora, la inteligencia artificial, el Internet de las cosas (IoT), la nube, la ciberseguridad, la robótica, la navegación espacial, el láser, el 5G, etc.; serán componentes básicos del coche del futuro. Los vehículos autónomos están siendo probados por las grandes marcas de forma continua sobre el terreno y a gran escala. En los próximos años, el mundo del automóvil sufrirá la mayor transformación de su historia.

Asimismo, en el sector de transporte, en octubre del 2016, el primer camión sin conductor recorrió 200 km con una carga de 50 000 cervezas. Al respecto, MIT Technology Review analizó las limitaciones actuales y el impacto en el mundo laboral de los camiones autónomos. Se estima que estarán circulando por nuestras carreteras en un plazo de 5 a 10 años, operando las 24 horas del día, 7 días por semana, con una menor tasa de accidentes y costes.

El tema no es tanto la seguridad en la carretera, que seguro mejorará, sino las decisiones que tomará el vehículo autónomo, que van a ser producto de un algoritmo preprogramado.



Sin embargo, la primera víctima mortal en un accidente de un coche autónomo se produjo en junio del 2017, tras 209 000 000 de km de conducción autónoma -cuando los accidentes con conductor humano se producen de media cada 96 millones de km-. Asimismo, en marzo del 2018 se produjo la primera muerte por atropello de un coche autónomo, provocando la cancelación temporal de las pruebas por parte de Uber.

El tema no es tanto la seguridad en la carretera, que seguro mejorará1, sino las decisiones que tomará el vehículo autónomo, que van a ser producto de un algoritmo preprogramado. Los escenarios a controlar y las decisiones que el algoritmo deberá adoptar son una fuente de conflictos éticos que va a ser necesario dilucidar.

Al respecto, el MIT acaba de lanzar Moral Machine, una web con una serie de ejercicios a modo de encuesta. Diseñados por expertos, tiene el fin de evaluar qué opina la gente normal y corriente acerca de cómo deberían comportarse los coches autónomos en situaciones de vida o muerte. Por ejemplo, entre decidir si priorizar la vida de los ocupantes o bien elegir la del menor número de afectados ante una posible colisión, entre otros dilemas. Estás decisiones deberán ser tomadas y ejecutadas por algoritmos complejos que habrán sido programados por humanos.2

imagen1.JPG

Riesgos en seguridad informática

Pero esto abre la puerta a otro tipo de problemas. ¿Existirán versiones estándar y modelos vip de los algoritmos a precios distintos de forma que uno de ellos priorice siempre salvar la vida de los ocupantes? ¿Será posible adquirir en el mercado negro versiones personalizadas de los mismos? ¿Qué nivel de seguridad será necesario para garantizar que estos algoritmos no serán hackeados?

El hackeo de vehículos conectados a Internet es algo posible y preocupante. En 2015, dos investigadores usaron una conexión inalámbrica para detener el motor de una Jeep Cherokee, girar el volante e inhabilitar los frenos. Además, descubrieron que podían hacerlo con cientos de automóviles que usaban sistemas de navegación Uconnect, instalados en Dodge y Jeep, obligando a llamar a revisión 1,4 millones de vehículos.

Este asunto no queda en anécdota. Wikileaks, en marzo de 2017, publicó más de 8000 documentos sobre ciberespionaje. Entre ellos, había pruebas de cómo la CIA planeaba -desde el 2014- hackear los sistemas de control de automóviles para permitirles "cometer asesinatos indetectables". Algunas fuentes apuntaban que ya se estaba comercializando en el mercado negro parte del arsenal de armas informáticas filtrado, que incluye virus, troyanos y software de control remoto.

El futuro no tan remoto

No se trata solo de la inteligencia artificial y el sector automotriz. También se debe considerar la nanotecnología, la biotecnología, la computación cuántica, la robótica civil y militar, el Internet de las cosas, etc. Asimismo, el impacto de todo lo anterior en el mundo laboral, la educación, la salud, las relaciones interpersonales, entre otros aspectos. El panorama es complejo y vertiginoso. Las reglas del juego deben clarificarse y precisamos urgentemente revisar y modificar la legislación existente para poder adaptarnos de forma adecuada a los nuevos paradigmas.

¿Está nuestra clase política preparada para ello? ¿Tienen jueces y legisladores con consciencia de las implicaciones y las necesidades generadas por estas tecnologías? ¿Cuál es el nivel de responsabilidad que deben asumir las empresas que investigan, desarrollan e implementan estas soluciones?

Internet ha facilitado el acceso a una cantidad de información inmensa a millones de personas, pero ahora se intuye el riesgo de que la sabiduría vuelva a encerrarse en los monasterios. La información parece accesible, pero realmente solo unos pocos -en cada vez menos y más concentrados conglomerados empresariales- están al día de la situación y toman las decisiones necesarias.

¿Crees que existe un riesgo en el uso sin mesura de las tecnologías de la información? Cuéntanos tu experiencia. 



1. En este video puede apreciarse cómo el actual sistema autopilot de Tesla detecta un accidente unos segundos antes de que se produzca y detiene el vehículo por iniciativa propia.

2. En este contexto, sería interesante revisar la descripción detallada de la "máquina de juzgamiento global".

 

Auspicios