El dilema moral de los coches autónomos
El "problema del tranvía" ha puesto a los filósofos en un dilema. Cuanto más piensan en ello, más difícil se vuelve y más profundo caen. Ahora, sin embargo, no son sólo los filósofos los que tienen que lidiar con este desconcertante problema, incluso los responsables políticos y los fabricantes de automóviles de la industria automotriz están empezando a sufrirlo. Ahora que los automóviles sin conductor están en las carreteras, los formuladores de políticas y los fabricantes de automóviles deben considerar la posibilidad de que exista un "problema de tranvía" en la vida real.
Conceptos de diseño bajo impacto
A primera vista, los coches sin conductor no parecen aportar nuevas diferencias. Un automóvil, ya sea controlado por un software a bordo o conducido por un humano, se enfrenta a la elección de no atropellar a nadie. Pero, de hecho, sólo en los coches sin conductor el "problema del tranvía" resulta más práctico como experimento mental. En realidad, cuando un conductor humano se encuentra con una emergencia, como una persona o un automóvil que repentinamente se adelanta, generalmente pierde la cabeza en un instante y depende completamente de operaciones subconscientes. O frena bruscamente o se desvía y no tiene tiempo para pensar éticamente en el "problema del tranvía". Además, precisamente debido a la operación subconsciente, el resultado final está fuera del control del conductor: puede ser una falsa alarma sin víctimas o también puede ser más grave que ninguna operación, como un vuelco en una curva cerrada o una activación; una serie de colisiones traseras que causaron más víctimas.
Así, en los accidentes de tráfico reales, rara vez condenamos moralmente al conductor desde una perspectiva ética (salvo en unos pocos casos). Después de todo, todos cometemos errores. Sin embargo, los coches sin conductor son diferentes. Todas sus reacciones están preestablecidas por el programa del coche. No es necesario tomar una decisión en ese momento, el fabricante de automóviles tiene un código informático que le indica qué hacer en esta situación. Entonces, en este momento realmente surgen cuestiones éticas, y estas cuestiones éticas afectarán el concepto de diseño de los automóviles sin conductor.
¿Por qué aparecen los coches sin conductor? Como líder en tecnología de vehículos autónomos, Google dio una respuesta autorizada: los vehículos autónomos pueden reducir los accidentes de tráfico causados por negligencia humana, reduciendo así el número de víctimas en accidentes. En otras palabras, los coches sin conductor están diseñados para la seguridad. Entonces, cuando ocurre el "problema del tranvía", ¿la primera prioridad de un automóvil autónomo es proteger la seguridad del propietario o la seguridad de los forasteros?
Por ejemplo, cuando conduces un coche sin conductor por una carretera de montaña, te encuentras con unos niños delante de ti bloqueando la carretera. Si gira a la izquierda, puede caer por un acantilado. Si gira a la derecha, va en sentido contrario, infringe las normas de tráfico y puede chocar de frente con el coche que viene delante. En este momento, si el concepto de diseño del automóvil sin conductor es priorizar la seguridad de las personas en el automóvil, entonces el automóvil no hará nada en absoluto, solo lo atropellará, pero las consecuencias provocarán la muerte de estos niños. Por otro lado, si un automóvil autónomo está diseñado para mantener seguras a las personas que están fuera del vehículo, entonces obviamente ese automóvil no se puede vender: ni el propietario ni el fabricante de automóviles quieren ser víctimas de un accidente.
Esto implica otra cuestión: si los coches sin conductor siguen las reglas, definitivamente causarán daño. ¿Debería permitirse que los vehículos autónomos infrinjan las normas de tráfico (como girar al carril equivocado)? Si es posible, esto va en contra del sentido común de "obedecer las normas de tráfico y reducir el riesgo de accidentes". Por supuesto, algunas personas han señalado que es posible diseñar software para automóviles sin conductor sin establecer ningún "principio rector", de modo que el automóvil pueda simular el funcionamiento subconsciente de un conductor humano y dejarlo funcionar en un estado aleatorio. Pero este tipo de "probar suerte" también es incompatible con la intención original de la humanidad de inventar coches sin conductor.
Derechos y responsabilidades en la toma de decisiones
En cuanto a la primera pregunta, quizás a través del avance tecnológico, los fabricantes de automóviles puedan escribir programas extremadamente complejos para permitir que los vehículos autónomos enfrenten el problema de los tranvías. Tome decisiones lógicas al hacerlo. Sin embargo, imagina que un día en el futuro, mientras estás sentado en un automóvil sin conductor, tu vida se encuentra en un momento crítico del "problema del tranvía", pero no puedes tomar una decisión por ti mismo. ¿Estarás satisfecho?
El poder de decisión en el “Problema del Trole” es importante, entonces ¿a quién debe pertenecer? ¿Es el fabricante de automóviles, los legisladores o los propios propietarios? Quien tome la decisión puede verse empujado a la vanguardia de la moral y la ética. Cuando los coches sin conductor se enfrenten al "problema del tranvía", también habrá algunas variables en la propiedad del poder de toma de decisiones. Por ejemplo, si los fabricantes de automóviles tienen poder de decisión, diseñan automóviles sin conductor para matar intencionalmente a sus propietarios en una situación de "problema con el tranvía" para reducir las víctimas en accidentes.
¿Cómo se garantiza que el conductor no modificará él mismo el programa, de modo que nunca sea asesinado deliberadamente por su propio coche? Siempre hay lagunas en los programas informáticos y siempre alguien puede solucionarlas.
Finalmente, si los autos sin conductor realmente encuentran el "problema del tranvía", después de que el software de transporte toma una decisión, ¿quién debe levantarse y asumir la responsabilidad de las consecuencias? De todos modos, los legisladores no responsabilizarán a los vehículos autónomos. "Encontrar una persona claramente responsable" es otra cuestión en la que debemos pensar.
Este artículo es del artículo de la revista nº 8 de 2016, Nueva Teoría de las Grandes Tecnologías. Los lectores pueden seguir nuestra cuenta de WeChat: hdkj1997.