domingo, 17 de septiembre de 2017

Ética de un vehículo autónomo

Cuando uno se sienta al volante de un automóvil, se supone que es consciente que está frente a una máquina pesada, que circula a gran velocidad y que puede producir daños importantes (incluso la muerte) en caso de error, decisión equivocada o distracción.

Imaginemos por un momento que venimos circulando cumpliendo con la normativa de tránsito y fallan los frenos del vehículo. Frente a nosotros una senda peatonal donde hay personas que están cruzando en regla. Sólo hay dos opciones posibles: continuar derecho y seguramente causar la muerte de las personas que cruzan, o desviar la trayectoria del vehículo chocando el vehículo en una decisión suicida.

¿Cambia la decisión si el vehículo o los peatones no están cumpliendo las reglas de tránsito? ¿Da lo mismo si los pasajeros del vehículo o los peatones son más cantidad de individuos? ¿La edad de quienes probablemente mueran, influye? ¿Cuáles vidas "valen más" o deben ser protegidas de manera preferente?

Obviamente una decisión de este tipo en la vida real está condicionada por la urgencia, el instinto, la desesperación, la angustia, el miedo, las experiencias previas, los vínculos afectivos con los pasajeros y con los peatones que cruzan. También deben existir muchos otros factores que influyen, al punto que es muy difícil "juzgar" la decisión tomada, y atribuirlo a una decisión irracional "del momento" nos hace más sencillo aceptar las consecuencias y nos libra de tener que pensar de antemano qué está bien y qué está mal.

Pero si quien conduce es una computadora, un vehículo autónomo programable, una máquina que tiene una capacidad de procesamiento que le permite evaluar muchas opciones y aplicar reglas de decisión en un tiempo ínfimo... ¿qué cambia?

Las reglas las fijamos los humanos y las aplican las máquinas, pero ¿estamos preparados para definir esas reglas? ¿Quién muere en cada caso?

Los gobiernos comienzan a dar los primeros pasos para crear regulaciones al respecto (como es el caso de Alemania), pero desde el MIT pensaron un test diseñado para recoger las opciones que las personas tomarían en casos extremos como forma de tratar de identificar criterios generales que puedan ser aplicados a las máquinas.

Hacer este test, nos pone en evidencia lo difícil de este tipo de decisiones que tenemos por delante. Recomiendo que lo hagan, para seguir pensando juntos estas cosas.
.
.