Alemania sienta las bases para pensar los dilemas éticos de los autos autónomos

Si las máquinas causan menos accidentes que los humanos, ¿cómo no usarlas? ¿Cómo vamos a darle valor a una vida humana sobre otra mirando rasgos personales? Frente a un potencial accidente en el que no hay otra alternativa: ¿a quién debería atropellar?

Estas preguntas que son la base de lo que algunos llaman un "dilema ético" en las máquinas autónomas, y aunque siempre supuse que poner esa carga en un algoritmo es errado, ya en Alemania se publicó el Ethik-Kommission zum automatisierten Fahren legt Bericht vor o “Primer informe de la Comisión de Ética sobre la conducción automatizada”. Es interesante leerlo, porque quienes que programen algoritmos para autos (las instrucciones que hacen que la computadora interna tome una u otra decisión mientras conduce el vehículo) van a tener una base desde donde tratar de responder esas preguntas.

Pensemos que, detrás de cada algoritmo o máquina autónoma, hay un programador con su bagaje cultural, y al momento de programar inconscientemente va a aplicar su propia idea de cómo solucionar estos dilemas éticos de la conducción autónoma, mientras que los algoritmos deberían ser neutrales. Esta es la base de lo que Alemania propone con su informe: poner el sesgo en evidencia y neutralizarlo siempre que sea posible.

Los puntos clave son los siguientes:

• La conducción automatizada y conectada debe ser un imperativo ético si esta tecnología causa menos accidentes que los conductores humanos (balance positivo de riesgo).
• Los daños a la propiedad son preferibles a las lesiones personales. En situaciones de peligro, la protección de la vida humana debe tener siempre la máxima prioridad.
• En caso de situaciones de accidente inevitables, toda distinción entre individuos basada en rasgos personales (edad, sexo, constitución física o mental) es inadmisible.
• En cada situación de conducción, debe ser claramente regulado y aparente quién es responsable de la tarea de conducción: el ser humano o la computadora.
• Debe documentarse y almacenarse quién conduce, para resolver posibles problemas de responsabilidad legal, entre otras cosas.
• Los conductores siempre deben poder decidir si los datos que registra en forma permanente de su vehículo deben ser compartidos y utilizados por otros (soberanía de datos).

Es interesante que podamos ver esto como una base igualitaria sobre la cual tomará decisiones una máquina autónoma cuando se enfrente a una situación donde un accidente es imposible de evitar.

Las preguntas a veces pueden parecer fáciles de responder, pero no siempre lo son; incluso al leer este informe completo ¿no se deja un espacio para sopesar que la vida vale más si solo evitamos rasgos personales?

Alemania hace bien en formar un comité y buscar un marco, pero este marco debe estar “vivo” y ser capaz de evolucionar al mismo ritmo en que lo hacen las máquinas y sus algoritmos; si no, la historia de Yo, Robot donde una inteligencia artificial toma control de todo para "ayudar a la humanidad" va a estar mucho más cerca de la realidad.

Por Mariano Amartino

• Vehículos autónomos
• Inteligencia artificial

---

---

Conforme a