Página/12 :: Contratapa :: Dilema ético

El que sigue es un artículo interactivo. Quiero plantear una serie de situaciones (no de matemática, sino de la vida cotidiana) que requieren de la toma de decisiones. Las opiniones van a variar: la suya, la mía, la de cada persona podría (y es esperable que así ocurra) ser diferente, pero como tendremos que elegir algún camino, deberíamos consensuar en qué sociedad queremos vivir y naturalmente, convendría que sea aquella en la que se respete las voluntades de las mayorías.

Sé que así escrito es muy general... o muy genérico, pero entenderá si sigue leyendo un poco más.

Le voy a plantear una serie de problemas en donde usted tendrá que tomar una decisión en forma casi instantánea. No se apure a contestar; solo le pido que medite qué haría y, más abajo, verá porqué su respuesta no solo le interesará a usted, sino que nos interesará a todos.

Acá voy.

Problema 1

Usted está manejando su auto a considerable velocidad. De pronto, sin darle virtualmente tiempo a nada, desde la vereda, salen corriendo alrededor de diez personas. Su primera reacción es “clavar los frenos”... pero cuando lo intenta, su pie derecho llega hasta el fondo sin que haya respuesta. Con horror usted descubre que “se quedó sin frenos”.

Todo sucede muy rápido: sin tiempo, mira hacia la misma vereda desde donde salieron los peatones que ahora están cruzando y usted alcanza a ver un joven que está parado, como si estuviera esperando un colectivo.

Hay dos alternativas: o atropella a los que están cruzando (y eventualmente los mata) o bien tuerce el volante hacia la derecha y “mata” al joven que está parado en la vereda.

Usted, ¿qué haría? ¿Sigue su camino y mata a las diez personas que están cruzando o gira el volante y mata a uno solo?

Problema 2

Mismo problema que antes, solo que ahora no hay nadie parado en la vereda: la alternativa es que si gira el volante, será usted quien terminará estrellado contra la pared.

Ahora, ¿qué hace?: ¿sigue su camino y eventualmente mata a todas o algunas de las personas que cruzan o pone en riesgo su vida con alta probabilidad de perderla?

Problema 3

Lo mismo que en los casos anteriores: usted viene manejando su auto a alta velocidad. Ahora es una única persona la que cruza en forma totalmente inesperada. Una vez más, usted descubre con horror que “se quedó sin frenos”. Semblantea la situación y al mirar hacia su derecha determina de inmediato que las alternativas son dos: si usted sigue de largo, muere el que está cruzando y usted se salva, pero si usted gira hacia la derecha, igual que antes, es usted quien se estrella contra la pared. En esta situación, usted, ¿qué haría?

Es posible que usted haya escuchado hablar de este tipo de situaciones o que haya leído sobre ellas. No son las únicas, y ni siquiera sé si son las mejores. No importa. Espero que ni usted, ni yo, ni nadie, tenga que atravesar por ellas. Pero lamentablemente la vida es así: ese tipo de cosas pasan y, guste o no, los accidentes existen.

De todas formas, no es esa la razón por la que estoy escribiendo este artículo sino que quiero proponerle avanzar en una dirección distinta, siempre contemplando las condiciones que planteé más arriba.

Más allá de las respuestas que usted (se) dio, quiero introducir un nuevo elemento.

Suponga que ahora usted está viajando en el auto, pero no lo está conduciendo. Está como pasajero. En realidad, no hay piloto, no hay quien lo conduzca. Se trata de uno de los vehículos nuevos con los Google está experimentando desde hace algunos años... y con marcado éxito. Ahora ya no es usted quien tiene que tomar la decisión: ¡es el auto!

Estoy seguro que usted no ignora que los autos no toman decisiones; las tomamos los humanos. El auto va a hacer exactamente lo que lo hayamos programado para que haga, y es acá donde quería llegar.

- ¿Qué le decimos que haga?

- ¿Quién toma la decisión de elegir matar a diez peatones pero salvarse usted o los que vayan en el auto?

- ¿O la decisión es matar al que está parado en la esquina pero salvar a los diez que están cruzando?

- ¿O que el auto mate a quien está parado pero lo salve a usted o los que estén viajando con usted?

Una vez más, hay que programar la computadora del auto antes que salga a circular. De hecho, una vez que se ponga en venta, algo va a hacer; no importa qué, pero seguro que algo hará. ¿Y entonces? ¿Qué le decimos que haga? ¿Y quién se lo dice? ¿Quién o quiénes toman las decisiones para que cada auto tenga instrucciones precisas sobre cómo operar en cada circunstancia?

¿O lo dejamos para que lo decidan los fabricantes de autos? ¿No tendría que estar regulado? ¿No debería ser una decisión de los gobiernos? ¿Habrá acaso libertad para fabricar autos que tomen una decisión y otros que tomen una distinta?

Supongo que no aspirará a que yo le ofrezca “la” respuesta, ni siquiera “una” respuesta. Yo mismo no sé bien lo que pienso y ni siquiera creo que sea relevante. Pero está claro que en algún momento (y no muy lejano) este tipo de preguntas éticas tendrán que ser contestadas, y esas respuestas necesitarán del consenso de la sociedad en la que vivimos. Sospecho que en la Argentina las decisiones serán distintas de las que se tomarán en Suecia, por elegir un lugar cualquiera, pero lo que me queda clarísimo es que no puede quedar en manos de las compañías que fabriquen autos.

Me imagino que debería haber un debate parlamentario para consensuar leyes que determinen qué pedir... o qué exigir. ¿O es que la decisión puede ser tomada por el comprador, quien tendría la opción de elegir uno que “mate” a los que cruzan si son más –en número– que los que están parados esperando un colectivo? ¿Y qué hacer si en lugar de ser un auto, se trata de un colectivo que transporta niños? ¿Y si quien está esperando el colectivo es un niño? Y si en el auto que se está “auto-manejando”, además de usted están sus dos hijos...¿elegiría igual lo que eligió más arriba?

Las preguntas que yo podría agregar acá son muchas y a esta altura creo que son redundantes. Estoy seguro que usted advierte qué problema estamos por enfrentar, y si le sirve, me apresuro a decirle que más allá de que no “le” guste pensar las respuestas, o no “me” guste hacerlo, este tipo de debates están “acá a la vuelta”. Los autos sin conductor empezarán a circular en menos de una década, o mucho antes, y si usted decide no comprar ni subirse a alguno salvo que se prohíba su circulación, es muy posible que tenga que co-existir con ellos.

Hay varios lugares en donde este tipo de debates ya existen. De hecho, el sábado 4 de junio de este año, en el marco del Festival Mundial de Ciencia que se hizo en New York, una de las charlas tenía este título: “Moral Math of Robots: Can Life and Death Decisions by Coded?” Voy a tratar de ofrecer mi traducción, no necesariamente textual: “La Moral Matemática de los Robots: ¿se pueden programas decisiones sobre la vida y la muerte?”

Pero el festival de principios de junio es solamente uno de los foros en donde se discutió. Claramente se trató de la presentación en sociedad de este problema, lo mismo que pretendo hacer yo con esta nota.

Eso sí: ignorar el problema no lo resuelve, y conviene estar educados para enfrentar el futuro que llega inexorablemente. ¿Usted qué piensa?