La ONU pidió imponer una "moratoria" para la venta y el uso de sistemas de inteligencia artificial (IA) que, entre otras cosas, permiten el reconocimiento facial, hasta que se activen las garantías necesarias para proteger los derechos humanos.

"La inteligencia artificial puede ser una fuerza para el bien, que ayude a las sociedades a superar algunos de los mayores retos de nuestro tiempo. Pero las tecnologías de IA también pueden tener efectos nocivos e incluso catastróficos, cuando se emplean sin prestar la debida atención a su capacidad de vulnerar los derechos humanos", advirtió en un comunicado la Alta Comisionada de la ONU para los Derechos Humanos, Michelle Bachelet. El informe describe detalladamente cómo los sistemas de IA se basan en grandes bases de datos con información personal "compilada, intercambiada, combinada y analizada con métodos diversos y a veces opacos".

Bachelet pidió evaluar los riesgos que representan para la vida privada o la libertad de expresión los sistemas que se apoyan en la inteligencia artificial. "Dado que la evaluación de los peligros y cómo superarlos puede llevar todavía algún tiempo, los Estados deberían implementar desde ahora moratorias sobre el uso de las tecnologías que presentan un alto potencial de riesgo", añadió.

Bachelet citó como ejemplo las tecnologías que permiten tomar decisiones automáticas o aquellas que establecen perfiles.


El informe destaca el uso cada vez más frecuente de los sistemas basados en la IA por parte de las fuerzas de seguridad, que recurren a esa herramienta para identificar a personas a distancia y en tiempo real, algo que podría derivar en el seguimiento ilimitado de los individuos.

"No podemos seguir reaccionando tardíamente a los efectos de la IA, ni permitir que se use de manera ilimitada, sin fronteras ni supervisión, para enfrentarnos luego a sus casi inevitables consecuencias sobre los derechos humanos", insistió Bachelet, quien a la vez afirmó que "la capacidad de la IA para servir a la población es innegable".

Los sistemas de inteligencia artificial se usan "para decidir quién recibe servicios públicos, quién tiene oportunidad de obtener un empleo y, por supuesto, afectan a la información que la gente ve y que puede compartir en Internet", señaló Bachelet.

El informe había sido solicitado por el Consejo de Derechos Humanos -la instancia más alta de la ONU en ese área-, y analizó las formas en las que esas tecnologías se aplican aún cuando no se haya evaluado cabalmente su funcionamiento o su impacto.

La IA hizo que muchas personas hayan sido tratadas de maneras injustas, indicó Bachelet, "ya sea porque se les ha denegado prestaciones del seguro social debido a la aplicación de instrumentos deficientes de IA o porque han sido arrestadas como consecuencia de errores en los sistemas de reconocimiento facial".

"El riesgo de discriminación inherente a las decisiones basadas en la IA -decisiones capaces de cambiar, definir o perjudicar a las personas- es muy real", añadió Bachelet.