El rápido avance de las tecnologías de inteligencia artificial ha levantado legítimas preocupaciones respecto de sus consecuencias negativas, relativas a potenciales violaciones de derechos humanos y, particularmente, al incremento de la discriminación hacia grupos históricamente vulnerables.

Dadas las consecuencias potencialmente irreparables que puede tener la implementación de técnicas de inteligencia artificial sin consideraciones de derechos fundamentales, es necesario analizar las iniciativas y las políticas que se están desarrollando, identificando espacios de mejora a la luz de los principios internacionales y las buenas prácticas. Más todavía en una región como América Latina, marcada por altos índices de desigualdad y la ausencia de garantías adecuadas para la protección de derechos.

Con ese objetivo, inicialmente desarrollamos 4 casos de estudio sobre distintas implementaciones de inteligencia artificial en cuatro países latinoamericanos.

En Brasil, se analiza la utilización de inteligencia artificial en el Sistema Nacional de Empleo, con el objetivo de facilitar la reubicación de profesionales desempleadas en el mercado laboral. En Chile se investiga el Sistema Alerta Niñez, que busca estimar y predecir el nivel de riesgo de niñas, niños y adolescentes de sufrir alguna vulneración en sus derechos en el futuro. En Colombia se revisa el caso de PretorIA, un proyecto de la Corte Constitucional que busca hacer más eficiente el proceso de selección de casos de tutela judicial de derechos fundamentales. En Uruguay se analiza Coronavirus UY, una aplicación móvil gratuita.

Durante el 2024 sumamos 4 estudios má sobre la IA como instrumento de políticas públicas. En Argentina se analizó el sistema Chatbot Boti, que funciona como un asistente automático implementado por el Gobierno de la Ciudad de Buenos Aires para la autogestión de trámites en línea. En Colombia se investigó el caso del Fiscal Watson, donde se implementó el sistema de IA IBM Watson en la Fiscalía General de la República. En México se analizó el Sistema de Actuación Temprana para la Permanencia Escolar que consiste en un algoritmo de aprendizaje automático para predecir la probabilidad de que los estudiantes actualmente matriculados abandonen la escuela secundaria en el futuro, en el estado de Guanajuato. En Paraguay revisamos el caso del Portal EmpleaPy, un portal destinado a la gestión de oferta y búsqueda laboral, que implementa algoritmos para la conexión entre oferta y demanda. 

Los casos de estudio se desarrollaron en colaboración con centros de investigación, organizaciones de derechos humanos e investigadoras e investigadores: ADC (Argentina), Dejusticia y Fundación Karisma (Colombia), MediaLab.UFRJ y Red LAVITS (Brasil), Tedic (Paraguay) Dina Yael (Uruguay), Matías Valderrama (Chile),  Paola Ricaurte y Jacobo Nájera (México).

Progresivamente iremos sumando nuevos casos de estudio en estos y otros países latinoamericanos.