El uso por parte del gobierno británico de la herramienta de inteligencia artificial "Identificación y Priorización de Casos de Inmigración" (IPIC) ha causado controversia. La herramienta tiene como objetivo hacer que la aplicación de la ley de inmigración sea más eficiente, pero ha enfrentado reacciones negativas de grupos de derechos humanos por su potencial para exacerbar la opresión de los inmigrantes y su excesiva dependencia de los algoritmos. El editor de Downcodes explicará en detalle los entresijos de este incidente, y analizará sus potenciales riesgos e impacto social.
Recientemente, el gobierno británico introdujo una herramienta de inteligencia artificial llamada "Identificación y Priorización de Casos de Inmigración" (IPIC) en la gestión de la inmigración. El propósito de esta herramienta es mejorar la eficiencia de la aplicación de la ley de inmigración y hacer recomendaciones para la expulsión forzada de inmigrantes, incluidos adultos y niños. Sin embargo, los grupos de derechos humanos se han opuesto firmemente a este enfoque, diciendo que podría exacerbar la opresión de los inmigrantes y hacer que el proceso de toma de decisiones sea demasiado algorítmico.
Nota sobre la fuente de la imagen: la imagen es generada por AI y el proveedor de servicios de autorización de imágenes Midjourney
Después de una solicitud de divulgación que duró un año, se revelaron algunos detalles sobre el sistema de inteligencia artificial. Los documentos muestran que el sistema recopila información personal sobre inmigrantes, incluidos datos biométricos, raza, estado de salud y antecedentes penales. Aunque el gobierno afirma que la introducción de inteligencia artificial puede ayudar a acelerar los casos de inmigración y que cada recomendación será revisada por humanos, los críticos creen que este enfoque puede llevar a que los funcionarios "simplifiquen" el proceso de toma de decisiones, especialmente cuando se aceptan recomendaciones algorítmicas. , los funcionarios no necesitan dar ningún motivo y solo deben confirmar con un clic.
El grupo de derechos Privacy International ha expresado su preocupación de que el sistema haga que los funcionarios sean más propensos a aceptar recomendaciones informáticas en lugar de una evaluación en profundidad de casos individuales. Además, Fizza Qureshi, directora ejecutiva de Immigrant Rights Network, señaló que a medida que aumenta el intercambio de datos, las herramientas de inteligencia artificial pueden aumentar el riesgo de vigilancia de los inmigrantes y violaciones de la privacidad.
La herramienta se ha utilizado ampliamente desde 2019-20, y el gobierno se ha negado a revelar más detalles operativos ante el escepticismo público con el argumento de que se podría utilizar demasiada transparencia para eludir los controles de inmigración. Madeleine Sumption, directora del Observatorio de Migraciones de la Universidad de Oxford, cree que si bien el uso de la inteligencia artificial no es malo en sí mismo, en ausencia de transparencia, es difícil evaluar su impacto real en la toma de decisiones.
Recientemente, el Parlamento del Reino Unido también propuso un nuevo proyecto de ley de datos que permitiría la toma de decisiones automatizada en la mayoría de los casos, siempre que las personas involucradas puedan apelar y obtener intervención humana. El cambio genera preocupaciones sobre si las futuras decisiones de inmigración dependerán más de los algoritmos.
El uso del sistema IPIC por parte del gobierno del Reino Unido ha generado preocupaciones éticas y sociales generalizadas, y la transparencia y la rendición de cuentas son cruciales con respecto al uso de la inteligencia artificial en la gestión de la inmigración. En el futuro, cómo salvaguardar los derechos e intereses de los inmigrantes garantizando al mismo tiempo la eficiencia aún requerirá más debates y mejoras de las leyes y regulaciones pertinentes.