En 2019, los guardias en las fronteras de Grecia, Hungría y Letonia comenzó a probar un detector de mentiras impulsado por inteligencia artificial. El sistema, llamado iBorderCtrl, analizó los movimientos faciales para intentar detectar señales de que una persona le estaba mintiendo a un agente fronterizo. El ensayo fue impulsado por casi $ 5 millones en fondos de investigación de la Unión Europea y casi 20 años de investigación en la Universidad Metropolitana de Manchester, en el Reino Unido.

El juicio generó polémica. Los psicólogos han declarado ampliamente que los polígrafos y otras tecnologías creadas para detectar mentiras a partir de atributos físicos no son confiables. Pronto, también se informaron errores de iBorderCtrl. Los informes de los medios indicaron que su algoritmo de predicción de mentiras no funcionó, y el propio sitio web del proyecto reconoció que la tecnología “puede implicar riesgos para los derechos humanos fundamentales”.

Este mes, Silent Talker, una empresa escindida de Manchester Met que fabricó la tecnología subyacente a iBorderCtrl, se disolvió. Pero ese no es el final de la historia. Abogados, activistas y legisladores están presionando por una ley de la Unión Europea para regular la IA, que prohibiría los sistemas que afirman detectar el engaño humano en la migración, citando iBorderCtrl como un ejemplo de lo que puede salir mal. No se pudo contactar a los exejecutivos de Silent Talker para hacer comentarios.

La prohibición de los detectores de mentiras de IA en las fronteras es una de las miles de enmiendas a la Ley de IA que están considerando funcionarios de las naciones de la UE y miembros del Parlamento Europeo. La legislación tiene por objeto proteger los derechos fundamentales de los ciudadanos de la UE, como el derecho a vivir sin discriminación oa declarar asilo. Etiqueta algunos casos de uso de IA de «alto riesgo», algunos de «bajo riesgo» y les impone una prohibición total a otros. Los que presionan para cambiar la Ley de IA incluyen grupos de derechos humanos, sindicatos y empresas como Google y Microsoft, que quieren que la Ley de IA establezca una distinción entre quienes fabrican sistemas de IA de propósito general y quienes los implementan para usos específicos.

El mes pasado, grupos de defensa, incluidos los Derechos Digitales Europeos y la Plataforma para la Cooperación Internacional sobre Migrantes Indocumentados, pidieron la ley para prohibir el uso de polígrafos de IA que miden cosas como el movimiento de los ojos, el tono de voz o la expresión facial en las fronteras. Statewatch, una organización sin fines de lucro de libertades civiles, publicó un análisis advirtiendo que la Ley de IA, tal como está escrita, permitiría el uso de sistemas como iBorderCtrl, lo que se sumaría al «ecosistema de IA fronterizo financiado con fondos públicos» existente en Europa. El análisis calculó que durante las últimas dos décadas, aproximadamente la mitad de los 341 millones de euros (356 millones de dólares) en fondos para el uso de IA en la frontera, como la elaboración de perfiles de inmigrantes, se destinaron a empresas privadas.

El uso de detectores de mentiras de IA en las fronteras crea efectivamente una nueva política de inmigración a través de la tecnología, dice Petra Molnar, directora asociada de Refugee Law Lab, una organización sin fines de lucro, que etiqueta a todos como sospechosos. “Tienes que demostrar que eres un refugiado y se supone que eres un mentiroso a menos que se demuestre lo contrario”, dice. “Esa lógica sustenta todo. Es la base de los detectores de mentiras de IA y de una mayor vigilancia y rechazo en las fronteras”.

Molnar, un abogado de inmigración, dice que las personas a menudo evitan el contacto visual con los funcionarios fronterizos o de migración por razones inocuas, como la cultura, la religión o el trauma, pero hacerlo a veces se malinterpreta como una señal de que la persona está ocultando algo. Los humanos a menudo luchan con la comunicación intercultural o al hablar con personas que experimentaron un trauma, dice, entonces, ¿por qué la gente creería que una máquina puede hacerlo mejor?