Press ReleaseLa IA en los controles fronterizos en Europa es motivo de preocupación

La IA en los controles fronterizos en Europa es motivo de preocupación

¿De qué formas de IA debería preocuparse Europa?

Los detectores de mentiras con inteligencia synthetic se introdujeron por primera vez en Europa en 2019 en las fronteras de Grecia, Hungría y Letonia. El sistema se llama iBorderCtrl, y analiza los movimientos faciales en un intento de alertar a un agente fronterizo cuando alguien está mintiendo o siendo deshonesto.

La máquina estuvo en fase de prueba durante casi 20 años y costó unos 5 millones de dólares en fondos de investigación de la Unión Europea. La mayor parte de la investigación se realizó en la Universidad Metropolitana de Manchester, en el Reino Unido. El ensayo fue muy controvertido y suscitó preguntas y preocupaciones que siguen siendo válidas hoy en día.

Los problemas surgen rápidamente

Los polígrafos y las pruebas del detector de mentiras siempre han sido cuestionados en cuanto a su fiabilidad y confiabilidad, y estas preocupaciones también surgieron durante la prueba de IA. No tardaron en surgir problemas con iBorderCtrl, y los medios de comunicación afirmaron que su algoritmo básico de predicción de mentiras no funcionaba. Esto desencadenó una conversación muy necesaria y acalorada sobre la igualdad y los derechos humanos básicos.

Este tema ha causado un gran revuelo y las repercusiones se han sentido en muchas industrias. A pesar de que la tecnología subyacente de iBorderCtrl se ha disuelto recientemente debido a sus problemas éticos y errores mecánicos, la lucha no parece haber terminado todavía. Abogados, activistas y legisladores están planteando preocupaciones válidas y justificadas para una ley de la Unión Europea que regule la IA. Esto significaría esencialmente que habría una prohibición de los sistemas que dicen poder detectar el engaño humano en la migración.

En la actualidad ya existe una ley de IA en la Constitución Europea, hay muchas enmiendas ocupadas esperando ser consideradas y una de ellas es la prohibición de los detectores de mentiras de IA en las fronteras. La nueva enmienda estará orientada a proteger a los ciudadanos de la UE y sus derechos fundamentales. La Ley de IA está llena de diferentes grados de severidad en términos de legislación, hay algunas IA que se consideran de “alto riesgo”, otras de “bajo riesgo” y algunas que están prohibidas por completo.

La lucha

Hay varios grupos de derechos humanos, sindicatos y empresas como Google y Microsoft que quieren que se introduzcan cambios y modificaciones en la Ley de IA. Quieren que la ley establezca líneas muy claras y definidas entre los que fabrican sistemas de IA de uso common y los que los utilizan para usos específicos.

El quid de la cuestión es que el uso de detectores de mentiras de IA en las fronteras significa básicamente que habrá nuevas políticas de inmigración creadas a través de la tecnología en lugar de la lógica y la interacción humanas. Esto significa que podríamos considerar a todo el mundo como sospechoso porque la IA no puede evaluar a un ser humano y sus circunstancias personales o su lenguaje corporal como lo haría otro humano. Hay otras cosas que hay que tener en cuenta, como las razones más importantes por las que la gente evita el contacto visible, por ejemplo.

 ¿Qué pasa si la cultura, la religión o el trauma de alguien hace que se ponga inquieto y evite el contacto visible? ¿O tal vez simplemente están entusiasmados con las ofertas de Bingo Chile y están emocionados? ¿Podría esto ser malinterpretado como que la persona es deshonesta y oculta algo? Esto nos lleva a preguntarnos si una máquina será capaz de entender e integrar el concepto de ética, cultura y comprensión emocional.

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Subscribe Today

GET EXCLUSIVE FULL ACCESS TO PREMIUM CONTENT

SUPPORT NONPROFIT JOURNALISM

EXPERT ANALYSIS OF AND EMERGING TRENDS IN CHILD WELFARE AND JUVENILE JUSTICE

TOPICAL VIDEO WEBINARS

Get unlimited access to our EXCLUSIVE Content and our archive of subscriber stories.

Exclusive content

Latest article

More article