17th International Conference on Internet, Law and Politics (IDP): Artificial Intelligence and Facial Recognition

The objective of the 17th International Conference on Internet, Law and Politics is to debate about Facial recognition technologies based on artificial intelligence.

Facial recognition technologies based on artificial intelligence have undergone enormous development in the last decade, attracting huge attention due to their expansion in multiple sectors, with a great variety of uses and applications, and due to the concern generated by their social impact and its possible impact on human rights. This development, facilitated in particular by the advances made in the field of deep learning and computer vision algorithms, has multiplied the presence and sophistication of these technologies, making their use a common element in very different fields.

In addition to allowing automated detection of the presence of people in static or dynamic images, facial recognition systems make it possible both to compare two images for verifying that they are the same person (authentication), and to contrast an image with gigantic volumes of images to determine who the person in question is (identification). Similarly, these technologies enable the automated categorization or classification of people based on characteristics that the system is capable of detecting, related, for example, to gender, ethnicity, age or other circumstances, even reaching – with varying degrees of success – to infer moods or health conditions from facial expressions. 

The use of facial recognition systems is common in both the public and private sectors. It is used in open spaces, in criminal investigation, border control, security, access to stadiums, etc. It allows a relevant control in public events, for example the identification of those attending a demonstration. Furthermore, it is also used for the provision of services by public administrations, and for purposes as diverse as detecting whether students in a classroom pay attention or are distracted, or whether the driver of an assisted vehicle shows symptoms of fatigue. The utilities are multiple in the commercial field, consumer, digital marketing, sentiment analysis, demographic studies, unlocking mobile applications, identification in electronic banking, and a long etcetera. 

There is no doubt about the benefits that these technologies can bring in terms of efficiency or support for public safety objectives, among others. However, its potential to seriously affect fundamental rights raises many objections. They impact highly sensitive data of people and allow very intrusive control systems; can be executed without the people impacted being aware that they are being observed; generate risks of discrimination, especially due to bias in databases and errors – false positives and false negatives – which these technologies continue to cause. The collection of huge amounts of data produces perverse effects of perpetuating discriminatory biases, in addition to high risks of security breaches ⎯ and all this on biometric elements, which, obviously, the affected person cannot replace with others. 

Various regulatory initiatives are trying to lay the foundations so that, while committing to the development of these technologies to obtain the maximum social benefits, the associated risks are minimised, even prohibiting certain uses and requiring precautions and guarantees in all phases of their design, development, and implementation. 

This new edition of the IDP Conference aims to address, from various perspectives, especially from the legal, political and criminological approaches, the advantages, and risks of these technologies as well as the ways to ensure a development consistent with fundamental rights and the strengthening of democratic societies

Schedule

Artificial Intelligence: Technological Capacity and Ethical Debates

Presentation

• Raquel Xalabarder Plantada, Chair of Intellectual Property Law, Director of the Faculty of Law & Political Science, UOC.

Conference

• Eduardo Quiñones, Researcher at Barcelona Supercomputing Center.

Panel Discussion: 

• Eduardo Quiñones, Researcher at Barcelona Supercomputing Centere.

• Gemma Galdón Clavell. Founder and CEO of Eticas Consulting.

• Itziar de Lecuona Ramírez. Associate Professor, School of Medicine and Director Bioethics and Law Observatory, UNESCO Chair in Bioethic.

• Moderator: Marc Guinjoan, Faculty of Law & Political Science, UOC.

Legal challenges of facial recognition

Conference

• Mark Andrejevic. Professor, School of Media, Film, and Journalism at Monash University.

Panel Discussion: 

• Mark Andrejevic. Professor, School of Media, Film, and Journalism at Monash University

• Lorenzo Cotino Hueso. Chair of Constitutional Law at the University of Valencia. 

• Andrés Guadamuz. Reader in Intellectual Property Law at the University of Sussex and Chief Editor of the Journal of World Intellectual Property

• Moderator: Laura Alascio Carrasco, Faculty of Law & Political Science, UOC.

El XVII Congreso Internacional de Internet, Derecho y Política tiene como objetivo debatir sobre las tecnologías de reconocimiento facial basadas en inteligencia artificial.

Las tecnologías de reconocimiento facial basadas en inteligencia artificial han experimentado un enorme desarrollo en la última década, atrayendo una enorme atención por su expansión en múltiples sectores, con una gran variedad de usos y aplicaciones, y por la preocupación que genera su impacto social y su posible impacto sobre los derechos humanos. Este desarrollo, facilitado en particular por los avances en el campo del aprendizaje profundo y los algoritmos de visión artificial, ha multiplicado la presencia y sofisticación de estas tecnologías, convirtiendo su utilización en un elemento común en campos muy diferentes.

Además de permitir la detección automática de la presencia de personas en imágenes estáticas o dinámicas, los sistemas de reconocimiento facial permiten tanto comparar dos imágenes para comprobar que se trata de la misma persona (autenticación), como contrastar una imagen con volúmenes gigantescos de imágenes para determinar quién es la persona en cuestión (identificación). Del mismo modo, estas tecnologías permiten la categorización o clasificación automatizada de personas en función de características que el sistema es capaz de detectar, relacionadas, por ejemplo, con el género, la etnia, la edad u otras circunstancias, llegando incluso, con mayor o menor éxito, a inferir estados de ánimo o condiciones de salud de las expresiones faciales.

El uso de sistemas de reconocimiento facial es habitual tanto en el sector público como en el privado. Se utiliza en espacios abiertos, en investigación criminal, control de fronteras, seguridad, acceso a estadios, etc. Permite un control relevante en eventos públicos, por ejemplo la identificación de los asistentes a una manifestación. Además, también se utiliza para la prestación de servicios por parte de las administraciones públicas, y con finalidades tan diversas como detectar si los alumnos de un aula prestan atención o están distraídos, o si el conductor de un vehículo asistido presenta síntomas de fatiga. Las utilidades son múltiples en el ámbito comercial, de consumo, marketing digital, análisis de sentimiento, estudios demográficos, desbloqueo de aplicaciones móviles, identificación en banca electrónica, y un largo etcétera.

No hay duda de los beneficios que estas tecnologías pueden traer en términos de eficiencia o apoyo a los objetivos de seguridad pública, entre otros. Sin embargo, su potencial para afectar gravemente los derechos fundamentales plantea muchas objeciones. Impactan datos altamente sensibles de las personas y permiten sistemas de control muy intrusivos; puede ejecutarse sin que las personas afectadas se den cuenta de que están siendo observadas; generar riesgos de discriminación, especialmente por sesgos en las bases de datos y errores -falsos positivos y falsos negativos- que siguen provocando estas tecnologías. La recogida de ingentes cantidades de datos produce efectos perversos de perpetuación de sesgos discriminatorios, además de elevados riesgos de brechas de seguridad ⎯ y todo ello sobre elementos biométricos, que, evidentemente, el afectado no puede sustituir por otros.

Diversas iniciativas normativas intentan sentar las bases para que, a la vez que se apuesta por el desarrollo de estas tecnologías para obtener el máximo beneficio social, se minimicen los riesgos asociados, llegando incluso a prohibir determinados usos y exigiendo precauciones y garantías en todas las fases de su diseño, desarrollo. , e implementación.

Esta nueva edición del Congreso IDP pretende abordar, desde diversas perspectivas, especialmente desde los enfoques jurídico, político y criminológico, las ventajas y riesgos de estas tecnologías, así como las vías para asegurar un desarrollo acorde con los derechos fundamentales y el fortalecimiento de las sociedades democráticas