Bingo sur l’intégrité numérique
Pour le premier dialogue interurbain numérique d’Edgelands, les participants ont discuté des utilisations de l’IA et de la reconnaissance faciale dans les quatre villes où l’institut a vu le jour.
Photo : Anwar Hakim pour Unsplash
Quel est le point commun entre les bases de données de Medellín, les gares de Genève et la réglementation de Nairobi ? Cela ressemble au début d’une blague absurde. À l’Edgelands Institute, cependant, cela symbolise un fil conducteur de la façon dont les villes du monde entier utilisent l’IA et les technologies de reconnaissance faciale pour atténuer - avec très peu de succès et de transparence prouvés - les menaces à la sécurité, souvent au détriment des libertés civiles et de la sécurité.
C’était le sujet principal du dialogue interurbain numérique de nos Edgelands, un espace de consensus et de génération d’informations réunissant des chercheurs, des experts en politiques et en sécurité dans quatre villes où Edgelands a vu le jour : Medellín, Genève, Nairobi et Houston. La première convocation de ce nouveau projet commence par une tâche simple : trouver un terrain d’entente. Lorsque l’on parle d’outils urbains, d’espace numérique et d’infrastructures, de quoi parle-t-on exactement ?
Afin de préparer le terrain pour les prochains dialogues qui auront lieu plus tard cette année, nous avons lancé notre projet par un jeu intense de bingo sur l’intégrité numérique, en rassemblant les quatre thèmes à travers lesquels nous analysons l’intégrité numérique - l’IA, la transparence, les responsabilités des parties prenantes et la souveraineté numérique - et les trois dimensions avec lesquelles les explorer - les outils de la ville, l’espace numérique, et de l’infrastructure :
À première vue, même si les thèmes et les dimensions sont fondamentaux pour mieux structurer une conversation complexe, ils sont tous imbriqués. Il nous a semblé préférable de mettre ces concepts en exemples concrets pour mieux comprendre comment ils fonctionnent dans chacune des villes des Edgelands.
En ce qui concerne l’IA, par exemple, la plupart des exemples étaient liés aux technologies de reconnaissance faciale. Notre équipe de Medellín a signalé que, même si le gouvernement local l’utilise systématiquement dans le système de sécurité de la ville, il n’existe pas de base de données faciales en Colombie, il n’est donc pas clair à quoi ces données sont associées. Les représentants genevois ont mentionné qu’il y a eu récemment un débat public sur l’installation de la technologie de reconnaissance faciale dans les gares suisses. À Nairobi, même si le public est conscient que la technologie de l’IA est utilisée pour l’infrastructure gouvernementale, il n’y a pas encore de réglementation ou de politique à ce sujet. Il y a aussi un débat en cours à Medellín sur la possibilité d’utiliser l’IA pour réglementer l’utilisation d’applications internationales telles qu’Airbnb afin d’assurer la sécurité des touristes visitant la ville, mais aussi de protéger ses citoyens contre les pratiques touristiques prédatrices. Un autre sujet de discussion intéressant est une collaboration récente entre Open AI et le journal Le Monde - en quoi consiste exactement cette collaboration ? Comment cela affectera-t-il les informations que nous consommons ?
La transparence est un thème plus simple, mais Nairobi a soulevé un point intéressant : que se passe-t-il si les citoyens ne sont pas nécessairement intéressés par la transparence des données, alors qu’ils se sentent plus en sécurité en laissant les choses telles qu’elles sont ? L’équipe internationale a également mis sur la table le fait que des villes comme Helsinki et Amsterdam sont en train de créer des registres de transparence : des bases de données de logiciels et de technologies utilisés pour la surveillance dans les villes afin que les gens puissent avoir facilement accès à ces informations.
En ce qui concerne les responsabilités des parties prenantes, les discussions les plus intéressantes ont eu lieu autour du thème des espaces numériques : qui est responsable de ce qui se passe en ligne, par exemple dans le cas du cyberharcèlement ou des deepfakes ? Il est important de comprendre les rôles et les responsabilités des plateformes et des gouvernements, ainsi que des citoyens, des forces de sécurité, des écoles, des tuteurs et des parents.
Enfin, la souveraineté numérique est une question complexe en soi, et même si elle devient concrète avec des exemples, ces situations ne sont pas non plus faciles à comprendre : Nairobi a un excellent exemple d’outils tels que l’e-citoyen et les e-teams, qui sont utilisés par le gouvernement mais qui sont privés - à qui appartiennent les données et où sont-elles stockées ? Dans le même ordre d’idées, nous avons également parlé de l’utilisation des technologies cloud, où les données sont stockées dans des centres de données privés, généralement situés dans un pays étranger - les gouvernements devraient-ils compter sur ces services pour stocker des données sur les citoyens et le fonctionnement du gouvernement ? Comment pouvons-nous discuter d’éthique et de confidentialité lorsque des entités privées possèdent des informations sur des populations entières, y compris des registres de santé et des documents d’identité ? Il est également important de se demander ce qu’il advient des moyens informels de contrat social lorsque la technologie numérique prend en charge les petites transactions financières, par exemple - comme moyen de suivre les paiements d’impôts et les informations personnelles.
Il est clair qu’il existe de nombreuses approches des questions de sécurité, de technologies numériques et d’intégrité numérique, ainsi que de nombreuses façons concrètes dont ces sujets affectent nos vies, peut-être beaucoup plus que nous ne le pensons. Comme nous l’avons souligné au cours de la conversation et comme nous l’avons longuement discuté lors de notre symposium de Medellín, le concept de confiance semble être au cœur de bon nombre de ces questions et constitue une composante essentielle du sentiment de sécurité. Nous nous réjouissons à l’idée de poursuivre ces conversations tout au long de l’année.
Pour notre prochain dialogue, nous participerons au festival Explore Geneva pour discuter de l’utilisation de l’IA pour assurer la sécurité en tant que service public avec des invités spéciaux de chacune des villes d’Edgeland. Restez à l’écoute pour regarder notre panel en direct le 27 avril et abonnez-vous à notre infolettre pour vous tenir au courant des développements de notre projet : Intercity Virtual Pop-up Dialogues.
