Genève
27 mars 2024

Bingo de l'intégrité numérique

Équipe de communication

Pour le premier dialogue numérique interurbain d'Edgelands, les participants ont discuté des utilisations de l'IA et de la reconnaissance faciale dans les quatre villes créées par l'institut.

signe "press play to start" (appuyer sur le bouton pour commencer)

Photo : Anwar Hakim pour Unsplash

Quel est le point commun entre les bases de données de Medellín, les gares de Genève et les réglementations de Nairobi ? On dirait le début d'une blague absurde. Pour l'Institut Edgelands, cependant, cela symbolise un fil conducteur sur la façon dont les villes du monde entier ont utilisé l'IA et les technologies de reconnaissance faciale pour atténuer - avec très peu de succès prouvé et de transparence - les menaces à la sécurité, souvent au détriment des libertés civiles et de la sécurité.

C'était le thème principal de notre dialogue numérique interurbain Edgelands, un espace de consensus et de génération d'idées réunissant des chercheurs, des experts en politique et en sécurité dans quatre villes où Edgelands s'est implanté : Medellín, Genève, Nairobi et Houston. La première réunion de ce nouveau projet commence par une tâche simple : trouver un terrain d'entente. Lorsque l'on parle d'outils urbains, d'espace numérique et d'infrastructure, de quoi parle-t-on exactement ?

Afin de préparer le terrain pour les prochains dialogues qui auront lieu plus tard dans l'année, nous avons lancé notre projet par un jeu intense de bingo sur l'intégrité numérique, en rassemblant les quatre thèmes à travers lesquels nous analysons l'intégrité numérique - l'I.A., la transparence, les responsabilités des parties prenantes et la souveraineté numérique - et les trois dimensions avec lesquelles nous les explorons - les outils de la ville, l'espace numérique et l'infrastructure:

A première vue, même si les thèmes et les dimensions sont fondamentaux pour mieux structurer une conversation complexe, ils sont tous imbriqués les uns dans les autres. Il a semblé préférable de traduire ces concepts en exemples concrets afin de mieux comprendre leur fonctionnement dans chacune des villes Edgelands.

Lorsque l'on parle d'I.A., par exemple, la plupart des exemples sont liés aux technologies de reconnaissance faciale. Notre équipe de Medellín a indiqué que, même si le gouvernement local l'utilise régulièrement dans le système de sécurité de la ville, il n'existe pas de base de données de visages en Colombie, de sorte que l'on ne sait pas exactement à quoi ces données sont comparées. Les représentants de Genève ont mentionné qu'il y a eu récemment un débat public sur l'installation de la technologie de reconnaissance faciale dans les gares suisses. À Nairobi, même si le public est conscient que les technologies d'I.A. sont utilisées pour les infrastructures gouvernementales, il n'existe pas encore de réglementation ou de politique en la matière. Un débat est également en cours à Medellín sur la possibilité d'utiliser l'I.A. pour réguler l'utilisation d'applications internationales telles que Airbnb afin de garantir la sécurité des touristes visitant la ville, mais aussi de protéger ses citoyens contre les pratiques touristiques prédatrices. Un autre sujet de discussion intéressant est la récente collaboration entre Open AI et le journal Le Monde. En quoi cette collaboration consiste-t-elle exactement ? Comment affectera-t-elle les nouvelles que nous consommons ?

La transparence est un thème plus direct, mais Nairobi a soulevé un point intéressant : et si les citoyens n'étaient pas nécessairement intéressés par la transparence des données, lorsqu'ils se sentent plus en sécurité en laissant les choses telles qu'elles sont ? L'équipe mondiale a également évoqué le fait que des villes comme Helsinki et Amsterdam sont en train de créer des registres de transparence : des bases de données sur les logiciels et les technologies utilisés pour la surveillance dans les villes, afin que les citoyens puissent accéder facilement à ces informations.

En ce qui concerne les responsabilités des parties prenantes, les discussions les plus intéressantes ont eu lieu autour du thème des espaces numériques : qui est responsable de ce qui se passe en ligne, par exemple dans le cas de la cyberintimidation ou des "deepfakes" ? Il est important de comprendre les rôles et les responsabilités des plateformes et des gouvernements, ainsi que des citoyens, des forces de sécurité, des écoles, des tuteurs et des parents.

Enfin, la souveraineté numérique est une question complexe en soi, et même si elle devient concrète avec des exemples, ces situations ne sont pas non plus faciles à appréhender : Nairobi est un excellent exemple d'outils tels que l'e-citoyen et les e-équipes, qui sont utilisés par le gouvernement mais appartiennent à des propriétaires privés - qui possède les données et où sont-elles stockées ? Dans le même ordre d'idées, nous avons également parlé de l'utilisation des technologies en nuage, où les données sont stockées dans des centres de données privés, généralement situés dans un pays étranger - les gouvernements doivent-ils s'appuyer sur ces services pour stocker des données sur les citoyens et le fonctionnement du gouvernement ? Comment discuter de l'éthique et de la confidentialité lorsque des entités privées détiennent des informations sur des populations entières, y compris des registres de santé et des documents d'identité ? Il est également important de se demander ce qu'il advient des moyens informels du contrat social lorsque la technologie numérique s'empare des petites transactions financières, par exemple, comme moyen de suivre les paiements d'impôts et les informations personnelles.

Il est clair qu'il existe de nombreuses approches des questions de sécurité, de technologies numériques et d'intégrité numérique, ainsi que de nombreuses façons concrètes dont ces sujets affectent nos vies - peut-être bien plus que nous ne le pensons. Comme cela a été souligné au cours de la conversation et comme cela a été discuté en profondeur lors de notre symposium de Medellín, le concept de confiance semble être au cœur de beaucoup de ces questions et une composante essentielle du sentiment de sécurité. Nous nous réjouissons de poursuivre ces conversations tout au long de l'année.

Pour notre prochain dialogue, nous participerons au festival Explore Geneva pour discuter de l'utilisation de l'I.A. pour assurer la sécurité en tant que service public avec des invités spéciaux de chacune des villes d'Edgeland. Restez à l'écoute pour regarder notre panel en direct le 27 avril, et inscrivez-vous à notre lettre d'information pour suivre les développements de notre projet - Intercity Virtual Pop-up Dialogues.