Toutes les activités sont-elles surveillées à Medellín ? Quelques questions nécessaires sur la sécurité et la technologie dans la ville

Lorsque Daniel Quintero est devenu maire de Medellín avec un discours techno-optimiste, et que sa vision d'une ville numérisée a été incluse dans le plan de développement actuel, la ville était déjà sur la voie de l'adoption des nouvelles technologies depuis des années. Bien qu'ils puissent aujourd'hui sembler évidents pour beaucoup, des développements tels que le système de mobilité intelligente, le réseau de caméras de sécurité, le système d'alerte précoce ou même la carte de ville CIVICA ont renforcé la capacité du bureau du maire à exécuter et à contrôler certains services et politiques publiques presque en temps réel. 

‍

Cependant, jusqu'à présent, la mise en œuvre de ces systèmes n'a pas suscité beaucoup de débats au sein de la population, à l'exception des discussions de certains publics spécialisés. La dépendance technologique à l'égard de quelques fournisseurs, l'exploitation privée de la plupart de ces systèmes et leurs coûts élevés n'ont pas suscité de frictions majeures dans l'opinion publique. La perception générale a plutôt tourné autour de leurs avantages directs, comme la possibilité de consulter des données et des vidéos en temps réel, le sentiment de sécurité qu'ils offrent ou la rapidité avec laquelle certains services nous parviennent. 

‍

L'agitation que la ville a connue autour de la saisie des données de Medellín Me Cuida au début de la pandémie a marqué un changement. Jusqu'alors, la mise en œuvre d'un programme numérique au sein de la mairie n'avait pas fait l'objet d'un tel débat. Qu'est-ce qui a changé cette fois-ci ? Trois faits peuvent nous éclairer. Tout d'abord, l'équilibre des forces politiques a changé dans la ville, et c'est la première fois au cours des dernières décennies qu'un maire a une popularité relativement faible, tout en faisant face à une opposition plus organisée et plus active, bien qu'il soit minoritaire au sein du conseil municipal. Un autre changement réside dans l'introduction de technologies basées sur le traitement des données personnelles. Contrairement aux systèmes précédents, le bureau du maire souhaite aujourd'hui exploiter au maximum les technologies de ce que l'on appelle la quatrième révolution industrielle, qui dépendent fortement des données produites par les personnes en chair et en os. Il ne s'agit plus de mesurer des variables urbaines génériques telles que l'air ou le trafic, mais de se concentrer sur l'individualisation des données, en les indexant à une plaque d'immatriculation, une carte d'identité ou un profil biométrique. Troisièmement, le public est de plus en plus sensible à la protection de la vie privée. Bien qu'il ne semble pas y avoir de consensus clair sur le degré de protection de la vie privée auquel nous sommes prêts à renoncer pour bénéficier de certains services, les scandales internationaux liés aux nouvelles technologies ont suscité la prudence quant aux implications pour l'autonomie individuelle et la démocratie. 

‍

Pourtant, aujourd'hui, la mairie nous présente avec effusion un système de type "Robocop", avec des caméras qui peuvent surveiller n'importe quel point de la ville "avec reconnaissance faciale, identification des plaques d'immatriculation, prédiction de la criminalité, capteurs thermiques et audio interactif". Cela montre que sa politique de sécurité entretient un lien étroit avec sa conception d'une ville hautement numérisée. Mais qu'implique un système de surveillance de ce calibre, et peut-on comprendre ce qui se passe au-delà de la version publicitaire et propagandiste avec laquelle ces systèmes nous sont communiqués ? En réalité, les plus grandes inquiétudes soulevées par ces systèmes de surveillance ne viennent pas de ce que nous savons qu'il se passe, mais de ce que nous ne savons pas clairement en tant que société : quelles sont les capacités de ces systèmes ? Quelles informations recueillent-ils ? Qui y a accès ? Sont-ils performants par rapport aux coûts et aux risques qu'ils représentent ? L'approche de la sécurité et de la surveillance à Medellín devrait être un sujet ouvert, tant pour les spécialistes que pour les citoyens intéressés. Cependant, la résolution de ces questions nécessite un travail considérable pour surmonter le halo d'opacité et de technicité qui les entoure habituellement. Le problème est que, si nous les résolvions, nous devrions encore débattre de la question de savoir s'il s'agit du type de contrat social que nous voulons pour la ville. Il est donc urgent de mieux connaître les changements induits par ces technologies et de débattre du type de société que nous voulons pour la ville.

‍

Voici comment nous sommes observés aujourd'hui à Medellín

‍

Jusqu'où vont les capacités de surveillance de la ville ? Si l'on part des informations disponibles sur les sites Internet du Secrétariat à la sécurité et de l'Entreprise de sécurité et de solutions urbaines (ESU), il est très difficile de savoir ce que permettent les nouvelles technologies de sécurité et de surveillance mises en place par Medellín. Les rapports et documents disponibles sur ces sites répondent davantage aux exigences minimales de transparence de l'information, mais n'expliquent ni la stratégie ni le fonctionnement du système déployé. L'information disponible n'est ni claire, ni transparente, ni actualisée.

‍

Ce que le public voit, c'est un filet d'informations sur les réseaux sociaux, des communiqués de presse et des rapports sporadiques énumérant les investissements réalisés ou partageant des messages accrocheurs montrant des dispositifs technologiques mostrando ou donnant des chiffres d'impact sans beaucoup de contexte du système dans lequel ils sont immergés. Par exemple, depuis le mois d'août, Robocop (ou Sistema Inteligente de Monitoreo Integral Móvil, SIMIM, dans sa terminologie plus technique) a été promu. Ce système est actuellement à l'état de projet pilote et devrait s'étendre à 40 appareils se déplaçant en permanence dans la ville. Les informations disponibles sur ce système se limitent à des communiqués de presse, des tweets et des articles de presse. 

‍

Le nouveau SIMIM est différent du SISC et du SIES-M, les deux autres systèmes de sécurité dont la ville disposait déjà. Pour ces deux systèmes, des informations sont disponibles sur le site de la mairie, mais elles sont obsolètes, dans certains cas avec des logos datant du quadriennal 2012-2015. Le SISC (Système d'Information pour la Sécurité et la Coexistence) agit comme un observatoire, analysant les indicateurs de sécurité, identifiant les changements et les tendances, et mesurant les risques et les opportunités pour planifier des politiques et des projets spécifiques en matière de sécurité. C'est le centre d'analyse de l'information pour l'orientation des politiques publiques.

‍

D'autre part, le SIES-M (système intégré d'urgence et de sécurité de Medellin) est le système qui articule 12 agences de sécurité, les urgences médicales, la mobilité et la prévention et la réponse aux catastrophes. C'est là que se trouvent les plus de 3 000 caméras de surveillance et le numéro d'urgence 123. Dans le cadre de ce système, il y a 1 600 caméras corporelles pour la police et 2 600 caméras avec des systèmes de reconnaissance des plaques d'immatriculation. Un rapport datant du début de l'année indiquait qu'il y avait 400 caméras avec système LPR (pour l'identification des plaques d'immatriculation) et 170 avec reconnaissance faciale, qui se trouvent dans le stade Atanasio Girardot et certaines dans le métro et les caméras de haute précision, de vision nocturne et de chaleur de l'hélicoptère Halcón. La police dispose également de lecteurs biométriques pour l'analyse des cartes d'identité et la recherche de casiers judiciaires lors des perquisitions. D'autres sous-systèmes incluent le lien avec l'information citoyenne, comme les alarmes communautaires, la vidéosurveillance des commerçants et des entreprises, et les applications numériques qui transmettent les rapports des citoyens aux autorités.

‍

Ces applications méritent une mention spéciale. Seguridad en Línea était l'application qui, à l'origine, recueillait les rapports anonymes des citoyens et fournissait des informations catégorisées aux autorités. L'application a cessé de fonctionner, bien qu'il en existe encore des contenus web sur les canaux officiels. L'administration précédente a créé une nouvelle application, appelée Te Pillé, qui permettait à quiconque d'enregistrer et d'envoyer une vidéo d'un vol ou d'un autre acte criminel. Il s'agissait d'une solution au problème des enregistrements de vols qui circulaient sur les réseaux sociaux et qui, devant un tribunal, pouvaient difficilement être utilisés comme preuves contre les voleurs. Cette application ne fonctionne pas non plus aujourd'hui, bien qu'elle soit toujours annoncée sur le site web de la mairie, en plus d'avoir une page web dédiée. L'ESU fait aujourd'hui la promotion de ReportesMed, une application qui recueille les rapports des citoyens sur les trous, les débris et les dommages légers. Cette application n'offre pas les mêmes fonctionnalités que les précédentes et ne répond pas aux problèmes de sécurité. En résumé, le manque de continuité des initiatives et la dispersion des efforts font que la ville ne dispose pas d'un outil solide pour recevoir les informations des citoyens sur les questions de sécurité. 

‍

La plupart des systèmes utilisés par la ville sont composés de technologies relativement standard telles que des caméras, des boutons de panique ou des applications mobiles. Tous ces systèmes nécessitent généralement un travail humain, qu'il s'agisse de superviser un moniteur, d'activer des alarmes ou de remplir des formulaires. Aujourd'hui, cependant, cette situation est en train de changer, car de nouvelles technologies sont intégrées pour automatiser des processus qui seraient trop coûteux et trop longs pour les humains. Les caméras qui détectent les plaques d'immatriculation et les caméras de reconnaissance faciale qui commencent à être intégrées en sont un exemple. Mais l'offre technologique actuelle peut aller plus loin en intégrant des algorithmes d'analyse d'images et d'apprentissage automatique qui peuvent lire les enregistrements des caméras et, par exemple, classer des comportements, établir des profils de populations, générer des alertes précoces ou suggérer la probabilité d'occurrence d'un événement futur.

‍

Et la ville semble s'engager dans cette voie. Edwin Muñoz, directeur de l'ESU, explique qu'ils disposent de drones pour suivre les véhicules préalablement identifiés par la reconnaissance des plaques d'immatriculation et qui peuvent également être profilés par l'intelligence artificielle en fonction de leurs modèles de comportement. Ces drones peuvent également détecter les visages des occupants des véhicules afin de les identifier individuellement. En outre, ils expérimentent l'identification des micro-expressions, ce qui permet de "jouer avec l'émotivité des gens pour les conduire à un événement de sécurité". Enfin, très probablement en réponse à la charge de travail élevée du personnel nécessaire pour surveiller les caméras de vidéosurveillance, le directeur indique sur ses réseaux sociaux que l'intelligence artificielle est utilisée pour détecter les changements soudains de situation dans les enregistrements et générer des alertes pour les autorités, bien qu'il ne dise pas si l'ESU l'utilise déjà à Medellin. Ce dernier point coïncide avec ce qu'El Colombiano a rapporté plus tôt cette année au sujet de l'investissement de 20 milliards de dollars prévu pour 2021, qui visait, entre autres, à appliquer l'intelligence artificielle pour "améliorer l'utilisation des caméras", à incorporer la reconnaissance faciale aux caméras actuelles et à progresser dans l'intégration des caméras privées dans le système.

‍

La technologie dans la stratégie de sécurité 

‍

Les technologies de surveillance font partie de l'éventail d'options dont dispose une ville pour définir sa politique de sécurité. À Medellín, peut-être en raison de la popularité des discours sur l'innovation et la ville intelligente, l'investissement dans la technologie n'a pas seulement été important, mais il constitue un élément central du message politique véhiculé par les autorités. Après la récente tentative de vol d'une fonderie d'or sur l'avenue Las Vegas, l'ESU a publié une vidéo cherchant à légitimer la technologie et le système de surveillance de la ville. Elle y affirme que la réaction des forces publiques est due à l'intégration de deux technologies : un bouton de panique activé par une personne à l'intérieur de la fonderie et le réseau de caméras de sécurité qui a permis de suivre les malfaiteurs qui s'enfuyaient. "Tout le système de caméras et le 123 de Medellin, qui est aujourd'hui la ville la mieux gardée de Colombie, ont permis la capture de ces criminels", a déclaré le maire Daniel Quintero en aparté. La vidéo conclut en disant que "des cas comme celui-ci confirment l'importance de la technologie au service de la sécurité des citoyens". Positionner le discours qui associe la perception positive de la sécurité à la présence de la technologie semble être une constante de l'administration municipale.

‍

La communication des résultats du système de surveillance est une autre priorité des autorités. Les cas ne sont pas rares où elles mettent en évidence l'influence des technologies de localisation, d'enregistrement et d'identification sur les arrestations, comme ce fut le cas début novembre avec un gang de car-jacking, de vols à main armée et d'enlèvements avec demande de rançon. Au milieu de ce flot d'informations, émotionnelles et peu contextuelles, l'ESU indique que grâce au SIES-M, 443 vols ont été identifiés, conduisant à la capture de 158 personnes ; 524 bagarres ont été interrompues, conduisant à la saisie de 476 armes tranchantes et à l'arrestation de 436 personnes ; 286 trafiquants de drogue ont été visualisés, conduisant à la capture de 40 personnes ; et 172 événements concernant des personnes transportant de la drogue ont été enregistrés, conduisant à la capture de 99 personnes. Bien qu'il ne soit pas précisé à quand correspondent ces chiffres, et qu'ils ne soient pas contextualisés avec les chiffres globaux d'arrestations, d'interventions dans des bagarres et autres, ils semblent coïncider avec le bilan du premier semestre 2021 présenté par le bureau du maire de Medellin. 

‍

Mais alors, les technologies de surveillance sont-elles vraiment utiles ? La seule étude disponible sur l'impact des caméras à Medellín a montré qu'elles avaient un effet dissuasif sur la commission de crimes. Sur la base des données recueillies entre janvier 2012 et juillet 2015, les chercheurs ont estimé que près de 670 délits violents et contre les biens avaient été évités. Au cours de cette période, la ville a installé 448 nouvelles caméras pour un coût d'environ 4 480 000 USD, pour atteindre 831 à la mi-2015. Cela signifie qu'en moyenne, la ville a investi 6 686 dollars dans des caméras pour prévenir un délit supplémentaire. Bien qu'il soit difficile d'estimer le coût social total d'un crime à Medellín, l'étude suggère que l'investissement en vaudrait la peine car ces crimes impliquent des pertes de vies et de biens et une plus grande utilisation des capacités de l'État (police, justice et administration) pour arrêter et poursuivre les délinquants.

‍

Toutefois, ces résultats doivent être évalués dans un contexte plus large. Un rapport récent de l'Institut Edgelands, une organisation qui étudie la numérisation croissante de la sécurité dans les villes et explore des modèles de coexistence urbaine, a suggéré que "les caméras de surveillance et les boutons de panique ne permettent pas d'arrêter les crimes plus structurels, tels que l'extorsion ou le trafic de drogue". Personne ne souhaite vivre dans une ville où l'on peut se faire voler, mais les problèmes de sécurité rencontrés par les habitants de Medellín et de la vallée d'Aburrá sont beaucoup plus importants et complexes. Par exemple, un rapport cité par Edgelands a constaté que "l'intervention de l'État dans les quartiers où vivent et opèrent les combos augmente, tout comme leur pouvoir de maintenir le contrôle de leur territoire. 

‍

Andrés Preciado, chercheur au Centre d'analyse politique de l'EAFIT et sous-secrétaire au Secrétariat de la sécurité et de la coexistence de la mairie de Medellín entre 2016 et 2017, s'est demandé si, après que la ville a investi dans presque toutes les technologies disponibles, nous sommes toujours prêts à supporter les coûts élevés de maintenance et de remplacement qu'elles nécessitent pour résoudre principalement une partie de nos problèmes de sécurité, à savoir ceux liés au vol et à la protection des biens.

‍

La question de la faisabilité de ces systèmes se pose donc, tout comme celle de leur pertinence. En ce qui concerne la faisabilité, Edgelands a constaté que les politiques qui soutiennent ces systèmes "peuvent manquer d'un plan de mise en œuvre complet et approfondi qui donne la priorité à la structure nécessaire au fil des ans, laissant les outils coûteux sans les fonds ou le capital humain nécessaires pour entretenir, réparer ou mettre à jour le système". En outre, il est nécessaire de travailler davantage sur l'évaluation de l'impact et sur la manière dont la direction évalue, mesure et apporte les modifications nécessaires aux stratégies technologiques mises en œuvre. On a vu que les caméras peuvent effectivement servir à dissuader la criminalité, mais qu'en est-il de l'évaluation d'autres technologies, en particulier les plus récentes qui présentent des risques plus évidents pour la vie privée et la démocratie ? En ce qui concerne la pertinence, si elles peuvent "fonctionner à court terme pour réduire le nombre de crimes dans les zones fortement patrouillées ou surveillées par la police, elles ne s'attaquent pas aux causes profondes qui poussent les gens à commettre des crimes". En d'autres termes, leur présence peut être utile dans certains cas, mais leur coût financier et opérationnel élevé, ainsi que les risques qu'elles représentent pour la vie privée et la liberté, ne devraient-ils pas nous inciter à investir ces ressources dans des solutions plus structurelles ? La réponse n'est pas simple car, plus qu'une réponse technique ou économique, elle nécessite un large dialogue social sur le contrat social que nous voulons construire.

‍

Surfer sur la vague de la transformation numérique

‍

Après la tentative de vol de la fonderie d'or le 4 novembre dernier, une déclaration du maire est passée inaperçue, peut-être en raison de la normalisation que nous avons donnée à la surveillance dans la ville. Bien que tous les criminels n'aient pas été capturés au moment de l'événement, la capture des autres personnes impliquées a été facilitée par l'enregistrement des caméras dont dispose la ville. Le maire a déclaré à l'époque qu'il y aurait "un suivi complet de ce qu'ils faisaient dans les jours et les semaines précédant la tentative de vol". Si la ville affirme aujourd'hui disposer, en plus des caméras, de systèmes de reconnaissance faciale et d'intelligence artificielle, sa capacité à surveiller les déplacements de toute personne est une réalité. Mais dans quelle mesure ? Seulement dans les espaces publics ou ont-ils accès à des données privées ? Peuvent-elles le faire de manière automatisée et récurrente ou seulement dans des cas spécifiques, en vérifiant caméra par caméra ? Peuvent-ils surveiller n'importe qui ? Comment décident-ils qui est surveillé ? Existe-t-il des protocoles visant à empêcher l'utilisation des systèmes à des fins d'identification et de harcèlement des personnes participant à des manifestations ou à des événements publics ? Peuvent-ils nous profiler ? De quelles informations disposent-ils sur chaque personne ? Existe-t-il un registre de toutes les informations collectées qui peuvent être utilisées à d'autres fins ? Qui peut accéder à ces informations ? 

‍

Ces questions sont essentielles lors du déploiement d'un système de surveillance basé sur des données et doté de capacités d'automatisation, de prédiction ou de profilage. C'est le genre de questions que nous nous sommes posées en tant que société lorsque nous avons accueilli avec enthousiasme les nouvelles technologies numériques. À Medellín et en Colombie, les discours sur la "transformation numérique", la "quatrième révolution industrielle" ou même l'"économie collaborative" se sont imposés avec force, notamment parce qu'ils emballent bien une série de produits vendus comme source d'une plus grande efficacité. Parallèlement, les débats sur leurs implications sociales et politiques sont souvent marginalisés ou caricaturés. Dans certains pays, ces discussions ont pris de l'ampleur et les États ont commencé à prendre des mesures drastiques telles que l'interdiction de la reconnaissance faciale ou la reconnaissance des droits des travailleurs sur certaines plateformes. A Medellin, faudra-t-il attendre qu'un scandale éclate pour une bonne mise en œuvre des technologies de surveillance ?

‍

Les nouvelles technologies numériques ont bénéficié d'une grande force et d'un grand soutien social au cours de la première décennie du XXIe siècle, avec des promesses vagues mais frappantes telles que la connexion des communautés, la réduction des distances sociales, la possibilité de coordonner facilement des actions collectives, la gestion des choses en temps réel ou la création de nouvelles économies. Au milieu de la dernière décennie, le monde a appris que ce nouveau paradigme avait des côtés obscurs. Les révélations d'Edward Snowden ont montré qu'il existait des portes dérobées qui permettaient au gouvernement américain de surveiller pratiquement tout être humain connecté aux plateformes grand public. Avec le scandale Cambridge Analytica, nous avons réalisé les implications des modèles commerciaux basés sur la capture massive de données sur presque tous les aspects de notre comportement. En violant massivement notre vie privée et en trouvant des moyens de modifier nos comportements, non seulement un droit individuel est violé, mais la démocratie est mise en danger parce que l'autonomie des personnes est remise en question. De nombreux autres cas nous ont montré que le déploiement d'algorithmes et de processus décisionnels automatisés dans notre vie quotidienne et dans l'État comporte des risques élevés de discrimination, d'exclusion, de violation de l'autonomie ou, tout simplement, d'inutilité, comme cela s'est produit avec le système de prédiction de la criminalité Predpol à Montevideo, en Uruguay, qui a été abandonné lorsqu'il s'est avéré que d'autres méthodes déjà utilisées par la police locale étaient tout aussi efficaces.

‍

Mais il semble qu'en Colombie, ce point de vue réaliste n'ait atteint que certains publics spécialisés. Au contraire, grâce à la baisse des coûts de la plupart de ces technologies et à un plan explicite des grands fournisseurs pour conquérir les marchés des pays en développement, la transformation numérique nous est aujourd'hui vendue comme un besoin urgent et pressant. C'est ainsi que le métro de Medellin met en œuvre sa civique numérique tout en fermant les stations de recharge physiques, excluant ainsi de nombreuses personnes qui n'ont pas de smartphone ou qui ne veulent tout simplement pas télécharger une application de plus. C'est aussi ainsi que le gouvernement national crée CoronApp et collecte une grande quantité de données auprès de millions de personnes sans offrir de clarté sur leur utilisation, leur accès ou les garanties de sécurité. C'est également ainsi que les grandes villes du pays créent des systèmes de sécurité et de surveillance de grande capacité sans que nous, en tant que société, sachions exactement comment ils peuvent nous affecter. À Bogota, le Centro de Comando, Control, Comunicaciones y Computación (C4) teste un système capable d'identifier les gangs criminels et leur comportement grâce à l'analyse statistique et à la reconnaissance vidéo et audio. Le système permettrait aux enquêteurs de suivre les criminels en filtrant certaines caractéristiques parmi les données en direct et les données historiques collectées par 6 000 caméras de vidéosurveillance et les enregistrements vocaux des appels d'urgence.

‍

Les modèles fondés sur la saisie massive de données ont déjà été fortement remis en question pour leur manque de clarté quant aux conditions d'utilisation des informations, pour l'opacité qui entoure l'accès aux données collectées, pour l'utilisation sans discernement d'algorithmes pour traiter les données et prendre des décisions, pour la charge supplémentaire qu'ils imposent aux utilisateurs d'acquérir de nouveaux appareils, d'exécuter davantage de processus et d'alourdir la maintenance de leurs identités numériques, et pour la possibilité de reproduire des biais et des erreurs grâce à l'automatisation de processus défectueux. Cette possibilité de rassembler les morceaux de notre identité que nous éparpillons dans de nombreux espaces viole ce que l'on appelle l'intégrité contextuelle. Tout ce qui se passe dans l'espace public n'est pas forcément public, convertible en données, disponible pour être surveillé et utilisé pour notre identification et notre profilage. Notre vie privée peut être violée en reliant des éléments qui appartiennent à différentes sphères de notre vie, même lorsqu'ils se produisent dans des espaces publics. Malgré tout, le discours sur la surveillance est toujours présent dans notre ville et dans nos autorités. "Les big data sont comme des miettes numériques que nous générons jour après jour. Des données dérivées d'appels, de paiements par carte, d'interactions en ligne, d'utilisation d'applications et autres. Ces données géocodées, nous permettent de réduire la criminalité et d'influencer les comportements pour réduire la criminalité", a déclaré le responsable de l'ESU. Prédire les comportements et anticiper la criminalité. Pouvoir identifier ces schémas et ces comportements et les bloquer à temps. Toutes ces promesses semblent très séduisantes, mais dans la pratique, comment les distinguer de la collecte massive de données pour exercer un contrôle sur un phénomène social ou sur des personnes ?

‍

Questions nécessaires

‍

De nombreuses questions se posent lorsqu'on s'intéresse aux dimensions sociales et politiques que peut revêtir un système de surveillance capable d'identifier, de suivre et de profiler la population. Comme on l'a dit, il y a, en principe, un problème d'opacité et de manque de clarté quant aux critères éthiques qui guident le fonctionnement d'un tel instrument. Des questions ont également été soulevées quant à leur impact : quel est leur coût, au-delà de l'aspect financier, et quels sont leurs avantages ? Le potentiel des systèmes disponibles est-il pleinement exploité ? Certaines populations sont-elles plus susceptibles d'être surveillées que d'autres ? Quel est l'impact sur les jeunes, les habitants des zones les plus vulnérables, ceux qui fréquentent certains lieux ou ceux qui s'adonnent à certaines pratiques dans les espaces publics ? Par exemple, les personnes qui fréquentent des espaces plus publics, et notamment des lieux comme le centre-ville, seraient plus susceptibles d'être surveillées et profilées qu'une personne qui fréquente des espaces plus privés, comme un centre commercial. 

‍

Il est également nécessaire de s'interroger sur la mise en œuvre et l'utilisation correcte des ressources publiques. Une politique gouvernementale numérique appropriée devrait guider la mise en œuvre des systèmes technologiques. Si la technologie devient un élément stratégique de la prestation des services publics, nous avons besoin d'une structure de garanties réglementaires, institutionnelles et techniques pour instaurer et maintenir la confiance dans les systèmes numériques. D'une part, une question se pose quant à la capacité du secteur public à soutenir un système qui donne autant de pouvoir : existe-t-il des capacités techniques et institutionnelles adéquates pour entretenir, réparer et mettre à niveau les systèmes existants ? Quel est le degré de souveraineté de la ville sur les technologies de collecte et d'analyse des données qu'elle utilise ? Quels sont les accords conclus avec les parties privées impliquées dans ce processus ? D'autre part, des questions se posent sur la manière dont les différentes sources de données sont intégrées : quelle est la portée de la politique de la ville intelligente en termes de centralisation des données de la ville ? Les informations relatives à la sécurité sont-elles mises en contraste avec les informations collectées sur la mobilité dans le métro et dans le SIMM (système de mobilité intelligente de Medellin) et le nouveau CITRA (centre intégré d'information sur le trafic et le transport) ? Quelles sont les informations partagées avec les autorités nationales et reçues de celles-ci ? Quel rôle jouent les municipalités de Valle de Aburrá ? Quelles sont les capacités, les ressources et les données partagées avec elles ?

‍

Depuis des années, de nombreux groupes sociaux répètent le message selon lequel il faut passer de la sécurité à la coexistence. Mais comment concrétiser la coexistence dans une politique de sécurité ? C'est l'une des grandes questions que se posent les responsables de l'élaboration des politiques publiques dans la ville. A-t-il été plus facile d'axer la politique sur le contrôle et la surveillance ? Il semblerait que cela donne des résultats plus rapides, mais, connaissant la nouvelle portée du système, la société est-elle d'accord avec la vigilance du gouvernement à cet égard ? Ou, au contraire, les technologies peuvent-elles être utilisées davantage pour promouvoir la coexistence des citoyens ? En mettant l'accent sur la coexistence des citoyens, les technologies numériques seraient-elles utilisées différemment ? Combien serons-nous prêts à investir dans la technologie pour obtenir ce que nous voulons ? Que voulons-nous ? L'indicateur principal de la politique de sécurité de la ville a été le taux d'homicide. Cependant, après une diminution drastique depuis les années 1990, près de 50 % de la population de Medellin ne se sent pas en sécurité aujourd'hui. Définir ce que nous attendons de la politique de sécurité reste une tâche essentielle et difficile.

‍

Que pouvons-nous faire alors ? Du point de vue des collectivités locales, il est essentiel d'intégrer des lignes directrices en matière de droits de l'homme dans leur politique de gouvernement numérique. Cela garantirait aux citoyens un minimum de conditions et de garanties lors du déploiement de systèmes technologiques puissants et risqués. Il est relativement facile de commencer, car il existe des instruments tels que le cadre éthique de l'intelligence artificielle en Colombie et une longue liste de principes et de lignes directrices internationaux qui peuvent servir de référence. Ceux-ci énoncent des principes tels que la transparence, l'explication, la responsabilité, l'inclusion, entre autres, ainsi que des outils (par exemple, l'audit des algorithmes, l'explication intelligente, la définition et la gestion des risques, les codes de conduite internes) pour garantir une bonne conformité. Il existe également des réseaux de villes, tels que Cities for Digital Rights, qui promeuvent des politiques publiques au niveau de la ville basées sur les droits numériques. Si la volonté est là, cette tâche est aujourd'hui une "tâche facile" pour les collectivités locales. 

‍

Au-delà des petites corrections techniques, de la réorganisation de certains processus et d'une culture globale de responsabilité de la part des autorités, c'est la société elle-même qu'il convient d'interroger. L'apparition de ces technologies invasives comme réponse à court terme aux problèmes de sécurité ne se produit pas dans le vide et n'est pas non plus un acte d'autoritarisme de la part du bureau du maire. Elles sont également légitimées par une société qui privilégie le contrôle et l'ordre à la liberté. La société de la vallée d'Aburrá doit s'interroger sur le type de ville qu'elle souhaite construire. Pouvons-nous changer la relation que nous entretenons avec les nouvelles technologies ? Jusqu'à présent, notre vision s'est concentrée sur la consommation des derniers développements pour maintenir l'image d'une ville intelligente, innovante et numérisée. Pouvons-nous nous concentrer d'abord sur la définition de nos problèmes les plus importants et ensuite sur l'obtention des outils technologiques qui nous aideront à les résoudre ? Sans vouloir insister sur ce point, il faut vraiment que nous ayons une conversation sur tout cela.