Quatre caractéristiques des systèmes d'IA pour une gouvernance technologique transparente : Les enseignements de la deuxième conversation pop-up numérique interurbaine
Dans le cadre de l'initiative Explore Geneva, nous avons organisé le 27 avril notre deuxième conversation du projet Intercity Digital Pop-Up au BFM. Nous étions ravis de faciliter le dialogue entre les représentants des différentes villes d'Edgelands - Genève, Medellín, Nairobi et Houston.
Photo : Capture d'écran de l'événement
Le déploiement de technologies à des fins de sécurité soulève de profondes questions sur la vie privée, la gouvernance et la confiance dans le monde entier. La dernière série de conversations interurbaines a mis en lumière la manière dont des villes comme Medellín, Nairobi et Genève relèvent ces défis, révélant une tapisserie complexe d'expériences et de préoccupations qui trouvent un écho à l'échelle mondiale.
Medellín, en Colombie, souvent célébrée comme pionnière en matière d'innovation urbaine, envisage d'adopter la technologie de la reconnaissance faciale pour renforcer la sécurité publique. Cependant, cette ambition est limitée par l'infrastructure de la base de données et les scandales de passation de marchés qui ont érodé la confiance du public. Malgré son image de leader en matière de technologie de surveillance, Medellín est confrontée aux défis pratiques que pose la mise en œuvre responsable de tels systèmes. Les difficultés rencontrées par la ville soulignent un point essentiel : l'adoption de technologies doit s'accompagner de cadres de gouvernance solides afin de garantir une utilisation responsable et de protéger les droits des citoyens.
À Nairobi, au Kenya, la technologie s'avère être une arme à double tranchant. Des cas très médiatisés, tels que l'utilisation d'images de vidéosurveillance pour élucider des meurtres et améliorer la sécurité des femmes, illustrent les avantages tangibles de la surveillance. Toutefois, cette adhésion à la technologie est tempérée par de sérieuses préoccupations concernant la protection des données et la sécurité des plateformes. L'expérience de Nairobi met en évidence une tension fondamentale : la nécessité de tirer parti des avancées technologiques tout en protégeant la vie privée des individus et en répondant aux craintes d'une surveillance excessive. La ville doit trouver un équilibre délicat entre l'innovation et la protection des libertés civiles.
La relation de Genève avec la technologie et la sécurité est marquée par une complaisance unique. La confiance dans le système démocratique a conduit à un débat public minimal sur l'utilisation des technologies numériques à des fins de sécurité. Ce manque d'engagement critique contraste fortement avec les discussions avancées de la ville sur d'autres aspects de l'IA, tels que les grands modèles de langage et l'IA générative. L'absence d'un dialogue solide liant l'IA aux préoccupations en matière de sécurité reflète un problème plus large : une complaisance qui peut entraver les mesures proactives nécessaires pour faire face aux risques technologiques futurs. Le défi de Genève consiste à favoriser un discours public plus informé et plus critique sur les implications de l'IA en matière de sécurité.
Les discussions avec les conservateurs ont révélé un point commun entre ces villes : le rôle central de la confiance dans l'adoption de la technologie et les problèmes de transparence qui en découlent. À Genève, le malaise du public à l'égard de la technologie se manifeste par des réactions aux fuites de données, aux "fake news" et aux "deep fakes". Cette méfiance est aggravée par des incidents tels que la réaction contre le déploiement de l'IA dans les gares. Comme l'a souligné Bernard Rappaz, commissaire d'Edgelands Genève, reconnaître l'importance de l'intégrité numérique est un bon point de départ pour discuter des défis sociaux posés par les technologies numériques. "Sans confiance, les avancées technologiques peuvent provoquer plus de peur que de sécurité".
George Mwengala, conservateur d'Edgelands Nairobi, a souligné les défis auxquels sont confrontés les gouvernements pour réglementer des technologies en évolution rapide. "Il ne suffit pas d'élaborer des réglementations efficaces, il faut aussi qu'elles restent pertinentes au fur et à mesure que la technologie progresse". La propriété et l'utilisation éthique de la technologie sont cruciales dans ce paysage réglementaire, en particulier au moment où le Kenya se prépare à de nouvelles réglementations en matière d'IA.
Le conservateur de Medellín, Juan Aristizábal, a ajouté que le compromis perçu entre une surveillance accrue et une réduction de la criminalité est une considération importante pour les citoyens. Une gouvernance efficace peut renforcer la sécurité publique, mais elle doit trouver un équilibre avec des mesures qui protègent les libertés individuelles et empêchent l'utilisation abusive de la technologie.
Pour que l'IA et les autres technologies numériques soient intégrées efficacement dans les cadres de sécurité publique, quatre caractéristiques clés ont été jugées essentielles :
- Participation des citoyens : Les technologies d'IA doivent être adaptées aux besoins de la communauté. La participation des citoyens à leur développement et à leur supervision peut contribuer à garantir que les problèmes sont abordés à un stade précoce et que les solutions proposées sont pragmatiques et axées sur la collectivité.
- Focus sur la réglementation : Si la réglementation de l'IA est un défi, il est important de ne pas oublier les technologies existantes. Une approche réglementaire qui tient compte à la fois des nouvelles technologies et des technologies existantes peut aider à gérer leurs interactions et leurs impacts sociétaux.
- Engagement des parties prenantes : Les administrations municipales doivent constamment s'engager auprès des différentes parties prenantes, qu'il s'agisse de professionnels ou de responsables locaux, afin d'accroître la transparence sur la manière dont elles utilisent les technologies numériques et de créer une communauté de citoyens qui comprennent les technologies et peuvent contribuer aux futurs déploiements technologiques.
- Environnements de type "bac à sable" : Les administrations municipales devraient créer des environnements contrôlés pour tester les applications d'IA, car ils peuvent fournir des informations précieuses et promouvoir l'innovation tout en atténuant les risques.
Les différents points de vue de Medellín, Nairobi et Genève soulignent les diverses façons dont les villes sont confrontées à l'intersection de la technologie et de la sécurité. À mesure que nous avançons, il est clair que la confiance du public, la transparence de la gouvernance et le maintien de cadres réglementaires appropriés seront essentiels pour naviguer dans les complexités de l'IA et des technologies de surveillance. En relevant ces défis de front, nous pouvons créer un avenir où la technologie renforce la sécurité publique sans compromettre les droits de l'homme et les valeurs sociales.
Le débat mondial sur la technologie et la sécurité évolue constamment à mesure que de nouvelles technologies et de nouvelles menaces apparaissent. Il est impératif que nous continuions à nous engager, à nous interroger et à affiner nos approches afin de garantir que le déploiement de la technologie sert le bien public, respecte la vie privée et soutient les valeurs démocratiques. Ce n'est qu'à cette condition que nous pourrons exploiter tout le potentiel des avancées technologiques d'une manière réellement bénéfique pour la société.
Restez à l'écoute pour notre prochain Pop-up numérique interurbain, où les habitants de différentes villes discuteront de la transparence et des attentes en matière de sécurité. Si vous souhaitez participer à notre prochaine conversation interurbaine, veuillez vous inscrire ici .
.jpg)
