Gouvernance de l'IA dans les villes intelligentes : La nouvelle ère de la souveraineté algorithmique

Auteur

Ashish Aggarwal

Directeur général chez Nagarro, il est chargé de développer l’activité sur des marchés stratégiques et de piloter des initiatives internationales en matière de durabilité. Il a auparavant été responsable des activités globales, des ressources humaines et de l’intégration post-acquisition.

Le changement architectural dont les urbanistes devraient parler

Pendant des décennies, les systèmes de villes intelligentes sont restés des outils d’observation. Des capteurs intégrés aux transports, aux services publics et aux espaces urbains produisaient des données en continu. Ces informations permettaient aux autorités de mieux piloter la ville mais le rôle de la technologie restait limité. Elle observait, analysait et transmettait des résultats, en temps réel ou presque. En revanche, elle n’avait pas l’autonomie nécessaire pour agir seule.

Aujourd’hui, les architectures nativement basées sur l’IA changent la donne. Elles reposent sur des boucles de décision autonomes. Les systèmes peuvent désormais s’adapter, anticiper, décider et agir en continu, dans un cadre défini. Il ne s’agit pas simplement d’une évolution technologique.
C’est un changement structurel profond.
On passe d’une gouvernance par lots à un pilotage en temps réel, en boucle fermée.

Dans les systèmes énergétiques, le changement est tout aussi profond. Les réseaux intelligents utilisent désormais des capteurs pilotés par l'IA pour détecter les défaillances et reconfigurer les réseaux de manière autonome, afin de maintenir l'équilibre délicat entre l'offre et la demande. Ces systèmes n'attendent pas l'approbation de l'homme ; ils agissent en quelques millisecondes pour éviter les défaillances en cascade.

Avec les systèmes fondés sur l'IA, nous assistons à un changement structurel du pouvoir urbain.

Le pouvoir urbain a toujours appartenu à ceux qui prenaient les bonnes décisions et agissaient en conséquence. Pendant des siècles, les humains ont été les décideurs. Aujourd'hui, grâce à l'architecture native de l'IA, les systèmes des villes intelligentes peuvent fonctionner dans un paradigme qui redistribue fondamentalement l'autorité.

Cette redistribution se manifeste par trois niveaux distincts de souveraineté :

Des modèles contrastés : Gouvernance participative ou gouvernance étatique

Le paysage mondial révèle des approches très différentes de la gouvernance algorithmique. Barcelone a été la première à adopter un modèle participatif grâce à des plateformes telles que Decidim.barcelona, qui permet aux citoyens de débattre, de proposer et de voter sur des projets, en veillant à ce que la transformation numérique corresponde aux besoins de la communauté. Cette "coordination horizontale laissant une large place à la prise de décision ascendante" contraste fortement avec le modèle de gouvernance aristocratique et orienté verticalement de Dubaï, où les initiatives en matière de villes intelligentes sont largement dirigées et centralisées par le gouvernement.

Ces modèles représentent plus que des différences stylistiques : ils incarnent des visions fondamentalement distinctes de l'exercice de la souveraineté dans les villes pilotées par l'IA. L'approche de Barcelone met l'accent sur la "souveraineté technologique" et les biens communs numériques, tandis que Dubaï privilégie l'efficacité par le biais d'un contrôle centralisé. Aucun des deux modèles n'est intrinsèquement supérieur ; chacun reflète des valeurs culturelles, des traditions de gouvernance et des priorités urbaines différentes. Toutefois, le modèle de Barcelone a suscité un débat plus large sur la question de savoir si la gouvernance de l'IA peut être véritablement démocratique ou si elle conduit inévitablement à une concentration du pouvoir.

L'essor de la bureaucratie algorithmique et ses inconvénients

À mesure que l'IA s'intègre dans les activités urbaines, nous assistons à l'émergence de ce que les spécialistes appellent la "bureaucratie algorithmique", dans laquelle les systèmes informatiques assument des rôles traditionnellement dévolus à des administrateurs humains. Cette transformation va au-delà des gains d'efficacité pour remodeler la relation fondamentale entre les citoyens et la gouvernance des villes.

Les jumeaux numériques, répliques virtuelles d'environnements urbains entiers, illustrent cette évolution. Barcelone tire parti de son infrastructure de supercalcul MareNostrum 5 pour évaluer l'alignement sur le modèle de la ville de 15 minutes, en évaluant l'accessibilité des services et le développement équitable au moyen de scénarios simulés. De même, le jumeau numérique interactif de Munich intègre l'IA pour évaluer la faisabilité des panneaux solaires et l'accessibilité des transports publics. Il ne s'agit pas simplement d'outils de visualisation, mais de systèmes d'aide à la décision qui influencent de plus en plus les orientations politiques.

L'IA générative ajoute une autre dimension. Les villes déploient des agents d'IA pour l'analyse vidéo, qui traitent des milliards d'événements par an afin d'informer les responsables des conditions critiques par le biais de requêtes en langage naturel. À Kaohsiung, à Taïwan, des systèmes d'IA physique reconnaissent les dommages causés aux infrastructures (lampadaires, arbres tombés, etc.), éliminant ainsi les inspections manuelles et réduisant de 80 % les délais de réponse aux incidents. L'opérateur ferroviaire français SNCF utilise des applications de jumeaux numériques qui simulent le chauffage solaire, la circulation de l'air et les mouvements de foule, ce qui permet de réduire la consommation d'énergie de 20 %.

Cette sophistication technologique masque toutefois une tension critique : en déléguant la prise de décision à des algorithmes, les villes risquent de créer des systèmes qui échappent à tout contrôle démocratique. Lorsque des applications de navigation redirigent le trafic à travers des zones résidentielles pour optimiser les temps de parcours globaux, elles créent des frictions que les habitants ne peuvent pas facilement résoudre. La décision n'a jamais été prise par un élu ou un administrateur ; elle a émergé d'une fonction d'optimisation conçue ailleurs, fonctionnant en continu et presque invisible pour ceux qu'elle affecte.

Comment intégrer la gouvernance au cœur des systèmes autonomes ?

La gouvernance traditionnelle par le biais de politiques et d'approbations fonctionne trop lentement pour les systèmes natifs d'IA où les décisions sont prises à la vitesse de la machine. La gouvernance doit être intégrée directement dans le code, non seulement en tant que moteur de règles, mais tout au long du cycle de vie de l'IA : dans la sélection des données d'entraînement, l'étiquetage des données, les seuils de risque et l'acheminement des flux de travail.

Les cadres émergents offrent des voies pratiques pour aller de l'avant. Le concept d'intendance algorithmique offre trois principes fondamentaux :

Des architectures institutionnelles pratiques peuvent rendre ces principes opérationnels :

Perspectives mondiales sur l'urbanisme de l'IA

Le passage à l'IA urbaine est un phénomène mondial, mais sa mise en œuvre varie considérablement d'un contexte à l'autre. En Asie, Singapour est en tête avec une intégration complète de l'IA dans les transports, l'énergie et les services publics, ce qui a eu des effets mesurables, à savoir une augmentation de 25 % de la fréquentation des transports publics depuis 2020, une réduction de 15 % des émissions de carbone, soit environ 500 000 tonnes de CO2 par an, et des économies annuelles estimées à 1 milliard de dollars grâce à la réduction de la congestion.

Les villes d'Amérique latine sont confrontées à des défis différents, où l'héritage colonial perpétue les dépendances technologiques et où les préoccupations concernant le colonialisme des données sont particulièrement vives. Les villes africaines sont également confrontées à des tensions entre la recherche de progrès technologiques par le biais de partenariats avec des entreprises technologiques mondiales et le maintien d'une autonomie stratégique sur les infrastructures essentielles.

Des villes européennes comme Barcelone et Amsterdam mettent l'accent sur la gouvernance participative et les approches à source ouverte, tandis que des villes du Moyen-Orient comme Dubaï et la ville intelligente prévue en Arabie saoudite, "The Line", recherchent d'ambitieux environnements urbains surveillés par l'IA avec un contrôle centralisé. Chaque approche reflète des priorités distinctes : l'efficacité par rapport à l'équité, la rapidité par rapport à la délibération, et l'optimisation par rapport à la participation démocratique.

La ville du futur, première en matière d'IA : Que faut-il pour être souverain ?

De plus en plus, la souveraineté est exercée non seulement par des statuts et des mandats, mais aussi par des ensembles de données, des modèles d'IA, des seuils de risque et des flux de travail automatisés qui décident en quelques millisecondes ce qui prenait auparavant des mois aux humains. La question aujourd'hui n'est pas de savoir si les systèmes pilotés par l'IA gouverneront les villes ; ils le font déjà. La question pressante est de savoir si les institutions démocratiques peuvent rester efficaces et dignes de confiance à une époque où l'IA façonne de plus en plus la vie urbaine.

Le coût d'une erreur est prohibitif. Une ville qui délègue des décisions en temps réel sans intégrer la gouvernance dans le code perdra sa responsabilité, créant des systèmes opaques que les citoyens ne peuvent pas comprendre ou contester. Inversement, une ville qui refuse complètement les systèmes autonomes ne parviendra pas à agir rapidement et à grande échelle dans des situations complexes et volatiles telles que les urgences climatiques, les pannes d'infrastructure et les crises de santé publique.

Les deux voies mènent à l'érosion de la confiance des citoyens et à la diminution de l'autorité publique, mais pour des raisons différentes. Le défi consiste à naviguer entre ces deux extrêmes.

Les villes qui mèneront la prochaine décennie ne se contenteront pas de déployer l'IA la plus sophistiquée ; elles la contrôleront également de manière significative. Et pour y parvenir, il faudra.. :

Nous nous trouvons à un point d'inflexion où l'infrastructure que nous construisons aujourd'hui façonnera la gouvernance urbaine pour des générations. Les choix que les villes font aujourd'hui en matière de propriété des données, de transparence algorithmique, de participation des citoyens et de mécanismes de responsabilisation détermineront si l'IA deviendra un outil pour une gouvernance plus réactive et équitable ou un moyen de consolider le pouvoir au-delà de la portée démocratique.

La ville souveraine de demain ne rejettera pas la technologie et ne l'adoptera pas sans esprit critique. Elle traitera l'IA comme ce qu'elle est, un outil puissant qui nécessite une gouvernance réfléchie, une surveillance continue et un engagement inébranlable au service du bien public. Ce n'est qu'en intégrant ces principes dans l'architecture de l'IA urbaine que nous pourrons garantir qu'à mesure que nos villes deviennent plus intelligentes, elles restent démocratiques, responsables et véritablement à l'écoute de la population qu'elles servent.