La Fabrique de la Cité faisait sa rentrée mardi 10 septembre à Leonard:Paris avec une conférence sur la smart city et l’exploitation des données qu’elle génère. Avec cette question en toile de fond : la smart city est-elle autoritaire ? Pour y répondre, Raphaël Languillon, chargé d’études senior à la Fabrique de la Cité, avait invité Cécile Maisonneuve, présidente de La Fabrique de la Cité, Myrtille Picaud, chercheuse postdoctorale au Centre d’études européennes (Sciences Po Paris), Régis Chatellier, chargé d’études prospectives à la CNIL, et Maurice Gourdault-Montagne, ancien secrétaire général du ministère de l’Europe et des Affaires étrangères et ambassadeur de France en Chine de 2014 à 2017.

Ville optimisée, la smart city est fondée sur le déploiement du numérique et, partant, sur les données nécessaires à ce déploiement. Big data, données personnelles ou encore open data, les données sont partout et se pose aujourd’hui le problème de leur exploitation et de leur diffusion en dehors de la sphère privée. Cécile Maisonneuve a ainsi présenté l’exemple controversé de la reconnaissance faciale dont la fiabilité fait encore débat et qui investit l’espace public, par essence gratuit, libre et où tout un chacun a la chance d’être un anonyme parmi d’autres. Expérimentée par exemple lors de l’édition 2019 du carnaval de Nice, la reconnaissance faciale est en France et en Europe liée au RGPD (Règlement général sur la protection des données) qui encadre le traitement des données personnelles. Pour Cécile Maisonneuve, « nous avons avec le RGPD un instrument qui pose le débat démocratiquement » en invoquant à la fois le régulateur, les citoyens et le législateur.

Suffisant pour empêcher la smart city de devenir autoritaire ? Comme l’a rappelé Régis Chatellier, certains individus, pour prévenir tout problème au cas où ils seraient surveillés, adoptent ce que l’on nomme en anglais le chilling effect : « Ils se restreignent eux-mêmes en sachant qu’on peut les surveiller », explique-t-il, s’empêchant par exemple d’aller consulter la page « terrorisme » de Wikipédia par peur d’être soupçonnés ensuite par les autorités. Un premier pas vers la restriction des libertés, même si elle est dans ce cas imposée par l’individu lui-même. Un individu également partie prenante et acteur de sa propre « surveillance » lorsqu’il s’agit d’investir dans un smartphone, capteur que l’on porte toujours sur soi. Ce qui, pour Myrtille Picaud, pose cette question : « Qui surveille qui ? Et dans quel but ? » Car qui dit smartphone, dit multiplication des applications et donc des données, utilisées à la fois par des acteurs publics et des acteurs privés. Les données sont réellement partout.

Pour rebondir sur la question de la reconnaissance faciale qui, comme l’a précisé Cécile Maisonneuve, était parfois basée sur la reproduction de bais de nature raciste, certains individus étant plus souvent ciblés que d’autres en fonction de leur couleur de peau notamment, Myrtille Picaud a évoqué l’exemple de la cartographie de la criminalité. En utilisant les données pour déterminer des « crime hotspots », ces lieux où la criminalité est plus répandue qu’ailleurs, on cible certains quartiers sensibles. Et l’algorithme renforce de fait le sur-contrôle de ces quartiers, et donc de certains individus, par rapport à d’autres. Ce qui pose là aussi la question des dérives autoritaires de la smart city.

En conclusion, Maurice Gourdault-Montagne a partagé son expérience et sa connaissance de la Chine où il fut ambassadeur, présentant d’emblée ce pays comme un « autre monde » en matière d’exploitation des données et des dérives autoritaires que l’on connaît. Au coeur du débat notamment dans un pays à « l’urbanisation galopante » (près de 60% de la population vit en ville, chiffre en constante augmentation), le système de crédit social qui permet au gouvernement chinois de noter ses citoyens, de publier ensuite publiquement ces notations et même de sanctionner les « mauvais citoyens » en les empêchant par exemple d’acheter des billets d’avion ou de train, de contracter un prêt bancaire ou d’acheter un appartement. Dans un pays où la tradition veut que le gouvernement endosse le rôle d’éducateur moral, le système est assez populaire, les citoyens gagnant des points de crédit social dès lors qu’ils effectuent des actions « positives » aux yeux de ceux qui les dirigent. « Un asservissement volontaire », selon Maurice Gourdault-Montagne, à un système de surveillance unique en son genre.

www.lafabriquedelacite.com