Communication réalisée en binôme avec Olivier Kempf lors du colloque "Cybersécurité des villes intelligentes" - 15 octobre 2015, Musée de l'Armée, Hôtel des Invalides Paris.
Intelligence Artificielle - Comment change-t-elle le mode ? JBU2018
Enjeux de pouvoir au cœur de la ville intelligente
1. Enjeux de pouvoir au cœur de la ville intelligente
Olivier Kempf & Thierry Berthier
Colloque « Cybersécurité dans les villes intelligentes »
15 octobre 2015 – Musée de l’Armée – Hôtel National des Invalides
3. I - Les données donnent-elles le pouvoir ?
- Les débats autour de la ville intelligente omettent
fréquemment d’interroger l’origine des données.
- Les analystes considèrent plus leur traitement et la
façon dont elles peuvent améliorer le fonctionnement
de la ville, par conséquent le bien-être collectif.
- Or, l’origine des données est tout sauf une chose
anodine, tout comme leur récupération et leur mode
de « gestion ».
4. 1-1 Les deux dimensions de la projection algorithmique
- Chaque individu est désormais identifié par sa projection
algorithmique (PA), constituée de deux sources, l’une active, l’autre
passive (cf – partie III ).
- La première tient à la pratique du cyberespace par l’individu : surf
sur Internet, réservations à distance, la validation magnétique de son
abonnement de transport. Autant d’actions cyber venues d’une
démarche active de l’individu.
- La seconde tient à son passage dans un univers cybernétisé. Ainsi,
transports en commun, marche dans la rue (caméras de
surveillance), mise sur veille de son téléphone... Les données cyber
proviennent de l’observation de l’individu, à son insu.
5. 1 – 2 Récupération et analyse des données
- Toutefois, tous ces procédés sont pour l’instant décentralisés.
Quelques uns aux mains des autorités municipales (systèmes de
caméras de surveillance), la plupart aux mains d’acteurs privés. Les
uns sont locaux (systèmes de transport), d’autres ont des dimensions
plus larges (fournisseurs de téléphonie ou d’internet). Enfin, de
nouveaux acteurs apparaissent sur le modèle de l’uberisation.
- Ainsi, les données sont-elles réparties en de multiples mains qui
obéissent à des intérêts différents et donc des logiques diverses.
- Souvent, les analystes s’interrogent sur l’interconnexion de ces
données. Pourtant, un des enjeux réside dans le contrôle de cette
concentration. Au fond, à supposer résolue l’interconnexion,
comment réguler les données ? Surtout, comment partager leur
gestion ? De façon sous-jacente, qui est propriétaire des données ?
Celui qui les émet, volontairement ou non, ou celui qui les récupère
et les traite ?
7. II Comment réguler les données ?
Il y a en fait plusieurs catégories d’acteurs qui
interagissent. Les décrire permettra de mieux
comprendre les relations qu’ils peuvent nouer.
8. 2 – 1 Plusieurs acteurs aux intérêts divergents
- L’usager, considéré comme individuel. Il peut revêtir plusieurs noms
: citoyen, administré, public usager, client... Toutefois, c’est bien sa
projection algorithmique, active et passive, qui permet d’envisager la
ville intelligente. Projection algorithmique toujours croissante : plus
de données, c’est plus de traitement statistique collectif, donc plus de
service public, donc plus de bien commun. Du moins en théorie.
- L’autorité publique. Il s’agit le plus souvent des édiles communaux,
malgré la complexification administrative (intercommunalité, pays,
agglomérations... ). Elle dispose du pouvoir de décision et
d’orientation. Elle est donc celle qui optera pour les orientations vers
la ville intelligente et qui arbitrera entre plusieurs options.
- Quelques données via les services en régie ; le plus souvent, use de
délégations de service public, avec des prestataires soit privés soit
publics, mais distincts d’elle (réseaux de transport, distribution de
flux). Ils auront accès à de multiples sources de données qui
serviront, en théorie, à abonder le centre de recueil.
9. 2 – 1 Plusieurs acteurs aux intérêts divergents
- Administrations nationales implantées localement pourront avoir
des données qui serviraient à la ville intelligente (enseignement
supérieur ou universitaire, centre des impôts, police nationale...).
- On le voit, il y a ainsi plusieurs catégories d’acteurs publics, semi-
publics ou mixtes qui gravitent autour de l’autorité communale.
Toutefois, ils ne sont pas sous une autorité directe et totale. Leurs
données ne sont pas automatiquement transférables à l’autorité
communale.
- Enfin, acteurs privés. Le modèle économique de certains peut être
bâti principalement autour de la donnée, quand cette dernière peut
n’avoir qu’un rôle marginal chez d’autres. Or, les rapports entre
acteurs privés et autorités varient.
10. 2 – 2 Des rapports public – privé autour de la donnée
- Ainsi, un gestionnaire de parking souterrain se préoccupe d’abord
de son taux de remplissage (équilibre économique). Cela peut
intéresser les autorités communales (fluidité de la circulation). Dans
ce cas particulier, l’intérêt des deux coïncide : signaler un parking
vide sur les panneaux d’affichage public renforcera son remplissage
et détournera le trafic des parkings qui sont déjà complets.
- Mais certains acteurs peuvent n’avoir aucun intérêt à échanger
leurs données et vouloir les vendre.
- Acteurs locaux (Uber peut chercher à vendre les données qu’il a
acquises), ou de données massives (vente des extractions de leurs
gigantesque base de données). Certains grands acteurs ont déjà des
applications dédiées : soient par le biais de la géolocalisation
(Facebook) soit par des utilitaires (Google Maps).
- La ville serait alors dépendante d’acteurs extérieurs qui lui
fourniraient une grande masse de données. Toutefois, cette situation
simple soulève plusieurs questions.
11. 2 – 3 Le risque du monopole de la donnée
- Risque de « solutions » qui soient uniquement technologiques
pas sûr que ce soit dans l’intérêt du bien commun.
- Question de la « propriété » des données. Uber est-il vraiment
propriétaire des données qu’il compte vendre ? Un système d’observation
des flux avec, par exemple, reconnaissance automatique des plaques
d’immatriculation, ne serait-il pas une solution alternative, cette fois dans
les mains de la municipalité ?
- Il y a ainsi un risque de dépendance de la municipalité envers le
fournisseur de données. À ce risque s’ajoute celui du traitement de la
donnée, au travers des centres de fusion qui seront nécessaires aux villes
intelligentes.
- Leur gestion en revanche pose une difficulté : elle peut être assurée en
régie ou déléguée au prestataire. Se profile alors le risque que le même
acteur offre, sous couvert d’intégration et donc de cohérence, la conception
et la gestion du centre, mais aussi la fourniture des données qui seront
utilisées par le centre. Il bénéficierait alors d’un véritable monopole de la
donnée.
12. 2 – 3 Le risque du monopole de la donnée
- La question des monopoles est toujours délicate. Distinction entre
maîtrise d’ouvrage et maîtrise d’œuvre, ou délégation de service public :
pas suffisant.
- Envisager des solutions alternatives. Par exemple, elles peuvent se doter
des applications qui intègrent tous les transports (y compris la marche
pied). Ainsi, un usager de la ville aurait accès : aux transports en commun,
vélibs et autres systèmes de partage. Helsinki a développé une application
de ce genre, Kutsuplus. L’avantage pour la ville est double : non seulement
elle offre un service public à ses usagers mais en plus elle acquiert des
données.
- Par conséquent, le contrôle des données de la ville intelligente constitue
un enjeu qui renouvelle les rapports compliqués entre les municipalités et
les services offerts par des entreprises privées. Ce qui est valable pour les
transports l’est également pour tous les autres domaines de responsabilité
des villes (distributeurs de flux comme énergie, eau, téléphonie, câbles. Là
encore, il s’agit de réfléchir à l’intégration de ces données.
13. III - Vers une nouvelle dévolution du pouvoir ?
14. III Vers une nouvelle dévolution du pouvoir ?
- Jusqu’à présent, nous nous sommes placés dans
un cadre classique, celui où « municipalités »,
usagers et prestataires nouent des relations
compliquées.
- Pourtant, la ville intelligente pourrait remettre en
cause ce cadre classique, notamment celui de la
dévolution politique.
15. 3 - 1 Le cadre classique de dévolution du pouvoir
- Aujourd’hui, les autorités communales font face à deux types de
« clients ». Les électeurs (habitants de la ville titulaires d’une carte
électorale) et les usagers. Or, si tous les électeurs sont usagers de la
ville, la réciproque n’est pas vraie.
-Dès lors, les autorités sont partagées. Sanction par les élections
(échéances assez espacées). En revanche, peu de rapports directs
avec les usagers, surtout ceux qui ne sont pas citoyens. Au mieux,
d’enquêtes de satisfaction mais c’est approximatif.
Avantages : marge de manœuvre, non soumission aux aléas
d’une opinion changeante.
Inconvénients : le risque de passer à côté des besoins réels de
tous les usagers, électeurs ou non, et donc de ne pas remplir son
office.
Or, la ville intelligente pourrait modifier l’équation.
16. 3 – 2 La ville intelligente peut-elle changer
les règles de la dévolution politique ?
- Imaginer de nouveaux modes de consultation grâce à des
systèmes de votes intégrés, sujet par sujet. Une application
partagée pour que tous les acteurs aient un « mot à dire ».
Chaque sujet pourrait faire l’objet d’une consultation.
- Toutefois, problèmes. Par exemple, un vote en janvier sur
l’aménagement de pistes cyclables, un autre en octobre sur un
axe automobile prioritaire, pourraient donner lieu à des votes
positifs. Le vote révélerait des préférences contradictoires.
- Car au fond, tout le pouvoir réside dans la capacité de poser
des questions assez englobantes pour appréhender toutes les
données d’un problème. Dans le cas cité, la question
deviendrait alors : Voulez vous une voie prioritaire, quitte à ne
pas avoir de piste cyclable sur cet axe ?
17. 3 – 3 Des droit différenciés
- Toutefois, le système paraît en l’état assez basique. Est-il normal
qu’un citoyen (qui non seulement paye ses impôts mais est surtout
intimement associé à la ville où il vit) ait « seulement » autant de
droit qu’un usager ?
- La smart city remet en question les modes habituels de dévolution
du pouvoir : jusqu’à présent, le citadin était citoyen. Le lieu
d’habitation déterminait le droit de vote et donc le territoire de la
représentation.
- Or, il est possible d’envisager des systèmes de droits de votes
différenciés et surtout pondérés. Les « habitants » disposeraient de
voix plus importantes que les usagers voisins (ceux de
l’agglomération), qui eux-mêmes auraient plus d’influence que les
usagers de passage. Cela serait assez aisé à définir grâce justement à
des algorithmes adaptés.
18. 3 – 3 Des droit différenciés
- Au fond, la seule difficulté résiderait dans la définition
des critères de pondération : un habitant vaut il trois fois
plus qu’un usager occasionnel ? Cinq fois plus ? Poser la
question est en soi un débat politique : mais il aurait le
mérite de forcer à reconsidérer les pratiques de la ville.
- Il reste que grâce à de tels systèmes techniques, on
passerait d’une démocratie représentative à une
démocratie plus directe.
20. III-1 Projection algorithmique d’un usager
Lorsqu’un individu H déclenche l’exécution (volontaire ou non)
d’un algorithme A sur un système S, une partie de l’information
associée à cette exécution est stockée quelque part dans les
archives de S, dans le Cloud ou ailleurs. C’est la trace numérique de
cette interaction. Cette information est notée PS(H/A), comme la
projection algorithmique de H sur S selon A. PS(H/A) est un
ensemble de mots binaires m qui ont un sens pour la machine qui
exécute A. Cette projection algorithmique peut se décomposer en
composantes ouverte et fermée :
PS(H/A) = POS(H/A) U PFS(H/A)
21. III-1 Projection algorithmique d’un usager
POS(H/A) est la composante ouverte de la projection, elle est
publique, consultable par tous les utilisateurs sur S. PFS(H/A) est la
composante fermée de la projection, elle est privée, consultable par
les administrateurs de S et d’autres…
Elle peut aussi se décomposer en composantes volontaire et
systémique :
PS(H/A) = PVOL-S(H/A) U PSYST-S(H/A)
PVOL-S(H/A) est la composante volontaire de la projection.
(je rédige un mail et je l’envoie, j’achète un objet en ligne).
PSYST-S(H/A) est la composante systémique de la projection.
(les métadonnées créées lors d’une interaction).
22. III-1 Projection algorithmique d’un usager
Lorsque l’on considère maintenant la réunion de toutes les
projections algorithmiques d’un individu H sur le système S, on
obtient sa S-projection notée PS(H) :
PS(H) = UA PS(H/A)
Puis, on généralise encore en considérant la réunion de toutes les
S-projections de H. On obtient la projection algorithmique globale de
H notée P(H) :
P(H) = US PS(H)
24. III-2 Niveau d’ubiquité d’une ville intelligente
Considérons à présent un individu évoluant dans une ville
connectée durant l'intervalle de temps [0,T]. Au cours de cette
période, il va produire des projections algorithmiques volontaires et
systémiques (involontaires) dont on mesure le volume total
V Vol ( H , [0,T] ) et V Syst ( H , [0,T] ) . On s'intéresse ensuite au ratio
des volumes "volontaire / systémique" durant la période considérée :
R ( H , [0,T] ) = V Vol ( H , [0,T] ) / V Syst ( H , [0,T] ) puis à la valeur
moyenne µ ( R ( H , [0,T] ) ) de ce ratio prise sur tous les individus
fréquentant la ville durant la période [0,T]. On peut alors définir le
niveau d'ubiquité d'une ville connectée en fonction de cette valeur
moyenne.
25. III-2 Niveau d’ubiquité d’une ville intelligente
Définition du niveau d'ubiquité d'une ville :
Une ville est dite ubiquitaire de niveau N sur la période [0,T] si :
µ ( R ( H , [0,T] ) ) < 10 - N
Le niveau d'ubiquité d'une ville intelligente est l'entier N[0,T]
maximum vérifiant cette inégalité.
Plus N est grand et plus la partie systémique des projections est
prépondérante sur la partie volontaire. Cela signifie que durant la
période considérée, la densité des objets, systèmes de surveillance
vidéo et infrastructures connectées de la ville provoque cette
dissymétrie. Le niveau N est globalement croissant dans le temps au
sein d'une ville intelligente.
26. III-3 Niveau de consentement algorithmique
(ou ubiquité consentie) d’une ville intelligente
27. III-3 Niveau de consentement algorithmique
(ou ubiquité consentie) d’une ville intelligente
Ce second niveau d'ubiquité s'appuie cette fois sur une appréciation
rétrospective que l'usager porte sur sa propre projection
algorithmique purement systémique. Le niveau de consentement
algorithmique (ou ubiquité consentie) mesure en quelque sorte le
degré de liberté algorithmique ressenti par les usagers d'une ville
intelligente. On le définit à partir des projections algorithmiques
systémiques des usagers : P Syst - S ( H / A). On observe leur
production de projections purement systémique durant l'intervalle
de temps [0,T] puis à l'instant T, on leur demande de se prononcer
rétrospectivement sur l'admissibilité de chacune des projections
systémiques par la question : "Vous avez produit involontairement P
Syst - S ( H / A). Si vous aviez la possibilité de bloquer ou de supprimer
cette projection, le feriez-vous ?".
28. III-3 Niveau de consentement algorithmique
(ou ubiquité consentie) d’une ville intelligente
Les réponses de l'usager permettent alors de séparer l'ensemble des
projections systémiques créées durant la période [0,T] en deux sous-
ensemble : les projections systémiques rétrospectivement
consenties d'une part, et celles qui sont rétrospectivement jugées
non admissibles par l'usager, c'est-à-dire, celles qu'il aurait refusées
s'il en avait eu la possibilité. Ainsi, la projection systémique sur un
système S pendant la durée [0,T] s'écrit :
PSyst - S (H, [0,T] ) = UA, [0,T] PSyst - S (H/A)
On la généralise à tous les systèmes actifs pendant l'intervalle de
temps [0,T] pour obtenir :
PSyst (H, [0,T]) = US PSyst - S (H, [0,T])
29. III-3 Niveau de consentement algorithmique
(ou ubiquité consentie) d’une ville intelligente
Puis, on passe à la phase de jugement rétrospectif de l'usager, à
l'instant T, sur ses projections systémiques :
PSyst (H, [0,T]) = PSyst - consentie (H, [0,T]) U PSyst - refusée (H, [0,T])
Cette partition fait apparaitre la projection algorithmique systémique
consentie par l'usager d'une part PSyst - consentie (H, [0,T]) et d'autre
part, celle qu'il refuserait rétrospectivement de produire s'il en avait
la possibilité : PSyst - refusée (H, [0,T]). En considérant les volumes
respectifs de ces projections consenties et systémiques, on peut alors
définir le ratio de consentement algorithmique d'un usager de la ville
sur l'intervalle de temps [0,T] par :
R consentie ( H , [0,T] ) = V Syst - consentie ( H , [0,T] ) / V Syst ( H , [0,T] )
30. III-3 Niveau de consentement algorithmique
(ou ubiquité consentie) d’une ville intelligente
Enfin, on définit la valeur moyenne de ce ratio µ (R cons ( H , [0,T] ) )
prise sur tous les individus fréquentant la ville durant la période [0,T].
Définition du consentement algorithmique :
On appelle consentement algorithmique sur la période [0,T] ou
niveau d'ubiquité consentie d'une ville intelligente sur la période
[0,T], la valeur C[0,T] = µ (R consentie ( H , [0,T] ) ) .
Plus cette valeur moyenne C[0,T] est proche de 1 et plus il y a
consentement algorithmique des usagers de la ville intelligente. Plus
ce ratio s'approche de 0 et plus les usagers ont le sentiment d'une
perte de liberté et d'une captation illégitime par les infrastructures
connectées de leurs données personnelles. Le ratio fournit une
mesure sur la période [0,T] du degré de liberté ressentie par l'usager
au sein de la ville intelligente.
31. III-3 Niveau de consentement algorithmique
(ou ubiquité consentie) d’une ville intelligente
La valeur du consentement algorithmique dépend en particulier de la
période sur laquelle on la mesure et du lieu d'implantation de la ville
intelligente. Par exemple, la demande en systèmes de vidéo
surveillance automatisés semble plus forte chez les habitants de
Songdo (Corée du Sud) que dans une ville connectée européenne.
C'est avant tout une question de culture, de perception des risques et
d'acceptation d'une technologie parfois intrusive.
33. III-4 Prospérité d’une ville intelligente
Prospérité et développement d’une ville intelligente :
Une ville intelligente ne peut prospérer, se développer, et augmenter
ses capacités algorithmiques que si, lorsque N[0,T] croît, alors C[0,T]
croît également.
Autrement dit, le développement et la prospérité d'une ville
connectée reposent sur les croissances conjuguées de son niveau
d'ubiquité N[0,T] et de son consentement algorithmique C[0,T] .