Cité de L’hyper-contrôle, Marseille à la pointe ?

Toujours annoncée à la pointe de nombreux domaines, Marseille n’en reste pas moins à la traine en général, ce que l’on essaie de cacher par la stratégie de l’annonce. Or ici, l’annonce faite, doit être prise au sérieux.

Ainsi, nous apprenons dans le journal le Monde daté du 8 décembre 2017⁽¹⁾ , que sera mis en place à Marseille un algorithme d’analyse de données urbaines, en vue de prévenir les risques de troubles à l’ordre public. Sous le chapeau de la modernité bienfaisante, on apprend que seront passées au crible les tendances des réseaux sociaux, les caméras de vidéosurveillance, les informations remontantes de tous individus informés… Cette approche via la sécurité est présentée à tort comme le pilier fondateur d’une ville du XXIe qui veut se prévaloir du label « Smart city »⁽²⁾. Dans un deuxième temps, il est annoncé que des algorithmes de « Machine learning » seront mis en place pour augmenter la pertinence des analyses faites à partir de données largement collectées.

Loin de toutes critiques sur cette technique qui peut se révéler un outil formidable dans les TIC⁽³⁾ et dans la recherche scientifique, le propos qui vient ci-dessous, s’intéresse et questionne l’usage de la technique qui peut aller bien au-delà de la définition de la ville en intelligence, où ici l’intelligence pourrait se transformer au sens anglais d’information au titre du renseignement.

Il apparait dans l’article du monde que la phase allant de 2018 à 2020, sera celle de collecte des données pour réaliser l’apprentissage de l’algorithme de « machine learning ». C’est-à-dire, une période où seront catalogués les évènements, regroupements, comportements, habillements, et leurs corrélations, porteurs de sens qu’ils soient dangereux, neutres, festifs…. Cette phase d’apprentissage sera surement initiée par d’autres évènements déjà catalogués dans d’autres villes françaises ou étrangères. C’est-à-dire qu’un même apprentissage pourrait générer une même sortie d’analyse (sans considérer la spécificité locale et en créant une uniformité de décision) sur le tableau de bord de ceux qui auront à agir, ici la police municipale.

Je pose ici la première question, comment seront entrainés les algorithmes avec quels types de données. Un regroupement de personnes âgées vêtues de jogging et de casquettes à visière, menant en laisse des chiwawas sera-t-il considéré comme dangereux ? Qu’en est-il des cas pour lesquels, il n’y aura pas eu de base de connaissance de référence, c’est-à-dire de cas référencés préalablement à son usage ? Que sortira le tableau de bord et quel sera le comportement des agents qui avec le temps auront laissé leur savoir-faire opérationnel à un algorithme ? Et jusqu’à quel point la décision produite sera-t-elle contestable par ceux qui devront agir ?

Une fois le système mis en place quelle sera l’indépendance du politique quant au concepteur du système. L’arroseur qui veut contrôler sa population, ne serait-il pas in fine l’arrosé ? On pourrait très bien imaginer que la technique est déployée comme un leurre. Le propos n’est peut-être pas de contrôler les citoyens mais plutôt de contrôler ceux qui veulent mettre en place ces dispositifs. L’hyper-contrôle prend son sens ici, dans la hiérarchie classique du contrôlant au contrôlé, il y a un nivellement des deux par l’algorithme qui est contrôlé par celui qui l’a créé et l’a déployé ici « inéo digital ». L’hyper-contrôle nous ferait glisser dans une ère de non contrôle institutionnel (XXIe) qui fait suite à la période de technologies de contrôle de l’opinion(XXe), du bas de la pyramide de la société.

C’est un cheval de Troie, intégré dans le contrôle des forces de l’ordre, où le paramétrage de cette « intelligence » impactera la structure des décisions dans une fonction régalienne et qui progressivement l’épuisera. Je pose ici la deuxième question, qui ou quelle institution sera le garant que la citée ne chavire pas dans la dictature du numérique et des concepteurs de ces algorithmes ?

On oublie surement que la ville intelligente est avant tout la somme des intelligences individuelles des citoyens. Substituer ce collectif par une intelligence artificielle (intelligence au sens renseignement) pour contrôler le comportement collectif et donc individuel nous fait arriver à un moment de césure. Les citoyens désireux de préserver leur liberté, doivent s’opposer à la mise en place de telles solutions, qui sous le prétexte d’efficience et de palliatif au déficit d’agents de police va nous pousser vers un autre monde qui pourrait s’approcher de celui décrit par Georges Orwell ou celui d’un contrôle centralisateur ou chaque individu surveille son voisin. Les citoyens doivent le savoir et doivent pouvoir l’accepter ou le refuser en connaissance de cause.

Nous sommes donc face à l’impérieuse nécessité d’informer les citoyens pour qu’ils puissent se prononcer au travers d’une consultation locale avant la mise en place d’un tel système au sein de la citée. Cela posera aussi la question de considérer l’algorithme comme un citoyen à part entière car ainsi utilisé, il participerait à la chaine de la décision qui va régir la cité. Cette décision est donc lourde de conséquences et il semblerait que les décideurs qui veulent déployer cet outil n’ont pas considéré l’ensemble de ces différents points.

Cédric Matthews, citoyen pour une République moderne

1. http://www.lemonde.fr/smart-cities/article/2017/12/08/a-marseille-le-big-data-au-service-de-la-securite-dans-la-ville_5226528_4811534.html

2. L'expression « ville intelligente », traduction de l'anglais Smart City, désigne une ville utilisant les technologies de l'information et de la communication (TIC) pour « améliorer » la qualité des services urbains ou encore réduire ses coûts.

3. Technologies de l'information et de la communication