Asma Mhalla est maître de conférences à Sciences Po, où elle enseigne les enjeux politiques de l'économie numérique. 

1/ La souveraineté, c'est le pouvoir suprême. Qui l'exerce aujourd'hui et comment ?

Plutôt que comme un pouvoir suprême, avec les dérives totalisantes que cela peut laisser supposer, je définirais la souveraineté comme la capacité d’un peuple à s’auto-déterminer selon des règles du jeu et une architecture politique donnée (démocratie représentative, Etat de droit, …).

Dans les démocraties représentatives comme la France ce sont les « élus » qui exercent ces prérogatives. Les « élus » oublient d’ailleurs souvent cette notion de « délégation » momentanée du pouvoir. D’ailleurs, la Déclaration des Droits de l’Homme et du Citoyen n’utilise pas le mot « élu » mais celui de « représentant ». Cela change tout dans l’approche de l’exercice du pouvoir. La représentation suppose en effet une délégation du pouvoir, une responsabilité et une transparence forte dans les mécanismes de prises de délibération, de votes, … Or l’exercice politique actuel n’a jamais été autant caractérisé que par son opacité (Etats d’urgence divers, gestion confidentielle de la crise sanitaire, …).

Sur fond de crise idéologique outillée de médias sociaux qui ont horizontalisé et polarisé la parole publique, le modèle représentatif est en crise. Celui-ci est certes légal mais est perçu comme de moins en moins légitime car ne représentant plus la volonté du « peuple ». Mais qu’est-ce que le « peuple » dans une société à ce point fracturée ? Ou plus exactement, comment refaire société autour d’un projet commun ? Autrement dit, comment retrouver des mécanismes de débat collectif, de représentation légitime et de consensus partagé pour refonder la notion de « souveraineté », pour que celle-ci retrouve un sens. Vaste question ….

2/ La démocratie sous le règne de la vidéo-surveillance et du QRcode, appelle-t-on cela encore démocratie ?

La démocratie est une modalité, parmi d’autres, de l’exercice du pouvoir.

La vidéo-surveillance - ou plutôt le risque qu’elle porte en elle à savoir un espace public quadrillé de logiciels de reconnaissance faciale – vient percuter en réalité l’esprit de l’Etat de droit français et certaines des libertés fondamentales qu’il défend (liberté de circuler, de manifester, le droit à la vie privée, …).

Dans l’Etat de droit français, il existe un principe cœur : le principe de proportionnalité. L’idée est de s’assurer que l'atteinte portée à un droit fondamental n'est pas disproportionnée. Dans les velléités politiques actuelles d’expérimentation généralisée, il est clair que ce principe parait secondaire dans une ivresse de solutionnisme technologique à tout va sans réflexion éthique, politique sérieuse.

Là où la démocratie est heurtée c’est dans le fait qu’il n’y ait pas de débat public loyal et sérieux organisé sur les choix de société que l’on souhaite collectivement faire. Les Français souhaitent-ils réellement entrer dans un régime techno-sécuritaire qui, en plus de ne pas forcément assurer la sacro-sainte sécurité, oblige à une transparence permanente de tout et de tous ? Personne n’en sait rien dans le fond … La rhétorique sécuritaire ambiante est aussi une fabrication politique justifiant une certaine gouvernance par la peur.

3/ Le recours à l'algorithme signe-t-il selon vous la consécration ou la défaite de l'intelligence humaine ?

Ni l’un ni l’autre. Ou plutôt, l’un et l’autre.

L’ « algorithmie » et plus largement la data science sont des outils qui peuvent apporter des avancées réellement considérables dans le champ du savoir et de la connaissance et de ce fait, une forme de progrès, à comprendre ici comme notre capacité à appréhender le monde qui nous entoure. Dans le champ de la recherche, cela peut être d’une aide précieuse. Par ailleurs, les architectures ouvertes ont déjà permis, notamment dans les pays en développement, de mettre en commun leur ressources pour trouver des traitements par exemple contre la tuberculose, champ qui avait été totalement déserté par les big pharma car non rentable.

En revanche, appliqué à des champs très sensibles comme la police ou la justice prédictive, cela pose de gigantesques questions éthiques et politiques : les algorithmes ne sont dans le fond que d’énormes séries statistiques reposant sur des jeux de données issus du passé et dont les arbitrages encodent les opinions des humains qui les ont conçus (Cathy O’Neil est probablement celle qui l’explique le mieux). Résultat : une efficacité approximative (le nombre de faux positifs des logiciels de reconnaissance faciale l’atteste), un renforcement des discriminations préalablement observées, une déresponsabilisation progressive des agents humains (policiers, gendarmes, juges, …), une automatisation des services qui ne permet aucune négociation ou recours en cas d’erreurs a priori, une prise en compte encore très balbutiante de la fracture numérique, etc. Bref, une dilution du libre-arbitre et potentiellement à terme, une forme de justice sociale.

4/ Quelle considération avez-vous du corps humain à l'ère de l'Homo Numericus ? Support de technologies, objet négociable (via les données) ou temple sacré ?

Temple sacré mais chahuté. Le « quantified self », qui va revenir au galop avec l’avancée de l’IoT et maintenant des métaverses, est en train de faire du corps et de l’esprit humain, une extension du domaine du mercantilisme ambiant et de ce fameux capitalisme de surveillance cher à Shoshana Zuboff.

Cela procède aussi d’une mécanique bien huilée : l’expérience apportée est telle que l’acceptabilité de ce type de technologies ne pose souvent pas vraiment question, l’expérience anesthésie toute réflexion politique distancée. L’accoutumance, d’abord par les usages et le confort du quotidien, s’installe progressivement. Or les nouvelles technologies sont souvent à double usage : on commence par les usages domestiques pratiques pour finir par des usages politiques et policiers plus problématiques.

Pour trouver une symbiose entre technologie et humanité, encore faudrait-il que chacun s’empare de ces sujets, que cela fasse l’objet de discussions collectives. Autrement, à bas bruit et de façon imperceptible, nous allons devenir les extensions de nos machines et non l’inverse….

5/ Croyez-vous dans l'émergence d'Etats plateformes ou plutôt dans l'acquisition par les plateformes de prérogatives de puissance publique ?

De mon point de vue, c’est davantage un enchevêtrement hybride et même une forme de continuum fonctionnel entre Etats et plateformes privées. Et c’est au cas par cas.

Les Etats, particulièrement exsangues et pauvres en compétences techniques, sur-traitent de nombreux projets, fonctionnalités, etc… aux entreprises privées. On peut alors voir l’Etat comme un marché parmi tant d’autres dont la rentabilité peut être intéressante pour les fournisseurs de services. Avec la conséquence négative de maintenir l’Etat en dépendance vis-à-vis des acteurs privés, français ou étrangers, qui maitrisent le mieux ces solutions. La question de la souveraineté technologique est donc bien plus large que la simple question de la nationalité de l’entreprise.

Sur le plan géopolitique, les USA sont entrés dans un cycle de consolidation de leur leadership particulièrement mis à mal, notamment par la Chine. Entre les deux blocs, la course aux données mondiales et à l’IA est lancée depuis de nombreuses années (le plan chinois date du début des années 80). De ce point de vue, les GAFAM sont bien les bras armés des USA dans cette lutte géopolitique servant les intérêts américains, au service des US. L’Europe, avec l’Afrique, est l’un des terrains de confrontation des deux puissances.

6/ On critique beaucoup les GAFAM, mais si la France avait créé l'un de ces géants, sommes-nous tout à fait sûr que ce dernier n'aurait pas connu les mêmes dérives ? En d'autres termes, est-ce selon vous une question de vision ou de gigantisme ?

La volonté de gigantisme est une vision en soi.

Même si on avait eu à faire face à des dérives similaires, la France (ou plutôt l’Europe pour des effets d’échelle impossibles à atteindre au niveau de la France seule), aurait eu la marge de manœuvre pour réglementer dans le cadre de son droit et de sa loi ses propres technologies.

Là, nos usages et nos données sont captés par des entreprises américaines de droit américain dans un contexte d’extraterritorialité du droit. L’UE passe son temps à essayer de se mettre d’accord pour réparer à la marge un système qui n’est de toute façon pas conçu pour défendre ses intérêts. Il y a eu quelques victoires normatives symboliques (RGPD, les DSA et DMA en cours) mais ces textes ne vont pas assez loin et ne permettent pas de rééquilibrer le rapport de force : l’Europe reste un marché de consommateurs.

7/ Quelles solutions concrètes préconisez-vous pour que la France occupe enfin la place qu'elle mérite dans la guerre froide technologique que nous vivons ?

Commencer par sortir d’incantations trop radicales. La souveraineté technologique oui bien sûr mais pour cela il faudra une stratégie pivot en deux temps : à court et long terme.

Nous pourrions accepter d’être plus raisonnable et réaliste dans les ambitions et envisager un modèle « mixte » de souveraineté qui s’appuie sur des domaines de collaboration utiles avec les Big Tech tout en préservant les actifs stratégiques et les fonctions régaliennes via une stratégie industrielle micro-segmentée et une gouvernance de la donnée qui passe sous contrôle.

A court terme, collaborer avec les géants technologiques sur des projets qui portent un intérêt général n’est pas une mauvaise chose en soi : un peu comme la Chine, nous pourrions en profiter pour faire du transfert de technologies et de compétences massif afin de remonter la chaine de valeur en ayant une vision sur 20 – 30 ans. En parallèle, cela suppose de muscler sa propre vision et une véritable politique industrielle du numérique : droit de la concurrence national et communautaire qui aujourd’hui empêche la création de grands groupes, commande publique, identification des quelques pans très stratégiques de l’industrie numérique et y concentrer les efforts en stoppant le « saupoudrage » des fonds disponibles sur une multitude de petits acteurs, privilégier un positionnement de niche sur des segments de marché où nous avons des avantages compétitifs : mobilité, spatial, biotech, robotique de pointe, ….

Le financement reste un point de douleur important en France : fonds alloués modestes, culture du risque des investisseurs compliquée, un marché unique européen théorique. Il va être urgent d’arrêter de saupoudrer les startups tous secteurs confondus en fonction des buzzwords et des polémiques du moment pour ré-orienter radicalement les mécanismes de financement et les fonds déjà alloués de la French Tech (1,2 milliard d’euros) vers la deeptech et les niches stratégiques et nouer des programmes de recherche public-privé.

Sur le plan diplomatique, il ne faudra pas non plus hésiter à jouer à armes égales en instaurant proactivement des mesures de réciprocité et de protection non pas des frontières mais de nos actifs stratégiques (c’est d’ailleurs l’un des points les plus problématiques du droit communautaire). A échelle nationale, la France est toujours un Etat souverain. Dépendant certes mais souverain : strictement rien du point de vue du droit ne l’empêche, comme la Russie l’a fait avec Twitter, d’arrêter une collaboration ou de stopper un service si cela lui chante ! En assumant les conséquences que cela suppose mais c’est aussi cela le courage politique si l’on souhaite vraiment sortir du statu quo….

En filigrane, cela signifie que nous retrouvions une main bien visible de l’Etat. De surcroit, ce serait une occasion formidable pour repenser véritablement l’Etat, son rôle et ses missions. A ce stade il ne s’agit en effet plus de restaurer la confiance en l’Etat mais rebâtir l’Etat lui-même.

8/ Quel est votre avis sur l'hébergement des données de santé des Français par Microsoft ? Les pouvoirs publics se sont engagés à le leur retirer. Mais reprend-on sérieusement un secret après l'avoir confié ?

Avoir confié à Microsoft le HDH est évidemment problématique pour des raisons industrielles et politiques. Mais cela me ramène toujours à mon sujet : qu’est-ce que l’Etat ? En France, l’Etat n’est plus stratège depuis longtemps mais fait du management de programme technocratique. Il a donc cherché, comme tout bon chef de projet qui se respecte, la meilleure offre du marché nécessitant le moins d’efforts possibles : efficace, rapide, clé en main. De fait, les offres américaines sont meilleures en matière de services et de performance immédiate que les offres françaises. Mais l’Etat ne pourra jamais bâtir d’industrie numérique s’il recule indéfiniment devant la tâche. Chaque choix est un renoncement. A quoi sommes-nous prêts à renoncer à court terme ?

Pour répondre à la deuxième partie de la question : nous sommes entrés dans une phase de « damage control ». Nous avons intérêt à trouver une solution au plus vite avant que la situation n’empire car il s’agit des données les plus sensibles qui soient avec des brèches potentielles énormes en matière de secret médical et de manipulation de données à des fins diverses non consenties librement (politiques, médicales, commerciales, …).

9/ Voyez-vous un besoin personnel ou humain auquel vous êtes sensible, et auquel la technologie n'aurait pas encore répondu ?

La dimension psychologique et émotionnelle des rapports interpersonnels, l’unicité et la complexité de chaque interaction humaine sont encore un angle relativement mort de l’IA. Et même si je n’y crois pas trop puisqu’on y travaille déjà d’arrache-pied, j’espère que ce seuil ne sera pas atteint : sans vouloir faire de jeu de mots discutables, c’est bien là l’une des rares singularités qui nous reste …

10/ Pouvez-vous imaginer à quoi ressemblera l'Humanité dans 100 ans ?

Dans quel état sera l’Humanité dans 100 ans …. Je ne peux en avoir aucune idée car bien que nous parlions ici de technologie, l’autre variable fondamentale est l’écologie. Si l’histoire se répète, ce qui est une grande probabilité, nous serons probablement sortis de la 3ème Guerre Mondiale et les nouvelles dynamiques socio-économiques, réinstallées. Dans l’intérêt de qui et sous quelle forme politique ? Tout dépendra de celui qui sera sorti vainqueur du conflit, de son narratif, de son idéologie.