Avertissement : Souveraine Tech revendique par vocation une approche transpartisane. Seule nous oblige la défense des intérêts supérieurs de notre pays. Nous proposons ainsi un lieu de "disputatio" ouvert aux grandes figures actives de tous horizons. La parole y est naturellement libre et n'engage que ceux qui la prennent ici. Cependant, nous sommes bien conscients des enjeux en présence, et peu dupes des habiles moyens d'influence plus ou moins visibles parfois mis en œuvre, et dont tout un chacun peut faire l'objet, ici comme ailleurs. Nous tenons la capacité de discernement de notre lectorat en une telle estime que nous le laissons seul juge de l’adéquation entre le dire et l’agir de nos invités.

vendredi 8 décembre 2023

Alice Louis est fondatrice de Dicé, cabinet de conseil en gouvernance 360° de l’Éthique de l’IA, de la Conformité et de la Cyber.

1/ Vous ne faites pas partie de ceux qui pensent être « une génération spontanée ». Pouvez-vous nous expliquer pourquoi ?

Il s’agit avant tout de garder son sens critique à l’égard de « la scintillation fantastique des événements »¹ qui contribue, au mieux, à "la fabrication" numérique des opinions, au pire, à la post-vérité.

Penser la Vérité, en particulier scientifique, analyser, raisonner, chercher, inventer, nécessite de mettre en perspective les éléments utiles du sujet pour comprendre sa genèse, ses progrès, son histoire. L’histoire de la philosophie morale, de l’Art, des religions, du droit, des techno-sciences, etc. C’est bien la somme de ces mises en perspective qui permet d’appréhender une civilisation, une culture, de prendre conscience de son génie, de sa singularité, pour, in fine, exprimer toutes ses capacités à devenir acteur du progrès.

2 / Comment concevoir un progrès technique qui ne soit pas par essence prométhéen ?

En enseignant l’Éthique appliquée au Numérique qui joue alors un rôle de garde-fou.

3/ Pouvez-vous définir l’Éthique appliquée au numérique ? Par ailleurs, comment percevez-vous la fascination que suscite le développement fulgurant de l’intelligence artificielle générative ? ²

L'Éthique implique une forme de pensée qui se situe au-delà de morale. Elle exige de raisonner sur les principes et les valeurs y afférant, en les confrontant à la réalité des faits inhérents au contexte dans lequel ils s'inscrivent, et ce, afin de déterminer ce qui parait utile, approprié ou raisonnable de faire en vue de s’améliorer collectivement. Appliquée au numérique, dès lors qu’il est constaté que les outils « intelligents » transforment nos sociétés et soulèvent des questions qui mettent en jeu notre système de valeurs, il peut-être légitimement demandé si tout ce qui est techniquement possible de réaliser est souhaitable pour l’humanité ; n'en déplaise aux « terroristes courtois »³ et/ou autres addicts de l’IA.

L’Éthique pense au-delà de la satisfaction individuelle, prône la mesure, l’objectivité ainsi que la responsabilité en tant que pendant de la liberté. Appliqué au numérique, le premier des devoirs est celui de la transparence. Cela implique de rappeler que la technologie n’est pas neutre et que s’agissant, en particulier, de l’IA générative, certains effets de celle-ci ne sont pas encore maîtrisés. Tout un chacun n’est pas informaticien, ingénieur ou mathématicien pour comprendre la notion de biais algorithmiques, de reprise de contenus protégés par le droit d’auteur, ou de boîte noire générée par l’approche connexionniste qui est aujourd’hui dominante. Il y a donc un premier enjeu de formation de toutes les parties prenantes (les dirigeants, le grand public, les spécialistes et non-spécialistes).

4/ Nous connaissons l'éthique des usages. Vous indiquez qu’il y a d’autres catégories d’éthiques appliquées à l’IA. Pouvez-vous nous les expliquer ?


L’éthique des usages est fondamentale. Comme son nom l’indique, elle s’intéresse aux usages du numérique. En amont de celle-ci, l’éthique de la conception interroge la déontologie professionnelle des acteurs de l’IA, notamment, celle des développeurs. En aval, l’éthique dite « sociétale » réfléchit aux conséquences que les avancées technologiques produisent dans tous les domaines de notre vie (la santé, la justice, la défense, etc.) ainsi que sur l’organisation du travail.

Il est à préciser, s’agissant de l’utilisation de Chat GPT dans un cadre professionnel, que certaines entités ont déjà pris des mesures afin d’assurer la protection de leur patrimoine informationnel. Aussi, plus globalement, et pour mener à bien la collaboration "Homme- machine", il est recommandé de mettre en place des dispositifs efficients pour accompagner ce changement.

5/ Que pensez-vous de la règlementation européenne dans le domaine ?

Sous l’impulsion de la France, notamment, le législateur européen a élaboré des outils vertueux et structurants pour les entités, en particulier, dans les domaines de la Data (RGPD, DGA, etc.), de la Cybersécurité (Nis 2, CRA, etc.) et des SIA (DSA, AI Act en cours d’adoption).

Néanmoins, nous assistons à une inflation de la règlementation sans précédent, qui a pour effet de décloisonner les disciplines. Au-delà de la question exigeante de l’articulation des bases textuelles et de l’efficacité des qualifications juridiques retenues, les acteurs des secteurs public et privé doivent repenser leur stratégie en y intégrant un modèle de gouvernance "Data & IA" doté d’une organisation capable de piloter et coordonner des talents multi-spécialités.

6/ Recommandez-vous aux organisations d’implémenter des SIA ?

Dès lors que la technologie est utilisée comme un moyen au service d’une vision d’entreprise et/ou comme un outil d’aide à la décision, elle apporte d’innombrables opportunités. Divers cas d’usages le démontrent déjà, qu’il s’agisse de vision par ordinateur (reconnaissance de posture, détection d’objets, etc.), d’analyse prédictive (personnalisation de l’expérience client, analyse tendance des marchés, etc.), de recherche opérationnelle (optimisation de planning et de la chaîne de production, etc.) ou de traitement du langage naturel (traduction, chatbots, etc.).⁴

Si l’IA est, incontestablement, un formidable accélérateur d’innovation et de croissance, elle génère, concomitamment, de nouveaux risques d’atteinte aux actifs stratégiques des entités. En conséquence, la cybersécurité des systèmes est un sujet à traiter. Par ailleurs, un mauvais usage de l’IA peut contrevenir aux valeurs de l’entreprise et engendrer des risques d’ordre éthique et réputationnel. Ainsi, il y a un enjeu de gestion globale des risques.

7/ Concrètement, quels conseils pouvez-vous donner aux dirigeants et aux élus ?

Les organisations ont tout intérêt à faire auditer leurs SIA afin de s’assurer notamment que ces derniers soient sûrs. Comme indiqué, ci-avant, l’analyse 360° est à privilégier. C’est la seule approche/méthode qui offre une vision globale des risques ; accessoirement, elle est moins coûteuse. Au-delà d’un simple diagnostic de l’existant, l’audit permet de mettre en lumière les bonnes pratiques. Il est essentiel de capitaliser sur celles-ci pour conduire le changement et obtenir l’adhésion des équipes.

Enfin, l’Éthique est une composante essentielle de la démarche d’amélioration continue. De sorte qu’elle doit intégrer chaque étape de développement (analyse d’impact, sensibilisation, chartes utilisateurs, etc.) des activités qui encapsulent de l’IA.

8/ Vous défendez la déontologie professionnelle, en particulier, l’instauration d’un Serment du Numérique. Quels sont les éléments qui devraient y figurer ?

Rappelons que depuis le 1er janvier 2023, à l'issue de leur soutenance, les doctorants prêtent serment. Ce n’est donc plus seulement l’affaire des médecins ou des avocats. "Le Serment du Numérique" s’inscrit dans cette dynamique. Les principaux éléments de ce dernier sont débattus depuis 2017 grâce aux précieux travaux qui ont été initiés par les chercheurs du Massachusetts Institute of Technology et qui ont inspiré de nombreuses Chartes émanant des Institutions européennes notamment.

D’autres actions prioritaires peuvent être menées, notamment, en direction des auto-proclamations "IA labélisée/certifiée éthique" qui se multiplient. En outre, peut-être faut-il réfléchir à faire bénéficier les nouveaux acteurs de la gouvernance "Éthique & Sécure" (Délégué à l’éthique numérique, Juriste SIA/Cyber, Directeur de l’IA, etc.) du régime de protection applicable au Dpd/Dpo ou à celui de certaines professions réglementées.

9/ Comment articulez-vous la souveraineté et l’Éthique ?

Nous vivons dans un monde dominé par les liens d’allégeance.⁵ En matière de stratégie d’entreprise, l’Éthique et la souveraineté numériques permettent de protéger ses usagers, ses clients, ses partenaires ainsi que de garder la main sur sa technologie ; autrement dit, de rester indépendant.⁶ Cette dernière question est substantielle concernant le Cloud, eu égard au principe d’extraterritorialité des lois américaines.

Par ailleurs, dans un environnement VICA (NDLR : VICA est l'acronyme utilisé pour décrire l'environnement dans lequel évoluent les organisations : V pour Volatile, I pour Incertain, C pour Complexe et A pour Ambigu), et selon les secteurs d’activité concernés, ces éléments deviennent des prérequis, des facteurs de performance et/ou des gages de durabilité. Rappelons que « l’Europe représente le plus grand marché économique du monde »⁷. En l’espèce, il y a donc un double enjeu d’intelligence économique et de compétitivité.

10/ Pour conclure, sauriez-vous brosser le tableau d'une société ou d'une civilisation arrivée à l'apogée de son progrès technologique tout en parvenant à conserver ce qui fait que l'Homme est Homme, sa liberté, sa fragilité, sa finitude ?

De l’entertainment au « Meilleur des mondes possibles »⁸, le solutionnisme semble incarner une forme de "pensée désidérative". En adoptant une posture plus rationnelle et responsable⁹, il conviendrait de se demander si le projet techno-géo-politico-économique de l’IA forte notamment, qui englobe des principes et des valeurs qui sous-tendent un modèle de civilisation, est bien celui que nous souhaitons transmettre aux générations futures.

Dès lors, et à l’instar de ce que certaines entreprises et collectivités ont déjà brillamment réalisé, la France, à l’évidence, va devoir prendre en main son "techno-destin" sauf à se résoudre « à servir et à ne plus être libre ».¹⁰

¹ Etienne Klein citant Paul Valéry, l’Express, 30 novembre 2023, « La vie de l’esprit au péril de nos outils de communication »
² De l’intelligence artificielle (IA) ou des systèmes d’intelligence artificielle (SIA) ou de l’IA générative.
³ L’idéologie de la Silicon Valley
⁴ BPI : https://www.bpifrance-universite.fr/webinaires
⁵ Alain Supiot, « La gouvernance par les nombres », 4ème de couverture, Edition Fayard/Pluriel, 2020.
⁶ Smart
⁷ Jean-Noël Barrot citant le commissaire Thierry Breton.
⁸ Référence à Voltaire, « Candide ou l’Optimisme ». Edition Le livre de poche, 1995. Citation : « Tout va pour le mieux dans le meilleur des mondes possibles ».
⁹ CNIL « IA et libre-arbitre : sommes-nous des moutons numériques ? », 28 novembre 2013.
¹⁰ Référence à Etienne de la Boétie, « Discours de la servitude volontaire », Edition Folio, 2008. Citation :« Soyez résolus à ne plus servir, et vous voilà libres ».