Fondation Res P
L’informatisation de nos sociétés et ses enjeux

22/02/2021

Cloud GAFAM Informatique Intelligence artificielle Numérique Recherche

Intervention de Pierre Paradinas, docteur en informatique, président de la Société informatique de France, professeur au Conservatoire national des arts et métiers, lors du colloque "La politique de Recherche, enjeu pour l'avenir" du jeudi 26 novembre 2020

Merci d’avoir invité la Société informatique de France à venir expliquer un certain nombre de choses autour de l’informatisation de nos sociétés et ses enjeux.

Même si, selon M. Bréchet, tout le monde scientifique – sciences humaines et sociales comme sciences dures – fait de l’intelligence artificielle, le représentant de la Société informatique de France a quelque légitimité à vous parler d’intelligence artificielle.

Plutôt que de son « informatisation », je préfèrerais parler de la « numérisation » de notre société. Comme toute technologie elle a à la fois des aspects positifs et d’autres qui peuvent être vus comme néfastes. Par exemple, les mêmes réseaux sociaux qui nous permettent de retrouver en deux clics une personne perdue de vue depuis des décennies peuvent pousser au suicide les victimes d’un cyberharcèlement.

Pour réfléchir à tous ces aspects il faut observer attentivement ce qui constitue la numérisation qui repose sur les sciences informatiques.

Cette numérisation, cette informatisation, est omniprésente dans nos sociétés. Il n’y a pas une seule contribution présentée aujourd’hui qui n’ait évoqué la numérisation, l’informatisation, sans compter celles qui en prônaient le sous-ensemble qu’est l’intelligence artificielle. On retrouve cette numérisation à tous les niveaux de notre société, dans des projets, des applications, des réalisations, dans le domaine de l’agriculture connectée, etc. Elle touche même des domaines complètement nouveaux comme l’art qui, aujourd’hui, ne peut pas ne pas être influencé par l’informatisation, ne pas l’utiliser. D’ailleurs, pendant l’actuelle pandémie, nous avons tous utilisé très largement des outils informatiques, que ce soit pour participer à la lutte contre la contamination ou pour organiser des événements comme celui que nous sommes en train de vivre grâce à des solutions numériques.

Derrière ces solutions numériques on découvre l’informatique elle-même.

Avant de parler des algorithmes et des données, les deux piliers importants du monde de l’informatique et de l’intelligence artificielle, j’évoquerai très rapidement deux autres domaines importants.

Pour parler des langages je rebondirai sur ce que disait Cédric Villani à propos de l’école française des mathématiques. De la même façon qu’il y a une école française des mathématiques, il y a une école française des langages informatiques et de leurs théories qui est mondialement reconnue. À tel point qu’un langage un peu ancien, Ada (du nom de Ada Lovelace qui fut une des premières programmeuses), qui était promu par le département de la Défense américain, a été créé en réalité par des chercheurs français . On retrouve cette compétence française chez tous les grands constructeurs américains, dans les GAFAM qui n’ont pas attendu l’intelligence artificielle pour recruter à tour de bras des informaticiens français. Aux postes-clés de ces entreprises, que ce soit dans les services d’engineering ou dans la R&D, on rencontre fréquemment nos concitoyens ou des personnes qui ont fait leurs études en France. Donc, au même titre qu’il y a une prestigieuse école des mathématiques il y a aussi une grande école française d’informatique.

J’évoquerai ensuite le silicium, ou les machines, un dossier que connaît très bien notre ancien ministre, Jean-Pierre Chevènement, puisque la France a tenté dans les années 1980 de sauvegarder une industrie du silicium. Cela a été long et difficile. Il ne subsiste que quelques entreprises qui illustrent cette volonté de garder une hégémonie sur un certain nombre de constructions de matériels. La société ARM, d’origine anglaise, qui a été très largement soutenue par la Commission européenne, est peut-être en train de rebattre les cartes pour proposer des architectures novatrices pour les ordinateurs mais aussi pour les serveurs (Cloud). Mais globalement, à part sur certains domaines extrêmement pointus, la France et l’Europe ont un peu perdu pied sur ce type de technologies.

Je reviens aux algorithmes et aux données.

On a coutume de voir dans les algorithmes quelque chose de « moderne ». Mais les algorithmes existent depuis 5 000 ans !
Un algorithme peut être exécuté par une machine mais on le retrouve aussi dans l’exécution d’un processus. Aujourd’hui, quand les brigades du ministère de la Santé appellent des personnes supposées être des cas-contacts du Covid, elles exécutent un algorithme.
Il faut se méfier d’expressions comme le « règne des algorithmes » qui donnent l’impression que ce sont les algorithmes qui nous maîtrisent, nous contrôlent. C’est pourquoi il faut être précis. Les algorithmes sont plus ou moins complexes, plus ou moins intelligents quand il s’agit d’algorithmes d’intelligence artificielle.

Quand on parle des algorithmes d’intelligence artificielle, il faut remarquer quelques points autour d’eux et à côté d’eux :
Ces algorithmes peuvent être pleins de biais. Par exemple, entraînés pour traiter des CV, les algorithmes vont reproduire les actuels biais de genre ou les biais socio-professionnels, au lieu d’être complètement ouverts et transparents.

Le caractère inexplicable de certains algorithmes pose d’énormes problèmes dès lors que l’on veut les utiliser dans certaines applications. Embarqueriez-vous à bord d’un avion qui vole grâce à des applications dont on ne peut expliquer pourquoi elles fonctionnent ?

Comme tous les autres systèmes numériques, les algorithmes peuvent être sensibles à des attaques qui peuvent mettre en jeu la sécurité des systèmes qui les utilisent.

Ces algorithmes fonctionnent avec des données. La collecte de données, primordiale, touche des problèmes difficiles liés à la protection de la vie privée, à la protection des données personnelles.

C’est le cas, par exemple, de l’application « Tous anti-Covid ». La communauté scientifique a fait des propositions pour concevoir un système capable de tracer les contacts de personnes ayant rencontré d’autres personnes atteintes de la Covid. Ces travaux ont suscité en son sein même des débats extrêmement tendus, compliqués, sur les tenants et les aboutissants de telle ou telle solution. Nous avons donc besoin d’une médiation pour être capables d’expliquer ce qui se passe vraiment dans ce type d’application. Est-elle bénéfique à l’ensemble de la population parce qu’elle permet de détecter des cas de personnes contaminées par la Covid ? Est-elle dangereuse pour la vie privée puisque dans certaines conditions elle va donner accès à des données privées ? Il est extrêmement difficile de répondre à cette question. Cela demande un travail énorme pour les non-spécialistes et un investissement considérable de ce que j’appellerai « le politique », les personnes en charge de mettre en place, de déployer ce type d’application. Cette application a-t-elle un intérêt pour soigner et protéger l’ensemble de la population ? Est-elle une menace pour la vie privée ? Ces questions sont si difficiles que le débat ne peut être tranché de manière simple au sein de la communauté scientifique. Moi-même, je ne peux y répondre simplement. La décision est extrêmement complexe.

D’autre part, ces questions se posent dans une dimension de temps où les choses ne sont pas statiques. Quand on déploie une application aujourd’hui, des scientifiques continuent à travailler pour l’améliorer tandis que d’autres cherchent à savoir si en la cassant ou en la détournant on ne risque pas de porter atteinte à la vie privée. La recherche scientifique demande du temps. Or, là, on n’a pas le temps d’attendre trois ans pour construire l’application qui répondrait bien à ces deux questions. C’est aujourd’hui qu’on en a besoin. Les applications se déploient à une vitesse industrielle alors que le débat scientifique lui-même n’est pas complètement clos parce que des questions difficiles restent ouvertes.

Il a été dit que nous avons beaucoup de données en France dans le domaine de la santé. Mais ce qui est extrêmement gênant, c’est que ces données ont été hébergées par une société américaine. Je parle du Health data hub ou Plateforme des données de santé (PDS), qui a été hébergé par Microsoft. Je vous invite à aller voir la recommandation de la CNIL qui « souhaiterait, eu égard à la sensibilité des données en cause, que son hébergement et les services liés à sa gestion puissent être réservés à des entités relevant exclusivement des juridictions de l’Union européenne ». Il est en effet important que le politique veille à ce que nos données ne soient pas livrées à un certain nombre d’entreprises, telles les GAFAM, qui aujourd’hui disposent d’une forme de monopole dans ce domaine. Je pense qu’il faut renforcer un certain nombre de recommandations, voire légiférer pour contrecarrer cette suprématie. Je ne veux pas dire qu’il faut se ruer sur n’importe quel projet au nom d’une prétendue souveraineté, comme cela a déjà été le cas dans le monde du numérique où des grandes entreprises françaises et européennes ont englouti des dizaines, voire des centaines de millions d’euros pour créer de nouveaux produits sans aboutir à des solutions industriellement viables.

Yves Bréchet

Merci beaucoup pour cet exposé sur une discipline qui pose des problèmes totalement nouveaux qui relèvent à la fois de la science et du politique.

La dernière intervention sera celle de Didier Roux qui, de par sa vie professionnelle, a œuvré à la fois dans les domaines de la recherche fondamentale, de la recherche dans une grande entreprise et de la création d’entreprise, sous forme de start up.

-----

Le cahier imprimé du colloque "La politique de Recherche, enjeu pour l'avenir" est disponible à la vente dans la boutique en ligne de la Fondation.


Newsletter

Facebook Twitter Rss