Publications de l'Académie

Big Data : Questions éthiques

Contribution de l'Académie des technologies

Le progrès technique ne saurait mériter son nom que s’il permet à l’homme de vivre mieux et de se réaliser plus complètement. L’éthique est donc naturellement au centre de la réflexion et de l’action de l’Académie des technologies. Dans cette contribution, des membres du comité d’éthique de l'Académie ont relevé un défi : analyser l’impact potentiel de ce qu’il est convenu d’appeler les Big Data sur dix secteurs d’activités humaines. Dans chacun de ces secteurs, ils cernent les écueils à éviter et proposent pour chacun d’eux une approche orientée vers la satisfaction des besoins de chacun et de la société dans son ensemble.  Ils passent notamment en revue les réseaux sociaux, la publicité ciblée, le e-commerce, la santé, l’agriculture et l’alimentation, les services financiers, la sécurité, les politiques publiques.

 

Sommaire

Synthèse et recommandations (Louis Dubertret, Alain Bravo)

« Données massives » et « apprentissage en profondeur » (Gérard Sabah)

Du désir d’extimité à la liber té sur veillée des algorithmes (Serge Tisseron)

Big Data et individualisation de l’information (Sébastien Broca)

Big Data et commerce : à qui appartiennent nos données à caractère personnel ? (Yves Bamberger)

Données massives et santé : les questions éthiques (Pierre-étienne Bost)

Big Data agriculture et alimentation (Alain Boudet et Pierre Feillet)

Big Data et finance (Hélène Ploix)

Big Data et sécurité (Jean-Pierre Dupuy et François Lefaudeux)

Big Data — impacts et limites en matière de découvertes scientifiques et de politiques publiques  : l’importance de la causalité (Michèle Sebag)

Fiabilité des Big Data : fragilités et limites des algorithmes (Pierre Perrier et François Lefaudeux)

Les dérives idéologiques du Big Data (Jean-Pierre Dupuy)   

Synthèse des recommandations

La technologie des Big Data modifie déjà et va modifier de plus en plus tous les aspects de notre vie quotidienne, notre façon de communiquer avec nous-même et avec les autres, et même certains aspects de notre façon de penser.

Destinées à faire de ces possibilités technologiques un progrès, les recommandations de l'Académie des technologies peuvent se résumer en soulignant l’importance de développer de façon très prioritaire des outils de régulation selon les grandes lignes qui suivent.

À chaque individu de rester propriétaire de sa vie privée , chacun évaluant le périmètre de cette dernière comme il le souhaite

Cela implique :

-      un accord préalable parfaitement informé sur l’utilisation qui sera faite de ses données et sur les conséquences de cette utilisation sur sa vie personnelle ;

-      un contrôle strict de la fusion entre les fichiers d’informations

concernant des domaines d’activités différents : santé, finances, loisirs, géolocalisation, etc.

-      une traçabilité  claire de l’utilisation  des données  depuis leur

collection jusqu’à leur utilisation, seul moyen d’éclairer l’accord préalable ;

-      de développer des technologies permettant la consultation facile

par chaque individu de toutes les données le concernant afin de permettre l’exercice du droit au secret, du droit à la rectification et du droit à l’oubli. 

Le contrôle de la qualité des algorithmes

Cela inclut :

-      le contrôle de l’exactitude et de la représentativité des informa- tions traitées   ;

-      l’adaptation des algorithmes à la finalité de la recherche : simple

classification utilisant la partie centrale de la courbe de Gauss , ou pris en compte d’événements exceptionnels ou individuels ;

-      l’obligation de ne jamais utiliser les résultats obtenus par une

approche statistique, à une situation individuelle ou exception- nelle, sans passer par un expert capable de traduire en bénéfices/

 risques individuels des informations issues de l’analyse de données massives issues d’études de population ;

-      le rappel permanent , en particulier  pendant la formation  des

utilisateurs , que la technologie des Big Data ne permet  que d’observer des corrélations et que corrélation et causalité sont des concepts différents.

La mise en place de systèmes de vigilance sur l’utilisation éthique des résultats obtenus par la technologie des Big Data.

Cela concerne en particulier :

-      la tentation de confiscation de ces résultats au profit des plus puissants et des plus riches ;

-      le risque de favoriser, comme on l’observe déjà , des situations

de monopole mondial échappant donc à la régulation des États, aboutissant à une confiscation des biens au profit de quelques-uns ;

-      le risque que la collecte et le traitement des données ne bénéfi-

cient pas d’abord à ceux qui en sont l’origine. Ceci est particuliè- rement important dans les domaines de la finance, de la santé et de l’agriculture ;

-      l’impact des Big Data et de l’intelligence artificielle sur le monde

du travail. Il est essentiel, comme dans tous les domaines d’utili- sation des technologies de l’information et de la communication, d’anticiper et de gérer les modifications de la répartition des tâches qui en résulteront et de mettre en place, en amont, les stratégies qui permettront d’éviter toute instrumentalisation des hommes .

Le contrôle de l’autonomie des outils utilisant l’intelligence artificielle

-      Le recours aux Big Data et à l’IA ne doit pas porter atteinte au principe fondamental de responsabilité et il doit donc toujours être possible de déterminer quel est l’humain qui est , au final , responsable de l’impact direct ou indirect de ces outils sur d’autres humains.

De nombreuses structures de régulation existent déjà, au premier rang desquelles, en ce qui concerne la France, la Cnil4, pour faire face à ces considérations éthiques importantes. Il serait très utile de les coordon- ner et de réunir les efforts au sein d’un réseau national , favorisant les interactions entre les comités d’éthique autour des questions posées par toutes les technologies et pas seulement celles impliquées dans le développement des sciences du vivant. Ce réseau devrait avoir la possi- bilité, en plus de ses fonctions de conseil et de régulation, de souligner les domaines où des innovations technologiques sont nécessaires pour répondre aux problèmes éthiques posés par les technologies.

On n’oubliera pas le fait que les entreprises motrices en matière de Big Data et les réseaux d’informations sont mondiaux et que , en consé- quence, les organismes nationaux de réflexion et de régulation doivent impérativement se coordonner et faire dans toute la mesure du possible front commun.

Télécharger Big data : questions éthiques. Contribution de l'Académie des technologies, 2019