Académie des technologies

Le progrès technique ne saurait mériter son nom que s’il permet à l’homme de vivre mieux et de se réaliser plus complètement. L’éthique est donc naturellement au centre de la réflexion et de l’action de l’Académie des technologies. Dans cette contribution, des membres du comité d’éthique de l’Académie ont relevé un défi : analyser l’impact potentiel de ce qu’il est convenu d’appeler les Big Data sur dix secteurs d’activités humaines. Dans chacun de ces secteurs, ils cernent les écueils à éviter et proposent pour chacun d’eux une approche orientée vers la satisfaction des besoins de chacun et de la société dans son ensemble. Ils passent notamment en revue les réseaux sociaux, la publicité ciblée, le e-commerce, la santé, l’agriculture et l’alimentation, les services financiers, la sécurité, les politiques publiques.

Synthèse des recommandations

La technologie des Big Data modifie déjà et va modifier de plus en plus tous les aspects de notre vie quotidienne, notre façon de communiquer avec nous-même et avec les autres, et même certains aspects de notre façon de penser.

Destinées à faire de ces possibilités technologiques un progrès, les recommandations de l’Académie des technologies peuvent se résumer en soulignant l’importance de développer de façon très prioritaire des outils de régulation selon les grandes lignes qui suivent.

À chaque individu de rester propriétaire de sa vie privée , chacun évaluant le périmètre de cette dernière comme il le souhaite
Cela implique :

  • un accord préalable parfaitement informé sur l’utilisation qui sera faite de ses données et sur les conséquences de cette utilisation sur sa vie personnelle ;
  • un contrôle strict de la fusion entre les fichiers d’informations concernant des domaines d’activités différents : santé, finances, loisirs, géolocalisation, etc.
  • une traçabilité claire de l’utilisation des données depuis leur collection jusqu’à leur utilisation, seul moyen d’éclairer l’accord préalable ;
  • de développer des technologies permettant la consultation facile par chaque individu de toutes les données le concernant afin de permettre l’exercice du droit au secret, du droit à la rectification et du droit à l’oubli.

 

Le contrôle de la qualité des algorithmes

Cela inclut :

  • le contrôle de l’exactitude et de la représentativité des informations traitées ;
  • l’adaptation des algorithmes à la finalité de la recherche : simple classification utilisant la partie centrale de la courbe de Gauss , ou pris en compte d’événements exceptionnels ou individuels;
  • l’obligation de ne jamais utiliser les résultats obtenus par une approche statistique, à une situation individuelle ou exceptionnelle, sans passer par un expert capable de traduire en bénéfices/risques individuels des informations issues de l’analyse de données massives issues d’études de population ;
  • le rappel permanent , en particulier pendant la formation des utilisateurs, que la technologie des Big Data ne permet que d’observer des corrélations et que corrélation et causalité sont des concepts différents.

 

La mise en place de systèmes de vigilance sur l’utilisation éthique des résultats obtenus par la technologie des Big Data.

Cela concerne en particulier :

  • la tentation de confiscation de ces résultats au profit des plus puissants et des plus riches ;
  • le risque de favoriser, comme on l’observe déjà , des situations de monopole mondial échappant donc à la régulation des États, aboutissant à une confiscation des biens au profit de quelques-uns ;
  • le risque que la collecte et le traitement des données ne bénéficient pas d’abord à ceux qui en sont l’origine. Ceci est particulièrement important dans les domaines de la finance, de la santé et de l’agriculture ;
  • l’impact des Big Data et de l’intelligence artificielle sur le monde du travail. Il est essentiel, comme dans tous les domaines d’utilisation des technologies de l’information et de la communication, d’anticiper et de gérer les modifications de la répartition des tâches qui en résulteront et de mettre en place, en amont, les stratégies qui permettront d’éviter toute instrumentalisation des hommes.

 

Le contrôle de l’autonomie des outils utilisant l’intelligence artificielle

Le recours aux Big Data et à l’IA ne doit pas porter atteinte au principe fondamental de responsabilité et il doit donc toujours être possible de déterminer quel est l’humain qui est, au final, responsable de l’impact direct ou indirect de ces outils sur d’autres humains.

De nombreuses structures de régulation existent déjà, au premier rang desquelles, en ce qui concerne la France, la Cnil, pour faire face à ces considérations éthiques importantes. Il serait très utile de les coordonner et de réunir les efforts au sein d’un réseau national , favorisant les interactions entre les comités d’éthique autour des questions posées par toutes les technologies et pas seulement celles impliquées dans le développement des sciences du vivant. Ce réseau devrait avoir la possibilité, en plus de ses fonctions de conseil et de régulation, de souligner les domaines où des innovations technologiques sont nécessaires pour répondre aux problèmes éthiques posés par les technologies.

On n’oubliera pas le fait que les entreprises motrices en matière de Big Data et les réseaux d’informations sont mondiaux et que , en conséquence, les organismes nationaux de réflexion et de régulation doivent impérativement se coordonner et faire dans toute la mesure du possible front commun.