Jérôme

Béranger

Co-fondateur et Chief Scientific Officer

 

ADEL

(Algorithm Data Ethics Label)

De l’éthique dans l’exploitation et le traitement des données numériques

 

retour au sommaire

Pouvez-nous rappeler l’objectif du projet ADEL - Health ?

 

Le projet ADEL - Health souhaite fournir un cadre de réflexion et de bonnes pratiques éthiques sur l’élaboration, la mise en place et l’usage des données numériques de santé afin de mieux les encadrer, les contrôler et les suivre au sein des entreprises. L’objectif est de donner aux acteurs concernés par ces Big Data, les premières clés de lecture pour leur permettre d’acquérir, d’une part, une approche éthique des NTIC, et d’autre part, de définir un cadre humain qui gère l’intérêt général et les droits individuels des données à caractère personnel. Le label ADEL - Health permet d’esquisser un nouvel espace de confiance
des données de santé
en apportant du sens et de la sécurité tout le long du cycle de vie d’une donnée numérique en santé.
Pour ce faire, le label ADEL permet à chaque entreprise ou établissement qui rentrera dans le processus d’évaluation d’obtenir :

  • Un compte-rendu comprenant une cartographie détaillée sur l’état de leur situation pour le traitement de leurs données numériques, un score final éthique, et des préconisations de bonnes pratiques ;
  • Un livre blanc intitulé : « Vade-mecum sur le traitement éthique des données numériques en santé » pour les accompagner dans leurs traitements de données numériques. Ce guide méthodologique est un atout non négligeable auprès
    des entreprises qui souhaitent passer avec succès les étapes de la certification ADEL. Ce livre blanc est téléchargeable gratuitement sur le site Internet : cliquez ici.

 

Le projet ADEL constitue le premier label sur l’éthique des systèmes d’information, des algorithmes de traitement
et des données numériques.
Il pose les jalons d’une «éthique algorithmique», c’est-à-dire une éthique propre au numérique.

 

 

Un an après quelles sont les grandes avancées pour votre projet de label éthique ?

 

Nous avons constitué un Comité Scientifique qui comprend des experts indépendants pluridisciplinaires de haut niveau, tous animés par la même vision : celle d’intégrer une approche éthique dans l’écosystème du numérique. Le comité comprend deux présidents d’honneur : Cédric Villani (Médaille Fields 2010) et Gilles Babinet (Digital Champion pour la France), ainsi que 17 membres parmi lesquels des Data Scientists, professionnels de la sécurité autour des données numériques, institutionnels, mathématiciens, professionnels de la santé, juristes, philosophes, sociologues, entrepreneurs, réseaux d’e-patients et d’e-médecins. Leur mission est d’apporter des avis consultatifs et des ajustements sur la méthode et la grille d’évaluation éthique du programme scientifique ADEL afin de rendre l’outil le plus pertinent et cohérent possible.

Le projet ADEL a également obtenu de nombreux soutiens, par exemple de l’IUCT-Oncopole, l’Ecole Polytechnique de l’Assurance (EPA), la BPI, les cabinets d’avocats Kamkar & Williate et Zorn Avocat etc.

 

Nous avons construit un process complet d’évaluation comprenant les différentes grilles de questionnaires. Chaque projet impliquant le traitement de données numériques rentre dans un dispositif déclaratif de certification semi-automatisée instauré par ADEL.

  • Etape 1 : Pré-questionnaire qualificatif d’entrée de 20 questions
  • Etape 2 : Rapport d’entrée
  • Etape 3 : Questionnaires d’évaluation éthique (sur le traitement numérique et les moyens mis en place) composés
    de 138 questions et de 21 questions sur la mise en place
  • Etape 4 : Compte-rendu automatisé (scores, résumé, cartographies, et préconisation)
  • Etape 5 : Pièces justificatives demandées
  • Etape 6 : Rapport final
  • Etape 7 : Obtention ou non du label ADEL - Health

 

Enfin l’arrivée des premiers établissements et structures qui ont éprouvé et testé le label éthique ADEL - Health, marque également une étape importante. C’est notamment le cas du centre de radiologie de Val du Cens (Saint-Herblain)
et de la clinique Pasteur (Toulouse).

 

 

Quels sont les principes et critères d’évaluation de la valorisation éthique de la donnée ?

 

Le label éthique se traduit par un questionnaire détaillé et précis d’une centaine de questions autour de la valeur intrinsèque
de la donnée dès la conception, de la valeur de gestion et de mise en place de la donnée et enfin de la valeur d’exploitation
ou d’usage.

Notre approche éthique se fonde ainsi sur les principes éthiques de Beauchamp et Childress (2001), à savoir
les principes de bienfaisance, autonomie,
non-malfaisance et justice
ainsi que 8 autres domaines qui forment ce que nous nommons « Infoethics Management » (Cf. encadré). Chacun de ces principes
et domaine fait l’objet de questions parmi lesquelles :

  • Quels sont les objectifs, les buts, les enjeux et le sens
    de l’utilisation des données ?
  • Que vais-je utiliser comme données ? Des données partielles ou totales ?
  • Comment vais-je les utiliser ? A quel endroit ? Auprès de quels utilisateurs ?
  • Plus globalement, comment exploiter l’ensemble hétérogène de ces données médicales accumulées
  •  et stockées dans un SI ?
  • Quelle sera leur pertinence par rapport à ma situation ?
  • Cela ne va-t-il pas dénaturer la valeur informative initiale ?
  • L’intégrité du message final sera-t-elle conservée ?
  • Cela rentre-t-il dans le cadre d’un meilleur usage du SI, d’une communication médicale optimisée et d’une amélioration de la prise en charge des soins
    vis-à-vis du patient ?

 

 

Illustration des principes de l’«Infoethics Management»

 

Bienfaisance : Le bien-fondé d’une action

  • Est-ce que votre exploitation des Big Data en santé œuvre bien dans l’intérêt du patient ?
  • L’exploitation de vos Big Data aide-t-elle à la prise de décision établie par le professionnel de santé ?

 

Justice : équité, égalité dans le traitement des données

  • Vos Big Data permettent-elles un accès différent à l’information suivant la situation ?
  • Est-ce que les Big Data sont disponibles en Open Data, Open Source ?

 

Non malfaisance et minimisation des risques

  • Est-ce que l’exploitation des données respecte la protection des données ?
  • L’exploitation des données s’assure-telle de la pertinence des outils ?

 

Autonomie

  • L’organisation s’adapte-t-elle rapidement à l’exploitation quotidienne des données ?
  • Respecte-t-elle la vie privée et le secret professionnel ?

 

Stratégie et méthodologie

  • D’un point de vue technique, les Big Data utilisées sont-elles fonctionnelles et opérationnelles en l’état, en fonction des requêtes demandées ?
  • Dans le cas d’un Système d’Information automatisé : avez-vous effectué des postulats de départ, énoncés et décrits, auxquels est confronté votre SI ?

 

Organisation et réglementaire

  • Les Big Data utilisées sont-elles toutes pertinentes ou exactes après traitement ?
  • Un inventaire des données disponibles ou mobilisables est-il réalisé ?

 

Structure et technologie

  • Les Big Data sont-elles intègres (neutres, entières, non biaisées) ?
  • Le code source qui compose le SI automatisé peut-il évoluer rapidement ?

 

Relation et culture

  • Les Big Data améliorent-elles l’interactivité avec les acteurs impliquées dans la prise en charge du patient ?
  • Est-ce que vos équipes impliquées dans la conception, la mise en place et l’usage du SI sont régulièrement formées ?

 

Pilotage

  • Avez-vous établi un SWOT autour des enjeux de vos projets Big Data ?

 

Mise en forme

  • Existe-t-il un dispositif de partage des données de santé ?
  • Avez-vous bien délimité le périmètre de vos données à caractère personnel, sensible ?

 

Cycle de développement

  • Avez-vous bien appliqué tous les outils de sécurisation des échanges de données ?
  • Est-ce qu’il y a une démarche de reporting des actions au responsable du projet ?

 

Opérations

  • Existe-t-il un contrôle de la démarche qualité de sauvegarde des données de santé ?
  • Les bases de données sont-elles administrées ?

 

 

Qui effectue l’évaluation des différents critères et le scoring ?

 

L’idée du projet ADEL est de développer un outil d’évaluation éthique qui soit totalement automatisé. L’approche veut tendre vers une sorte d’ubérisation d’un audit éthique du traitement des données numériques. Je suis persuadé que l’intégration
d’un cadre humain dans l’écosystème digital passe nécessairement par une numérisation de l’éthique.
C’est ce que je nomme l’éthique algorithmique, c’est-à-dire la conception d’un algorithme qui évalue l’éthique du cycle de vie des données numériques (de l’acquisition à la valorisation, en passant par le stockage et le traitement). Pour l’instant, le process d’évaluation du label ADEL est semi-automatisé. En effet, la vérification des livrables demandés aux structures qui éprouvent le label est effectué
par un spécialiste du secteur.

 

 

Quel est l’intérêt pour les entreprises à se soumettre à votre label éthique ?

 

En ce qui concerne les acteurs de la e-santé, de la médecine 3.0 et 4.0, les établissements de santé, les industries pharmaceutiques, le label ADEL - Health a pour principal avantage de les accompagner dans l’exploitation et l’usage de leurs données numériques de santé, en apportant un guide de bonnes pratiques et un cadre pragmatique et humain. En ce qui concerne les assurances et mutuelles santé, banques, opérateurs, etc., le label ADEL a pour intérêt d’apporter de la confiance
et une garantie de bon usage des données numériques auprès de leurs clients et des citoyens.

 

 

Quelles sont les entreprises ayant déjà éprouvé le Label ?

 

Les entreprises intéressées ou ayant testé le label sont les cabinets de radiologie (tel que celui du Val du Cens), les cliniques privées (Pasteur), les établissements publics de santé, les assurances santé, les oncopoles (Toulouse), et plus généralement
des projets Big Data, Open data, etc.

 

Le label ADEL propose d’auditer différents domaines d’activité tels que les systèmes d’information et bases de données des établissements de santé, les systèmes et plates-formes informatiques, bio-statistiques et bio-informatiques gérant des bases
de données et dossiers patients, l’industrie des dispositifs médicaux utilisant nécessairement des donnés de santé pour leur accréditation en tant que dispositif médical, les dossiers et process de gestion des essais cliniques académiques et industriels.

 

Il n’y a que 20% de contexte dans ces démarches, l’intérêt de notre démarche réside donc dans les 80% restants qui relèvent d’une démarche duplicable à tous les projets Big Data des autres secteurs d’activité comme : l’aérospatial, la finance,
les transports, le commerce, la distribution, le manufacturing, les services, les utilities, les télécoms, le secteur public, l’éducation, etc.

 

 

Le but final de votre label est de permettre une gestion et gouvernance réussie de données. Si vous deviez citer
les recommandations prioritaires pour y parvenir, quelles seraient-elles ?

 

Plusieurs mesures et recommandations s’imposent à nous afin de garantir la qualité et la protection des données de santé
à caractère personnel.

 

Recommandations entourant la mise en place et l’exploitation de la donnée de santé à caractère personnel

 

  • Indiquer l’origine de la donnée : brute, consolidée via différents producteurs, construites à partir de tierces données ;
  • La donnée de santé à caractère personnel ne peut être collectée et traitée que pour un usage déterminé et légitime ;
  • Seules les données pertinentes et nécessaires aux objectifs d’exploitation doivent être traitées ;
  • La donnée médicale doit circuler en garantissant un souci de confidentialité ;
  • Indiquer clairement la date de transfert ou d’hébergement des données ;
  • Chiffrer la donnée pour assurer une traçabilité et un suivi de cette dernière ;
  • Les outils de transmission de l’information doivent être valides ;
  • La donnée médicale est sans cesse évolutive et doit être régulièrement mise à jour ;
  • Fournir de l’information consistante et basée sur des preuves médicales ;
  • Indiquer clairement si l’information est fondée sur des études scientifiques, consensus d’experts, ou sur une expérience
    ou une opinion professionnelle ou personnelle ;
  • S’assurer que les avis médicaux ou conseils sont donnés par des praticiens qualifiés ;
  • Décrire le processus de recrutement : typologie des contributeurs, contrat avec le fournisseur, mode de rémunération, consentement de la personne ;
  • Indiquer la modalité de fabrication, de constitution ou de transformation de la donnée ;
  • Décrire le processus d’usage et de conservation de ses données médicales par le fournisseur ainsi que les conditions
    dans lesquelles l’utilisateur pourra lui-même accéder à ses data ;
  • Les données personnelles de santé ne doivent pas être conservées indéfiniment et leur durée de conservation
    est appréciée en fonction de la finalité du traitement ;
  • Évaluer rigoureusement et équitablement l’information ;
  • Respecter les droits associés à la protection intellectuelle ;
  • S’assurer que les fournisseurs respectent les réglementations génériques et particulières liées à l’exploitation
    de la donnée personnelle ;
  • Une cohérence de la donnée nécessite un temps de coordination ;
  • Les produits ou services employés doivent être décrits dans un langage clair, facile à lire et approprié aux utilisateurs ciblés.

 

 

La réglementation européenne sur les données personnelles du 14 avril 2016, va-t-elle selon vous avoir
une influence sur une utilisation plus éthique de la donnée ?

 

Je ne suis pas sûr que la récente réglementation européenne en vigueur va avoir une influence importante sur un usage plus éthique de la donnée. Il faudrait, selon moi, une loi imposant à toutes les structures et organisations, qui traitent de la donnée numérique, l’instauration en leur sein d’un Comité opérationnel d’éthique pluridisciplinaire pour piloter la conception, la mise en place et l’usage des Big Data en santé.

 

 

Votre label éthique est basé sur une participation volontaire des entreprises, pensez-vous qu’une réglementation puisse rendre un jour un label éthique obligatoire ?

 

Je suis de nature optimiste ! Comme le juridique s’alimente et s’inspire des réflexions éthiques pour acter et légiférer, j’ai bon espoir … De plus, je remarque que ces dernières années, les séminaires et congrès autour du numérique donnent une place
de plus en plus importante à l’approche éthique autour du digital. En effet, après une phase où les acteurs ont dû digérer
la compréhension et la maîtrise des NTIC et des data sciences, nous rentrons dans une ère où ces derniers prennent un peu
plus de hauteur pour établir des réflexions sur les impacts, les enjeux, les risques au niveau sociétal.

 

Dès lors, une réglementation imposant un label éthique obligatoire serait une avancée considérable. Dans ces conditions,
une prise de conscience de la valeur des données issues des NTIC devient essentielle, tout comme un meilleur encadrement
de l’usage des algorithmes de traitement à l’égard des individus.
En effet, si nous voulons vivre harmonieusement dans
ce nouveau monde régi par la « gouvernance algorithmique », nous devons intensifier nos efforts : sur l’utilisation des données, qui permettent au Machine Learning d’apprendre, sur la maîtrise des données par l’utilisateur et sur la transparence de leur utilisation.

 

L’«éthique algorithmique» devient décisive afin que les professionnels des Big Data trouvent un juste équilibre entre
le traitement rationnel et mesuré des données, dans le respect de la vie privée et un surtraitement qui serait contre-productif, notamment dans la relation médecin-patient.

 

L’étape ultime serait d’avoir un algorithme qui parle à un algorithme, une uberisation de l’audit et de la certification avec
une vérification semi-automatisée, voire totalement automatisée, par un algorithme de traitement afin que le numérique combatte lui-même ses propres failles.

Témoignages du comité d’experts d’ADEL

Cécile Monteil, Médecin aux Urgences Pédiatriques, Fondatrice de l’association Eppocrate, Bloggeuse esanté et animatrice du Zapp’ du Doc / Quotidien du Médecin

Hôpital Robert Debré Paris

 

«A l’ère du Big Data, de l’Intelligence Artificielle et de la robotique, c’est une médecine ultra-technologique de performance et de précision qui s’offre à nous. Mieux soigner, pour vivre mieux et plus longtemps. Mais pourquoi s’arrêter à la réparation de l’Homme quand on peut aussi l’augmenter ?

 

La discipline médicale entre alors dans une nouvelle dimension sociétale : quelle Humanité allons-nous façonner pour demain ?

 

Le Big Data sera-t-il utilisé comme un outil de surveillance ultime pour une société de normopathes bien portants ? Est-ce que l’on hybridera corps et esprits avec la machine,
ou bien nous contenterons-nous de selectionner et reprogrammer génétiquement l’humain ?

 

Le danger n’est pas dans la technologie, mais bien chez l’Homme qui en a le contrôle.
La réflexion éthique est indispensable, et le projet ADEL est essentiel à ce titre ».

Gilles Babinet, Digital Champion France / Président d’honneur

Commission européenne / Comité Scientifique d’ADEL

 

« Mettre l’éthique au cœur de la modernité ; s’en servir comme d’un axe pour permettre
à la révolution digitale de se déployer dans l’univers de la santé me semble être
 une approche pertinente autant qu’utile.

 

Toute la difficulté consiste de ne pas adopter de posture manichéenne : trop de conservatisme nous empêchera de rentrer dans cette

révolution tandis qu’une logique d’innovation débridée pourrait nous faire perdre une partie de ce qui nous caractérise en tant qu’humanité.

 

L’éthique, qui privilégie une vision d’ensemble, et non pas le point de vue du juriste contre celle de l’innovateur me semble répondre à ces défis.

 

C’est pourquoi j’apprécie et soutiens l’approche et les travaux de Jérôme Béranger dans
le projet ADEL ».

Lina Williatte Pellitteri, Professeur FLD-UCL, Membre du bureau exécutif
de la Société Française de Télémédecine (SFT ANTEL),
Avocat Barreau de Lille Cabinet
WT Avocats

 

«Les objets connectés font désormais partie de notre quotidien. Qu’il s’agisse de la montre qui révèle à la fin de la journée la fréquence normale ou non de notre rythme cardiaque,
ou du téléphone portable qui, en indiquant le nombre d’appels manqués, nous informe
du nombre de pas réalisés lors la journée. Si leur intérêt est incontestable, la traçabilité
des données qu’ils génèrent questionne le juriste. Nul doute, que ces informations récoltées, traitées et classées dans la catégorie des données de « bien être » descellent incidemment des informations précieuses sur notre santé.

 

Or les données de santé sont qualifiées en France de données sensibles, dont le traitement est interdit par la loi informatique et liberté de 1978 modifiée récemment en 2016, sauf avec
le consentement de la personne.

 

Ce consentement, pour être valable, doit être donné en connaissance de cause. C’est ce point qui interpelle, car si la personne accepte d’être tracée sur sa forme physique, il est à craindre qu’elle refuse de l’être sur ses données de santé.

 

C’est pourquoi, l’objet connecté non qualifié de dispositif médical mais simplement d’objet permettant le quantified self peut être une menace pour la garantie des droits des personnes sur la confidentialité de leurs données de santé à caractère personnel.

 

Cette menace très souvent ignorée par les utilisateurs finaux peut l’être également par les industriels, qui financent leur mise sur le marché. C’est pourquoi, il faut saluer et encourager des initiatives telles que celles prises par les auteurs du Label Adel Health qui en permettant d’analyser toutes les données récoltées via les objets connectés, donne la possibilité aux industriels de se rendre compte des détournements potentiels de finalité que l’utilisateur pourrait subir et les aide ainsi à mieux connaître leurs produits avant la mise sur le marché».

Economiste de la santé, Jérôme Béranger a travaillé pendant 4 ans comme consultant en gestion

de projet, stratégie et management pour des cabinets de conseil spécialisés en santé, hospitalo-médico-social, assurance et prévoyance. En juillet 2012, il valide une thèse doctorale en Pathologie Humaine sur : « Le modèle d’analyse éthique des systèmes d’information en santé appliqué

à la cancérologie », à l’Université de médecine d’Aix-Marseille, et financé par la société Keosys.

 

Il est actuellement Chief Scientific Officer au sein d’ADEL et chercheur associé (PhD) à l’UMR 1027

de l’Inserm. Ses recherches sont centrées sur l’approche éthique et humaine autour de la conception,

la mise en place et l’usage des NTIC en santé (e-santé, m-Health, Big Data, NBIC, IA, etc.). Il a également publié une quarantaine d’articles scientifiques dans des revues reconnues, ainsi que deux livres intitulés respectivement : « Les systèmes d’information en santé et l’éthique » (ISTE, Mars 2015),

et « Les Big Data et l’éthique » (ISTE, Janvier 2016).

Ainsi, après avoir appliqué ses travaux de recherche pour l’usage interne de Keosys, Jérôme Béranger

a cofondé le label éthique ADEL pour les systèmes d’information automatisés et les projets Big Data. Suite à une première interview à retrouver dans l’édition 2015/2016, nous avons souhaité connaître l’évolution de ce projet.