Une ONG américaine a mis en garde mercredi contre les dangers liés aux « neurotechnologies » pour le grand public, c’est-à-dire la commercialisation d’appareils capables d’enregistrer l’activité du cerveau, voire de l’influencer, sans garde-fous suffisants pour les consommateurs.
Suivant ses recommandations, le Colorado vient de promulguer une loi pour protéger la confidentialité des « données neuronales ». « C’est une première pour un état américain, et dans le monde en général », s’est félicité Jared Genser, cofondateur de Neurorights Foundation, lors d’une conférence de presse mercredi.
Des appareils, sans règlementation ni contrôle, capables d’influencer le comportement
Cette ONG tente d’alerter les autorités au sujet des risques présentés par des appareils relevant des « neurotechnologies » : des bandeaux pour améliorer le sommeil, des oreillettes qui aident à méditer, des capteurs crâniens pour mieux jouer au golf, etc. Ils sont capables de récolter des données ultra personnelles, et de les analyser dans une application pour renseigner l’utilisateur sur ses performances, mais aussi d’influencer le comportement. « Vos pensées, vos souvenirs, votre imagination, vos émotions, votre comportement et votre subconscient se passent dans le cerveau », a souligné le neurobiologiste Rafael Yuste, président de Neurorights Foundation et directeur du Neurotechnology Center de l’université de Columbia.
L’étude publiée mercredi par l’ONG montre que les principales entreprises concernées, des start-up peu connues, récoltent ces données ultra privées sans se limiter à celles dont elles ont besoin pour leur produit. Et comme ces objets ne sont pas approuvés par les autorités sanitaires, ils échappent aux lois sur les appareils médicaux. « Plus inquiétant encore, la majorité de ses sociétés s’autorisent également à partager les données neuronales avec des tiers non spécifiés », précise l’ONG.
Neurodonnées et neuromarketing
Faciles d’accès, les neurodonnées sont devenues une denrée de plus en plus recherchée, non seulement dans le domaine médical, mais aussi sur les marchés des produits de grande consommation. Le neuromarketing, consistant à analyser les informations neuronales pour comprendre les préférences et les décisions d’achat des consommateurs, représente une menace pour l’intimité psychique et la liberté de pensée, mettant ainsi en danger la démocratie et la liberté politique.
Une éthique internationale pour les neurotechnologies
La Directrice générale de l’UNESCO, Audrey Azoulay, a nommé 24 experts issus de toutes les régions du monde afin d’élaborer le premier cadre mondial sur l’éthique des neurotechnologies. Ils se réunissent pour la première fois à Paris du 22 au 26 avril 2024. Sur la base de leurs travaux, l’UNESCO conduira des discussions avec ses 194 États membres en vue d’une adoption du texte d’ici à la fin 2025.
Le futur cadre éthique de l’UNESCO devrait permettre de s’assurer, au niveau mondial, que l’utilisation des neurotechnologies respecte les droits humains et les libertés fondamentales. Il est essentiel d’envisager une réflexion éthique autour des applications possibles des neurotechnologies, afin de garantir que leur développement serve effectivement l’intérêt général et ne mette pas en péril nos droits et libertés. Ainsi, il importe de mettre en balance les bénéfices potentiels en termes de santé publique, d’éducation et de bien-être individuel et collectif avec les risques encourus en matière de confidentialité, de justice sociale et de respect de l’autonomie personnelle.
Les neurotechnologies sont prometteuses pour résoudre de nombreux problèmes de santé. Mais elles peuvent aussi constituer une menace pour les droits humains, la liberté de pensée et la vie privée. Il est urgent d’établir un cadre éthique commun au niveau international, comme l’a fait l’UNESCO pour l’intelligence artificielle en 2021. Il ne peut y avoir de collecte des données neuronales sans droits neuronaux.
Du côté de la France
Déjà en 2022 le Sénat avait sonné d’alarme dans sa 32ème note scientifique de l’Office parlementaire d’évaluation des choix scientifiques et technologiques, à propos de l’éthique des neurotechnologies : il recommandait de poursuivre le travail de transposition au niveau national de la recommandation de l’OCDE sur l’encadrement de l’innovation en neurotechnologies, à savoir :
– Définir un cadre législatif protecteur, proche de celui adopté au Chili, en mettant l’accent sur la sécurité des dispositifs, le respect du droit à l’intégrité de son corps et du droit à la vie privée, la protection des données personnelles, y compris les données issues de l’enregistrement de l’activité cérébrale et en écartant la notion trop floue de libre arbitre ;
– Veiller à ce que le cadre défini ne conduise pas à décourager la recherche et à réduire notre compétitivité. Même si le projet transhumaniste relève encore largement de la science-fiction à ce stade, une certaine vigilance doit rester de mise face à la tentation de l’homme augmenté : les neurotechnologies doivent, d’abord et avant tout, servir à guérir et à réparer.
En France, quelques dispositions ont également été prises. L’usage de l’imagerie fonctionnelle dans le cadre d’expertises judiciaires est par exemple interdit. En outre, l’article 225-3 du code pénal fait mention des « données issues de techniques d’imagerie cérébrale » dans le cadre des infractions en matière de discriminations. L’article L. 1151-4 du code de la santé publique prévoit quant à lui que « les actes, procédés, techniques, méthodes et équipements ayant pour effet de modifier l’activité cérébrale et présentant un danger grave ou une suspicion de danger grave pour la santé humaine peuvent être interdits par décret, après avis de la Haute Autorité de santé ».
Les neurodroits à l’ordre du jour
Dans son nouveau livre, The Battle for Your Brain, la professeure Nita A. Farahany, experte en bioéthique, presse les législateurs d’adopter de nouvelles lois pour protéger nos pensées face aux progrès rapides des neurotechnologies et de l’intelligence artificielle. Elle plaide en faveur de « neurodroits » pour préserver notre activité cérébrale de tout usage malveillant.
Le domaine des neurotechnologies a beaucoup progressé ces dernières années. Les progrès réalisés en matière d’implants, d’interfaces cerveau-machines et d’imagerie cérébrale permettent aujourd’hui de pallier efficacement certains déficits des fonctions sensorielles et motrices — ce qui permet d’améliorer le quotidien de nombreuses personnes paralysées, victimes d’accident vasculaire cérébral ou atteintes de la maladie de Parkinson par exemple. Des implants cérébraux sont également mis en œuvre dans le traitement de troubles neurologiques et psychiatriques résistants aux médicaments, tels que la dépression sévère.
De même, plusieurs start-up proposent aujourd’hui des casques permettant aux utilisateurs de réguler leurs émotions, d’apaiser leur anxiété. D’autres applications de neurotechnologie visent à surveiller les niveaux de vigilance des conducteurs de véhicules ; en Chine, le concept s’étend dans certaines salles de classe et usines, où la concentration des élèves et des ouvriers est examinée en permanence. Nita A. Farahany, professeure de droit et de philosophie à l’Université Duke, experte en bioéthique, craint qu’il ne soit bientôt possible de véritablement « lire les pensées » d’un individu ; elle appelle les législateurs à mettre immédiatement en place des « neurodroits » pour encadrer la manière dont les neurotechnologies s’emparent de notre activité cérébrale
Les intrusions dans les pensées personnelles aujourd’hui « à portée de main »
Selon elles, nos pensées méritent d’être protégées comme tout autre domaine de la liberté individuelle. « Toutes les grandes entreprises technologiques investissent massivement dans des dispositifs multifonctionnels dotés de capteurs cérébraux. Les capteurs neuronaux feront partie de notre technologie quotidienne et de la manière dont nous interagissons avec cette technologie », a-t-elle déclaré au Guardian.
Des sociétés telles que Neuralink et Meta travaillent déjà sur des interfaces cérébrales capables de lire directement les pensées ; ce type de technologies, associé aux progrès récents réalisés en matière d’intelligence artificielle, fait craindre des dérives : surveillance et contrôle des salariés, ingérence politique, répression, etc. Pour la spécialiste, les intrusions dans les pensées personnelles sont aujourd’hui « à portée de main » et représentent un risque perceptible.
Nos données personnelles sont déjà très largement analysées via les réseaux sociaux, décortiquées par des algorithmes qui en déduisent notre état d’esprit, nos opinions, afin de nous envoyer des publicités ciblées. Mais les progrès des neurotechnologies, qui impliquent une connexion directe avec le cerveau, ouvrent la voie à des incursions bien plus précises et donc, potentiellement dangereuses, dans un domaine qui était jusqu’ici privé
Nita A. Farahany souligne cependant que la plupart des protections juridiques concernent la divulgation de la collecte de données sur le cerveau, et non les droits neurologiques eux-mêmes. « Il n’existe pas de droit global à la liberté cognitive, tel que je le définis, qui s’applique à bien plus que les neurotechnologies, mais qui s’applique à l’autodétermination de nos cerveaux et de nos expériences mentales, ce qui s’applique à tant de technologies numériques que nous abordons aujourd’hui », explique-t-elle.
« Nous avons le temps d’agir, à la fois en prenant conscience de ce qui se passe et en faisant les choix cruciaux que nous devons faire maintenant pour décider comment utiliser la technologie d’une manière qui soit bonne et non pas abusive ou oppressive », conclut la spécialiste.
Bientôt la manipulation de l’activité cérébrale
Les spécialistes s’inquiètent aussi pour les dangers à plus long terme. « Tôt ou tard, une entreprise vendra des stimulateurs magnétiques pour améliorer la mémoire. Ce sera la deuxième vague de neurotechnologies commercialisées au grand public, qui permettra de manipuler l’activité cérébrale », a expliqué Rafael Yuste . « Et ce n’est pas de la science-fiction », a-t-il insisté, évoquant des expériences en laboratoire, où les chercheurs ont réussi à décoder des pensées humaines. La science sous-jacente progresse rapidement, grâce aux implants neuronaux qui vont au plus près des signaux, et grâce à l’intelligence artificielle générative, qui aide à traduire ces signaux.
Les appareils actuellement commercialisés s’adressent à un public encore restreint, mais les géants des technologies, comme Meta et Apple, pourraient élargir considérablement ce marché, à des millions de personnes potentiellement. « Apple a récemment déposé une demande de brevet en vue de fixer des capteurs d’électroencéphalographie (mesurant l’activité électrique du cerveau) sur la prochaine génération d’AirPods (écouteurs sans fil) », note Jared Genser qui est également avocat international des droits de l’homme et conseiller spécial sur la responsabilité de protéger auprès de l’Organisation des États américains..
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.