" Face aux pratiques sociales, la science montre ses limites et laisse seul au citoyen le pouvoir de choisir son destin". Pr. Alain Prochianz. (Extrait d'une interview avec Antoine Spire - Le Monde de l'éducation - Mai 2001)
Résumé :
Ce temps de confinement met en avant l’urgence de considérer les neurosciences comme une discipline qui peut aider chacun à le vivre. Comprendre et étudier les comportements humains permettra de mesurer l’impact d’un tel confinement sur chacun d’entre nous et d’identifier les personnes qui ont besoin d’aides. Les neurotechnologies, qui se veulent être à l’interface entre le cerveau et la machine, peuvent être des outils très intéressants pour comprendre ces comportements. En revanche, il devient évident que les frontières entre les utilisations médicales et non médicales de ces neurotechnologies deviennent très poreuses, nous invitant à réfléchir aux enjeux neuroéthiques afin de mettre des gardes fous à ces utilisations.
Mots clefs :
Neurotechnologies, neurosciences, santé publique, l'interface cerveau-machine, intelligence artificielle, coronavirus, COVID19, données à caractère personnel, neuroéthique, responsabilité, stresse, isolation sociale, contenu
Le tournant que la crise sanitaire du Covid-19 nous fait prendre est colossal, il nous invite à réfléchir sur notre condition humaine, l’homme est vulnérable. Les réflexions sur les enjeux bioéthiques et neuroéthiques nous permettent de prendre se tournant d’une manière ajustée, centré sur la bienveillance et le bien commun.
Le confinement que nous vivons est une vraie épreuve psychologique, pouvant parfois entrainer des états d’angoisses, de dépressions ou d’addictions très graves1. Il est probable que nous ressentions différemment le temps qui passe, nous avons peut-être du mal à dormir, à réorganiser notre temps, à prioriser les choses. Notre cerveau doit s’adapter très vite à ce changement de rythme de vie, auquel nous ne sommes pas du tout habitués. Nos connexions synaptiques qui ont l’habitude de s’adapter à des environnements stimulants sont dans l’obligation de se réorganiser. Notre cerveau est plastique et adaptable au changement, mais il se peut que l’incertitude que nous vivons actuellement quant à notre travail ou nos relations, laisse des traces au sein de notre réseau neuronal et que nos comportements et notre vision du monde changent avec ce confinement.
Les neurosciences et les sciences comportementales sont indispensables pour anticiper2 le déconfinement d’une population de façon progressive en permettant de prendre soin des personnes qui vont en avoir besoin. Les neurosciences englobent tous les domaines d’études du cerveau, allant de la molécule, la cellule au comportement, et vont de paires avec le développement de techniques d’explorations du cerveau : les neurotechnologies. Ces dernières sont des dispositifs élaborés à l’interface entre le cerveau et la machine pour visualiser, décrypter et moduler le fonctionnement cérébral et les dysfonctionnements pathologiques. Quelles règles lient l’autonomie et la physiologie du cerveau aux actions de percevoir ou d’agir ? Cette frontière est l’un des enjeux majeurs des neurosciences aujourd’hui.
Or, depuis le début de la pandémie, plusieurs entreprises proposent des neurotechnologies permettant de détecter différents états cognitifs et affectifs, pour bien vivre le confinement, sans qu’il y ait de règles imposées à leurs utilisations. La possibilité d’agir directement sur le cerveau par leurs biais doit nous inviter à une certaine prudence. Les enjeux neuroéthiques qui s’ouvrent à nous doivent nous interpeller afin de créer des gardes fous à ces applications, qui dépassent largement le cadre de la médecine. Les frontières entre les utilisations médicales et non médicales deviennent très poreuses, avec des applications commerciales destinées au grand public en bonne santé, impliquant nécessairement différentes formes de réglementation et de surveillance. Il est également très facile d’envisager des applications militaires, de cybersécurité.
La neuroéthique couvre plusieurs champs très larges de réflexions autant scientifiques, philosophiques que juridiques : l’éthique des neurosciences et les neurosciences de l’éthique3,4. Sa singularité demeure dans l’hétérogénéité et la complexité des technologies, des interventions et des connaissances existantes, scientifiquement fondées et dans la capacité du libre arbitre que peut garder l’individu sur de telles technologies. Sa spécificité est ce lien personnel que nous « pressentons 1) entre notre cerveau et nos comportements et 2) entre notre cerveau et ce qui fonde notre principe d’individualisation, d’autonomie, d’existence en tant qu’être humain reconnu dans sa dignité ». Certaines intelligence artificielle (IA) font partie des neurotechnologies, dans ce cas-là, l'IA est intégrée à des problématiques de neuroéthique et ne soulèvent pas les mêmes problèmes que par exemple l'IA de Facebook ou Google. Autrement dit, la neuroéthique inclut les neurotechnologies sans et avec IA.
Les neurosciences, les neurotechnologies et l’intelligence artificielle sont sur le point de permettre, dans un futur pas si lointain, de lire dans les pensées et les contrôler, de manipuler les personnes pour qu’elles prennent des décisions de façon insidieuse. Il devient important en France d’intensifier et de structurer les réflexions concernant les enjeux éthiques et légaux des neurosciences et neurotechnologies. Comme sont en train de faire les chercheurs aux Etats Unis, au sein du projet « NIH Brain Initiative »5, à l’université d’Emory, au sein du « Emory Center for Ethics » mais aussi au sein du consortium international, « International Brain Initiative »6,7 dont la France est représentée par sa participation très active au « Human Brain Project »8,9,10.
Ces neurotechnologies proposées se focalisent sur la détection du stress, de l’anxiété, des émotions, de l’attention au travail, par le biais d’enregistrements de l’activité cérébrale en captant les ondes cérébrales pour les traduire en signaux digitaux, traités ensuite par des algorithmes. Elles proposent des casques, des écouteurs, des technologies ayant des formes intéressantes et attrayantes pour les utilisateurs. Ces formes portatives permettent de les emmener partout, ce qui pose beaucoup de questions quant à la surveillance des individus mais également quant à l’utilisation continuelle de ces neurotechnologies. Elles utilisent le Bluetooth et le Wi-Fi pour se connecter à des applications mobiles, sont rechargeables, elles ont des mini scanners EEG pouvant détecter les ondes cérébrales et les mouvements de la tête. Les données cérébrales qui en résultent, dont la compréhension de ce à quoi elles correspondent en langage compréhensible pour le grand public reste à approfondir, peuvent être enregistrées dans n’importe quelle circonstance. Collecter et analyser ces données cérébrales en temps réel semble être de plus en plus simple et à la portée de tous.
D’un point de vue neurosciences moléculaires, l’utilisation des neurotechnologies, qu’elles soient à des fins médicales ou non médicales sont susceptibles de changer les connexions synaptiques à plus ou moins long terme. Ce qui aurait des répercussions importantes sur les comportements et d’autres fonctions cérébrales des utilisateurs (comme l’apprentissage, la mémorisation, la concentration ou l’attention…). L'équilibre excitation / inhibition est maintenu dans le cerveau par le dialogue qu’entretiennent les différents neurotransmetteurs, cet équilibre est indispensable11,12 et ces neurotechnologies ont un impact non négligeable sur ce dernier13,14. Dans le cadre d’un traitement d’une pathologie, l’action de ces neurotechnologies rééquilibre cette balance. Dans un cadre non médical, leur utilisation pose beaucoup de questions. Sous prétexte de se focaliser sur la détection des émotions afin d’améliorer la vie quotidienne des utilisateurs, ces neurotechnologies sont utilisées par des personnes en bonne santé, perturbant possiblement cette balance.
Quant à l’IA, couplée ou non à des neurotechnologies, c’est un outil remarquable dans ce temps de confinement, qui envahit le secteur médical, dont les applications prennent de plus en plus de place au quotidien. Nous l’utilisons pour conserver les liens sociaux, elle aide la recherche à avancer sur la mise en place d’un traitement, nous permet de télétravailler, d’assurer les consultations médicales à distance, d’envisager les évolutions de la pandémie. La surveillance de porteurs non symptomatiques (le « backtracking »), via les technologies numériques et des applications mobiles, est à l’étude. Il faut le reconnaitre, elle est un compagnon de route intéressant et il faut en prendre vraiment conscience aujourd’hui. Pourtant, elle n’est pas une intelligence humaine. Elle correspond à une forme d’intelligence calculatoire qui peut avoir accès à un grand nombre de données mais pas à une compréhension du vivant, qui combine émotion et raison.
On le voit, les neurotechnologies et l’IA peuvent aussi bien être utilisées à des fins médicales qu’à des fins non médicales. Cependant, il est à noter qu’à l’origine, elles sont souvent pensées pour une seule finalité et glissent ensuite vers une autre. D’un côté, les neurotechnologies ont d’abord été plutôt pensées pour une utilisation médicale et sont aujourd’hui de plus en plus utilisées pour une fin non médicale (gestion de l’anxiété, état émotionnel, etc.). D’un autre, l’intelligence artificielle a d’abord été conçue dans une perspective non médicale et est aujourd’hui utilisée à des fins sanitaires (gestion de l’épidémie). Or ce glissement d’une finalité à l’autre est insidieux. Et le plus grave reste le fait que, parce que la technologie existe déjà et qu’elle est déjà utilisée, on ne s’interroge plus vraiment sur les fins.
Tout n’est pas testable, ni souhaitable … ni même réalisable. La mise au point d’innovations, de technologies, de neurotechnologies impactant la vie des utilisateurs, demande d’avoir des limites éthiques. Plus nous en apprenons sur le cerveau et son fonctionnement, plus les méthodes de neuromodulation et les neurotechnologies deviennent puissantes et précises et plus l'effet de ces manipulations sur les états mentaux et le comportement doit nous interroger. Les résultats incroyables obtenus n’arrivent plus à cacher le besoin de le formaliser. Des protections appropriées des espaces privés et de l'identité individuelle doivent être intégrées dans notre compréhension des droits de l'Homme. Ces neurotechnologies génèrent des quantités vertigineuses de données, qu’il nous faut comprendre, et leur utilisation, susceptible de modifier sensiblement la personnalité, les pensées et l'expérience sensorimotrice d'une personne, exige que l'on prête attention aux protections individuelles et sociétales.
Ce qui justifie la question de savoir comment l'application de nouvelles neurotechnologies à l'Homme devrait être guidée et réglementée. A ce jour en France et en Europe, il y a un début de réflexions sur des lignes directrices communes pour orienter de manière responsable le développement et l'application de ces nouvelles neurotechnologies. Des recommandations de l’OCDE de décembre 2019, sur « l’innovation responsable dans le domaine des neurotechnologies » constituent les premières pierres normatives internationales dans ces domaines, ce qui permettra aux inventeurs, aux utilisateurs, aux chercheurs, et aux pouvoirs publics de créer et d’utiliser ces neurotechnologies avec des limites éthiques, juridiques et sociétales.
En France, même si la loi bioéthique 2011, en cours de révision, commence à intégrer ces notions dans l’Art16-14 du code civil, rien n’est pour l’instant statué concernant les neurotechnologies de nouvelle génération. Il y a un besoin urgent de créer des équipes de recherches interdisciplinaires, composées de scientifiques, de juristes, de sociologues, de philosophes, qui travailleraient sur ces questions de neuroéthiques.
Le RGPD européen réfléchit à des recommandations similaires pour réguler le machine learning, l’AI et les données personnelles, générant des tensions avec les innovateurs utilisant l’AI. La régulation va devenir indispensable, il est temps que des cadres juridiques et éthiques soient établis, en revanche il ne faudrait pas que cela freine l’innovation et la créativité des chercheurs.
Le comité international de bioéthique de l’UNESCO a rédigé le 26 mars 2020, une déclaration sur le Covid-19, et les considérations éthiques. Le chapitre 9 parle de ces technologies numériques, englobant l’AI, et reconnait l’importance de ces dernières pour lutter contre la pandémie, mais ajoute qu’il est impératif de s’assurer que les questions éthiques, juridiques, sociales liées à leurs utilisations soient « traitées de manière adéquate ».
C’est maintenant que nous avons besoin des neurosciences et de la neuroéthique. Il nous faut comprendre comment ces neurotechnologies et les avancées des neurosciences affectent le futur, leurs impacts sur l’homme, les relations, le marché du travail … A quoi correspondent ces données cérébrales, qui sont stockées avec l’utilisation des neurotechnologies ? Avons-nous le droit de disposer ainsi de données de nos concitoyens, simplement parce qu’ils sont porteurs d’un virus ? Avons-nous le droit d’utiliser à tout va ces neurotechnologies pour détecter et mesurer le stress, l’attention d’une personne au travail, les émotions, le bien être d’une personne, en scannant l’activité cérébrale sans informer les utilisateurs des risques et des dérives possibles ?
La confiance du grand public dans la science devrait être fondée sur un déploiement responsable des progrès scientifiques. Et ces derniers doivent être façonnés par nos sensibilités morales collectives afin de garantir que ces progrès s'intègrent harmonieusement dans notre culture et contribuent effectivement au bien commun.
Il est très important que les citoyens comprennent clairement, sans aucune exagération, les avantages potentiels de ces neurotechnologies, ainsi que leurs risques et leurs limites. Cette course mondiale à l’innovation technologique se perfectionne au fur et à mesure des avancées des neurosciences et ouvre la porte à beaucoup de dérives éthiques. Il est indéniable que la perspective de lire dans les pensées et de les contrôler suscite des espoirs comme des craintes, et invite à une vraie prudence. L’attention devrait plutôt être portée sur ce qui est réalisable et sur ce qui est souhaitable de faire pour le bien commun car les conséquences sur l'identité humaine et la société vont être importantes. Les frontières entre les utilisations médicales et non médicales deviennent très poreuses, avec des applications commerciales destinées au grand public en bonne santé, mais aussi militaires ou de cybersécurité, impliquant nécessairement différentes formes de réglementation et de surveillance.
Il est donc urgent de se demander si l’utilisation de neurotechnologies stimulant l’activité cérébrale dans une période de confinement où le cerveau est déjà mis à rude épreuve, ne serait pas contreproductive chez certaines personnes. Sans compter que plusieurs études récentes semblent indiquer que le Covid-19 pourrait affecter le système nerveux central. A l’heure actuelle, il est difficile de dire s’il y aura des répercutions à long terme quant aux comportements des patients qui ont eu ces symptômes. Et il serait intéressant de se demander si l’utilisation de ces neurotechnologies pourrait être source d’aggravations de symptômes neurologiques chez les personnes ayant été infestées par le Covid-19.
La force de la neuroéthique est d’être un domaine interdisciplinaire, mettant à contributions philosophies, neurosciences, droit, médecine et ces réflexions apportent et vont pouvoir apporter beaucoup pour comprendre la situation inédite que le monde vit actuellement. Les enjeux neuroéthiques qui s’ouvrent à nous doivent nous interpeller afin de créer des gardes fous à ces applications, qui dépassent largement le cadre de la médecine. Ce domaine interdisciplinaire va pouvoir apporter beaucoup pour comprendre la crise sanitaire. Il serait intéressant d'adopter un ensemble de principes similaires au rapport Belmont pour la neuroéthique et que des équipes de recherches interdisciplinaires à l’interface des sciences humaines et sciences dures puissent voir le jour afin de travailler sur ces questions peut être au sein d’un nouvel institut de la Technologie pour l’Humain à l’image de celui du Canada ou des USA
Ces principes devront offrir des lignes directrices pour la protection des utilisateurs, pour que l’humain puisse être remis au cœur des préoccupations des décisions de santé publique, tout en garantissant la liberté des recherches en cours en neurosciences.
Références
1. Brooks, S. K. et al. The psychological impact of quarantine and how to reduce it: rapid review of the evidence. Lancet 395, 912–920 (2020).
2. Bavel, J. J. Van et al. COVID-19 pandemic response. Nat. Hum. Behav. doi:10.1038/s41562-020-0884-z
3. Rommelfanger, K. S., Jeong, S. J., Montojo, C. & Zirlinger, M. Neuroethics: Think Global. Neuron 101, 363–364 (2019).
4. Chandler, J. A. Neurolaw and Neuroethics. Camb. Q. Healthc. Ethics 27, 590–598 (2018).
5. Ramos, K. M. et al. The NIH BRAIN Initiative: Integrating Neuroethics and Neuroscience. Neuron 101, 394–398 (2019).
6. Adams, A. et al. International Brain Initiative: An Innovative Framework for Coordinated Global Brain Research Efforts. Neuron 105, 212–216 (2020).
7. Amadio, J. et al. Neuroethics Questions to Guide Ethical Research in the International Brain Initiatives. Neuron 100, 19–36 (2018).
8. Rose, N. The human brain project: Social and ethical challenges. Neuron 82, 1212–1215 (2014).
9. Salles, A. et al. The Human Brain Project: Responsible Brain Research for the Benefit of Society. Neuron 101, 380–384 (2019).
10. Amunts, K. et al. The Human Brain Project—Synergy between neuroscience, computing, informatics, and brain-inspired technologies. PLoS Biol. 17, 1–7 (2019).
11. Bannai, H. et al. Bidirectional Control of Synaptic GABAAR Clustering by Glutamate and Calcium. Cell Rep. 13, 2768–2780 (2015).
12. Mapelli, J., Gandolfi, D., Vilella, A., Zoli, M. & Bigiani, A. Heterosynaptic GABAergic plasticity bidirectionally driven by the activity of pre- and postsynaptic NMDA receptors. Proc. Natl. Acad. Sci. U. S. A. 113, 9898–9903 (2016).
13. Lajoie, G., Krouchev, N. I., Kalaska, J. F., Fairhall, A. L. & Fetz, E. E. Correlation-based model of artificially induced plasticity in motor cortex by a bidirectional brain-computer interface. PLoS Computational Biology 13, (2017).
14. Zheng, Y., Mao, Y. R., Yuan, T. F., Xu, D. S. & Cheng, L. M. Multimodal treatment for spinal cord injury: A sword of neuroregeneration upon neuromodulation. Neural Regen. Res. 15, 1437–1450 (2020).
.png)
.png)
