Synthèse culturelle

L'utilisation du B.C.I dans la communication écrite. Synthèse culturelle rédigée par DELPEUCH Sébastien, ESCOBOSA Valentin et JAVERZAT Natacha, 14 mars 2019.

Les interfaces cerveau-machine ne sont pas un concept récent ; dès les prémices de l'informatique, en 1945, les scénaristes et auteurs de science-fiction s'en sont emparés. Il faudra cependant attendre les années 1970 pour que les premiers modèles soient effectivement créés, et vingt années de plus pour que les chercheurs, forts des progrès en neurosciences, mettent au point tout un panel d'interfaces utilisant diverses ondes cérébrales afin de contrôler des dispositifs externes.

L'accélération des recherches à partir des années 1990 ainsi que l'élargissement significatif de leur champ d'application semblent indiquer que les interfaces cerveau-machine joueront un rôle important dans un avenir proche. Ce constat entraîne l'apparition de nombreux questionnements et débats :

Quel sera leur impact dans la vie quotidienne ? De manière plus générale, quel rôle, quelle place pour les interfaces cerveau-machine dans des sociétés futures ?

Si ces interrogations s'accompagnent généralement d'enthousiasme, d'espoirs et de fantasmes, elles peuvent également devenir sources d'inquiétudes. Afin de gérer les attentes ainsi que les peurs autour des interfaces cerveau-machine, il semble légitime de se poser la question suivante :

En quoi une future démocratisation des interfaces cerveau-machine implique-t-elle la mise en place de mesures préventives ?

Comment anticiper d'un point de vue juridique, moral et éthique de potentielles dérives ?

Nous étudierons ces problématiques en nous basant sur les documents suivants :

• Un entretien avec Nathanaël Jarrassé (chercheur à l'Institut des Systèmes Intelligents et de Robotique) intitulé La robotique et le mythe de "l'Homme augmenté", par Franck Damour et Nathalie Sarthou-Lajus, paru dans la revue Études en février 2018.
• Un extrait du livre Les robots font-ils l'amour ? Le transhumanisme en 12 questions, 2016, coécrit par Laurent Alexandre (médecin et entrepreneur) et Jean-Michel Besnier (philosophe spécialiste des nouvelles technologies).
• L'article intitulé La Liberté à l'ère du numérique, publié dans la revue Politeia en 2017, écrit par François Pellegrini (professeur à l'Université de Bordeaux, chercheur impliqué dans la Commission nationale de l'informatique et des libertés (CNIL)).
• Un extrait de la thèse Coadaptation cerveau machine pour une interaction optimale : application au P300-Speller, réalisée en 2012 à l'Université Claude Bernard, Lyon, par Margaux Perrin.

Afin de mener notre réflexion, nous étudierons d'abord l'impact de l'opinion publique vis-à-vis des interfaces cerveau-machine, l'influence de la science-fiction ainsi que la nécessité de réguler l'imaginaire collectif. Ensuite, nous nous pencherons sur la frontière entre réhabilitation et amélioration : sa nature, les enjeux éthiques et juridiques soulevés. Enfin, nous nous interrogerons sur la "loyauté des interfaces cerveau-machine", en soulevant notamment la question de la responsabilité et de la protection des individus.

La commercialisation et la démocratisation des interfaces cerveau-machine sont encore lointaines, celles-ci étant pour le moment utilisées majoritairement en laboratoire, de façon exclusivement expérimentale. Paradoxalement, l'espoir et les fantasmes suscités, notamment chez les malades, sont immenses. Il apparaît alors nécessaire de gérer cette attente, de contenir un imaginaire collectif disposé à s'en remettre à ce qui n'est encore que science-fiction.

Le développement des interfaces cerveau-machine rend possible l'introduction dans la réalité d'éléments qui relevaient jusqu'alors de la science-fiction. L'impact de ces éléments sur la population n'est pas anodin. Ainsi le "Mythe du Cyborg", évoqué par N. Jarrassé (document 1) et M. Perrin (document 4), peut modifier, voire biaiser la vision que l'on a du handicap. De même, l'arrivée dans les tribunaux indiens d'un "détecteur de mensonge" inquiète M. Perrin, qui doute de la fiabilité de l'appareil. On observe une opposition farouche entre technophobes et technophiles. Ces débats, souvent stériles d'après N. Jarrassé, font état d'autant de craintes que de fantasmes, notamment de la part des transhumanistes (document 2). Mais, du point de vue de N. Jarrassé et M. Perrin, ces perceptions sont pour la plupart erronées. Le rapport de plus en plus étroit entre science-fiction et réalité entraîne de fausses idées, notamment sur le plan médical.

En effet, si de réelles alternatives médicales semblent possibles grâce aux interfaces homme-machine, le contraste entre imaginaire collectif et réalité reste marqué. L'exemple de l'implant rétinien traité par le document 1 et le document 2, ainsi que l'utilisation d'une interface cerveau-machine pour recueillir le consentement de personnes ne pouvant plus communiquer (document 4), donnent de l'espoir aux patients les plus diminués. Cependant, ces alternatives sont pour la plupart lointaines. On observe une opposition entre la réaction de N. Jarrassé (document 1) et celle de L. Alexandre (document 2) face à ce constat. Tandis que N. Jarrassé fait état de la petitesse de nos connaissances actuelles en robotique médicale par rapport à tout ce qu'il reste à découvrir, L. Alexandre affiche une confiance et un enthousiasme certains.

C'est ce même engouement qui fait loi chez les investisseurs. Essentiels pour l'avancée des recherches en robotique, les investisseurs sont attirés par une demande croissante de la population. Ils sont donc influencés par l'imaginaire collectif (document 1). Mais pas seulement : d'après L. Alexandre et J.M. Besnier (document 2), ils sont également sensibles au mouvement du transhumanisme, influent jusque dans la Silicon Valley. L'innovation devient un marché. Cela apparaît regrettable, voire dangereux, pour J.M. Besnier, inquiet quant à la stratégie des industriels, plus soucieux de produire que de respecter l'éthique. À ce propos, N. Jarrassé souligne le paradoxe entre la volonté d'investissement et la non-rentabilité des recherches actuelles, qui ne visent pas à satisfaire un "cœur de cible" important mais à améliorer le quotidien de quelques patients souffrant de conditions rares.

Ainsi, il apparaît nécessaire d'anticiper au niveau social la démocratisation des interfaces cerveau-machine. Ceci implique d'une part la lutte contre des lobbys peu scrupuleux, qui, sous couvert de bénéfices, passeraient outre l'éthique et la morale. D'autre part, cela suppose une éducation de la population, un recentrage sur la réalité, afin de bannir les idées fausses, les craintes ou les espoirs infondés.

Cependant, ces mesures ne semblent pas évidentes à mettre en place. En effet, une grande partie de la population, et notamment les investisseurs, à l'image des grandes start-ups américaines, attendent du futur une promesse de confort, d'augmentation de l'espérance de vie et de résilience. Cette promesse d'amélioration s'appuie essentiellement sur les récents progrès de la médecine, qui permettent parfois une réhabilitation exceptionnelle des capacités de personnes diminuées. Se pose alors la question de la limite entre réhabilitation et amélioration. Quelle est sa nature ? Quels sont les enjeux éthiques et juridiques soulevés par l'amélioration ?

L'évolution de la médecine semble indiquer que la frontière entre réhabilitation et augmentation des capacités est de plus en plus ténue. L. Alexandre soutient que la limite entre médecine réparatrice et augmentation perdra en netteté au fil des années, jusqu'à ce que réhabilitation et augmentation se confondent. Mais pour N. Jarrassé, l'augmentation reste un mythe, car l'amélioration de certaines performances se fait toujours au détriment de la polyvalence. On remarque que les deux visions ne s'inscrivent pas dans la même temporalité : L. Alexandre semble se projeter dans un futur plus lointain et incertain, tandis que N. Jarrassé se base sur les recherches actuelles pour appuyer un propos ancré dans le présent.

Si la définition exacte de l'augmentation et sa différenciation avec la réhabilitation sont sujettes à débat, c'est en grande partie en raison de l'ampleur des enjeux éthiques soulevés. En effet, l'augmentation suppose de possibles atteintes à l'intégrité de l'individu, non seulement physiques mais aussi morales. M. Perrin (document 4) explique que l'utilisation de neuroprothèses chez les malentendants peut être mal perçue par la communauté sourde, qui interprète cette application clinique comme une pression sociale, une obligation à rentrer dans la norme. De la même façon, l'amélioration pourrait entraîner l'apparition d'un "diktat de la normalité". On peut également soulever la question de la liberté de l'individu : en usant d'interfaces cerveau-machine toujours plus perfectionnées et toujours plus autonomes, comment l'augmentation pourrait-elle garantir la liberté individuelle ? En ce sens, F. Pellegrini (document 3) fait le constat d'une perte de liberté de l'usager de systèmes autonomes, qui renonce à la liberté de choix. Enfin, l'aspect idéologique de l'augmentation est à prendre en compte. En effet, d'après N. Jarrassé, les fantasmes suscités par l'image de l'humain augmenté sont systématiquement détournés, utilisés en politique pour servir les intérêts de groupes manipulateurs et dangereux. De même, le document 2 fait référence au Meilleur des mondes de A. Huxley, ce qui sous-entend de possibles dérives discriminatoires et extrémistes.

M. Perrin (document 4) et N. Jarrassé (document 1) soulignent l'importance d'une législation de l'augmentation. Une base juridique est déjà en place ; N. Jarrassé considère de grands principes et projets de lois concernant la médecine et l'informatique comme références pour les chercheurs actuels. M. Perrin cite la déclaration d'Helsinki, qui pose une législation sur le rapport bénéfice/risque d'une intervention médicale, ce qui serait applicable pour l'amélioration. De même, F. Pellegrini juge primordial de conserver les droits fondamentaux et la législation existante concernant la protection de l'individu et la loyauté des traitements algorithmiques. Cependant, N. Jarrassé et F. Pellegrini soulignent un besoin de renforcement, de mise à jour des comités d'éthique et de la législation, qui ne sont pas toujours adaptés pour répondre à l'évolution rapide des technologies.

Ainsi, les enjeux éthiques, individuels et collectifs, autour de l'amélioration concernent notamment les droits fondamentaux des individus, le respect de l'intégrité, la lutte contre les extrêmes. L'anticipation de dérives telles que l'apparition de pressions sociales ou de discriminations, par la création d'un cadre juridique strict, apparaît essentielle.

De manière plus générale, la législation des interfaces cerveau-machine semble se baser sur le principe de loyauté. Le terme "loyauté" implique ici la fiabilité, la transparence de ces systèmes, ainsi que la droiture, l'impartialité et l'honnêteté des concepteurs.

Lorsque l'on est face à un système partiellement ou totalement autonome, on se pose naturellement la question de la responsabilité. La déficience d'un tel système peut avoir des conséquences importantes, comme des atteintes à l'intégrité physique (document 4), mais qui est fautif ? L'utilisateur ou le concepteur ? Le problème reste insoluble pour M. Perrin, qui souligne encore une fois la nécessité de poser un cadre juridique strict. Pour F. Pellegrini, la question soulevée rejoint celle de la garantie de la liberté de l'utilisateur, car le fait de ne pas avoir la main sur ces systèmes constitue déjà une atteinte à notre libre arbitre. La question de la responsabilité des interfaces cerveau-machine reste donc en suspens.

Ce flou juridique et moral autour de la responsabilité n'entrave pas l'élan des pro-technologies. L. Alexandre (document 2) vante la toute-puissance de la culture de l'innovation, s'opposant à J.M. Besnier, qui préfère une approche plus timide des avancées technologiques, réglée sur la morale. N. Jarrassé (document 1) rejoint J.M. Besnier sur ce point : pour lui, il n'y a pas de technique sans éthique. Cependant, il ne s'agit pas non plus de craindre la technologie. F. Pellegrini (document 3) justifie l'importance d'expliciter le sens des différents termes techniques employés, car le simple abus de langage qui consiste à parler de "loyauté des algorithmes" plutôt que de "loyauté des traitements" pose déjà problème. En effet, un algorithme est un objet mathématique abstrait, c'est un progrès technique qui ne peut constituer une menace. Par contre, la manière dont il est traité, utilisé, peut éventuellement être à l'origine de dérives. Dans la même idée, L. Alexandre et J.M. Besnier s'accordent à penser que la technique n'est pas par nature bonne ou mauvaise ; c'est l'usage qui importe. Il ne s'agit donc pas de préférer éthique ou technique, mais plutôt d'allier les deux.

Si l'éthique apparaît comme un sujet redondant lorsque l'on traite des interfaces cerveau-machine, c'est essentiellement parce que la protection de l'individu est en jeu. Entre autres, le problème de la régulation des données personnelles est avancé. F. Pellegrini mentionne la "guerre de la biométrie", cette collecte massive de données à l'échelle internationale, qui pourrait s'intensifier davantage avec la démocratisation des interfaces cerveau-machine. M. Perrin souligne également le problème du consentement. Comment prendre la décision d'implanter ou non une interface cerveau-machine lorsque le patient ne peut plus communiquer son accord ? Enfin, on peut douter de la transparence des traitements et des machines vis-à-vis des usagers. Pour F. Pellegrini, le plus naturel et le plus juste serait d'informer systématiquement l'usager de la manière dont sont traitées les données recueillies. Cependant, dans le cas des algorithmes auto-apprenants (donc potentiellement des interfaces cerveau-machine), cette information devient si complexe qu'elle dépasse l'utilisateur.

Les interfaces cerveau-machine se doivent d'être au service de l'homme et, en ce sens, de respecter les grands principes déjà effectifs concernant la protection de l'intégrité physique et morale des individus. Il ne s'agit pas pour autant de craindre ces inventions et d'opposer systématiquement la technique et l'éthique, mais plutôt de trouver un terrain d'entente. Technique et éthique doivent s'écouter et se compléter, et ce afin de garantir la protection des individus.

En conclusion, nous pouvons affirmer qu'il est essentiel d'anticiper dès maintenant la démocratisation des interfaces cerveau-machine. Ces systèmes sont récents, mal connus et largement connotés par le biais de la science-fiction. Ainsi, ils peuvent être à l'origine de confusions, de peurs ou, au contraire, susciter une attente démesurée. Le contrôle de cet imaginaire collectif est la première mesure préventive à adopter, via l'éducation de la population.

Des dérives importantes sont à envisager, notamment autour de la question de l'amélioration. Prévoir ces dérives par l'instauration d'un cadre juridique et éthique est primordial. De manière plus générale, la démocratisation des interfaces cerveau-machine sous-entend un besoin indispensable de légiférer, de régler au mieux leur fabrication et leur utilisation.