Digi, Nano, Bio, Neuro - ou pourquoi nous devrions nous intéresser davantage aux technologies convergentes

Mes recherches portent sur les conséquences de la numérisation pour les personnes, la société et la démocratie. Dans ce contexte, il est également important de garder un œil sur leur convergence dans l'informatique et les sciences de la vie - c'est-à-dire ce qui devient possible lorsque les technologies numériques se développent de plus en plus avec la biotechnologie, la neurotechnologie et la nanotechnologie.

Les technologies convergentes sont considérées comme un terrain propice aux innovations de grande envergure. Cependant, elles brouillent les frontières entre les mondes physique, biologique et numérique. En conséquence, les réglementations conventionnelles deviennent inefficaces.

Dans une étude que j'ai menée avec mon coauteur Marcello Ienca, nous avons récemment examiné les risques et les défis sociétaux de la convergence technologique - et conclu que les effets pour les individus et la société sont considérables.

Nous souhaitons attirer l'attention sur les défis et les risques liés à la convergence des technologies et expliquer pourquoi nous estimons qu'il est nécessaire d'accompagner les développements technologiques au niveau international par des réglementations strictes.

Depuis plusieurs années, chacune et chacun a pu observer, dans le cadre de la numérisation, les conséquences d'une évolution technologique laissée aux seules forces du marché sans régulation efficace.

Désinformation et manipulation sur le web

Neuf expertes et experts européens, dont un de l'ETH Zurich, ont lancé un avertissement urgent contre le scoring, c'est-à-dire l'évaluation des personnes, et le big nudging^{2 ,} une forme subtile de manipulation numérique. Cette dernière est basée sur des profils de personnalité créés à l'aide de cookies et d'autres données de surveillance. Un peu plus tard, le scandale Cambridge Analytica a alerté le monde sur la manière dont la société d'analyse de données avait utilisé des publicités personnalisées (microciblage) pour tenter de manipuler le comportement des électrices et électeurs lors d'élections démocratiques.

Les démocraties du monde entier sont ainsi soumises à une pression considérable. La propagande, les fake news et les discours de haine polarisent et sèment le doute, tandis que la protection de la vie privée est en déclin. Nous sommes au cœur d'une guerre de l'information internationale pour le contrôle de nos esprits, dans laquelle les sociétés de publicité, les entreprises technologiques, les services secrets et l'armée se battent pour exercer une influence sur notre mentalité et notre comportement. L'Union européenne a adopté la loi sur l'IA pour tenter d'endiguer ces dangers.

Cependant, les technologies numériques se sont développées à un rythme effréné et de nouvelles possibilités de manipulation apparaissent déjà. La fusion des technologies numériques et des nanotechnologies avec les biotechnologies et neurotechnologies modernes permet des applications révolutionnaires difficilement imaginables auparavant.

Des microrobots pour une médecine de précision

Dans le domaine de la médecine personnalisée, par exemple, la miniaturisation croissante de l'électronique permet de plus en plus de connecter les organismes vivants et les êtres humains à des capteurs en réseau et à la puissance de calcul. Le WEF a annoncé l'avènement de l'«Internet des corps» dès 2020.^{3, 4}

Les pilules numériques sont un exemple qui combine les médicaments conventionnels avec une fonction de surveillance. Celles-ci pourraient contrôler les médicaments et enregistrer les données physiologiques des patientes et patients (voir cet article).

Les experts et expertes s'attendent à ce que la technologie des capteurs atteigne l'échelle nanométrique. Les nanoparticules magnétiques ou les composants nanoélectroniques, c'est-à-dire de minuscules particules invisibles à l'œil nu d'un diamètre allant jusqu'à 100 nanomètres, permettraient de transporter des substances actives, d'interagir avec les cellules et d'enregistrer de grandes quantités de données sur les fonctions corporelles. Si elles sont introduites dans le corps, on espère pouvoir détecter les maladies à un stade précoce et les traiter de manière personnalisée. C'est ce que l'on appelle la médecine de haute précision.

Les nano-électrodes enregistrent les fonctions cérébrales

Des électrodes miniaturisées capables de mesurer et de manipuler simultanément l'activité de milliers de neurones, associées à des outils d'intelligence artificielle toujours plus performants pour l'analyse des signaux cérébraux, sont des approches qui conduisent aujourd'hui à des avancées très discutées dans le domaine de l'interface cerveau-ordinateur. La cartographie de l'activité cérébrale est également à l'ordre du jour. Grâce à la nano-neurotechnologie, nous pourrions bientôt envisager que les smartphones et autres applications d'IA soient contrôlés directement par la pensée.

À l'avenir, la cartographie de l'activité cérébrale permettra non seulement de lire nos pensées et nos sentiments, mais aussi de les influencer à distance, ce qui serait probablement beaucoup plus efficace que les méthodes de manipulation précédentes telles que le big nudging.

Toutefois, les électrodes conventionnelles ne conviennent pas pour établir une connexion permanente entre les cellules et l'électronique, ce qui nécessite des interfaces durables et biocompatibles. C'est pourquoi il a été suggéré de transmettre des signaux par optogénétique, c'est-à-dire de contrôler des gènes dans des cellules spéciales à l'aide d'impulsions lumineuses^.6 Cela rendrait possible la mise en œuvre de circuits étonnants (voir cet article d'ETH News Contrôler les gènes par la pensée ).

Les inconvénients de la convergence

Certes, les applications mentionnées ci-dessus peuvent sembler futuristes, la plupart d'entre elles étant encore des visions ou à un stade précoce de développement. Cependant, de nombreuses recherches sont menées dans le monde entier et à grande vitesse. Les militaires sont également intéressés par l'utilisation des technologies convergentes à leurs propres fins. ^{7, 8}

L'inconvénient de la convergence réside dans les risques considérables qu'elle comporte, comme l'accès par des acteurs étatiques ou privés à des données très sensibles et leur utilisation abusive pour surveiller et influencer les gens. Plus nos corps seront connectés, plus nous serons vulnérables à la cybercriminalité et au piratage. Il n'est pas exclu que des applications militaires existent déjà.⁵ Une chose est sûre : bien avant que la médecine de précision et la neurotechnologie ne fonctionnent de manière fiable, ces technologies pourront être utilisées contre des personnes.

Le problème est que les réglementations existantes sont spécifiques et insuffisantes pour contrôler la convergence technologique. Mais comment pouvons-nous garder le contrôle de notre vie s'il devient de plus en plus possible d'influencer nos pensées, nos sentiments et nos décisions par des moyens numériques ?

Une réglementation mondiale convergente est nécessaire

Dans notre récent document, nous concluons que toute réglementation des technologies convergentes devrait être basée sur des réglementations internationales convergentes. En conséquence, nous esquissons un nouveau cadre réglementaire mondial et proposons dix principes de gouvernance pour combler le fossé réglementaire qui se profile à l'horizon. ⁹

Le cadre met l'accent sur la nécessité de protéger les fonctions corporelles et mentales contre les interférences non autorisées et de garantir l'intégrité personnelle et le respect de la vie privée en établissant, par exemple, des droits neuronaux.

Pour minimiser les risques et prévenir les abus, les futures réglementations devraient être inclusives, transparentes et dignes de confiance. Le principe de gouvernance participative est essentiel, qui devrait impliquer tous les groupes concernés et garantir que les préoccupations des minorités affectées sont également prises en compte dans les processus de prise de décision.

Enfin, nous devons reprendre le contrôle de nos données personnelles. Pour ce faire, nous avons besoin d'une véritable autodétermination informationnelle. Cela devrait également s'appliquer aux jumeaux numériques de notre corps et de notre personnalité, car ils peuvent être utilisés pour pirater notre santé et notre façon de penser - pour le meilleur ou pour le pire.¹⁰

Par notre contribution, nous souhaitons lancer un débat public sur les technologies convergentes. Malgré son importance majeure, nous pensons que ce sujet n'est pas suffisamment pris en compte. Un discours continu sur les avantages, les risques et les règles raisonnables peut contribuer à orienter la convergence technologique de manière à ce qu'elle serve les gens au lieu de leur nuire.