Un avenir de l'IA digne de l'humanité
L'intelligence artificielle serait plus justement décrite comme un système basé sur des données (SD), car ses performances sont dues à sa capacité à analyser de grandes quantités de données, et certains domaines de l'intelligence sont hors de portée des SD : l'intelligence sociale et émotionnelle leur reste inaccessible, car ils sont incapables d'éprouver des sentiments réels. De plus, ils n'ont pas la liberté nécessaire pour posséder une capacité morale.
Les SD offrent à l'humanité d'énormes opportunités, mais aussi des risques. Sous la forme de systèmes d'assistance, par exemple, les SD peuvent aider les personnes handicapées à mener une vie plus autonome. Mais ces systèmes d'assistance et ces moteurs de recherche peuvent aussi violer notre vie privée et la protection des données. Ils peuvent même porter atteinte à l'autodétermination des personnes : puisqu'ils peuvent s'appuyer sur de grandes quantités de données nous concernant, les SD peuvent nous manipuler. Au sens figuré, cela signifie qu'ils savent précisément sur quelles touches de piano appuyer pour produire l'air désiré - en d'autres termes, pour nous faire acheter les choses ou voter comme ils le souhaitent. Avec les fake news et la désinformation, ce type de manipulation politique représente une menace considérable pour la démocratie.
Afin d'exploiter à long terme les opportunités éthiques des SD - et de pouvoir surmonter ou éviter les risques éthiques - le SD doit être soumise à une réglementation internationale. La proposition de loi européenne sur l'IA1 est un pas dans la bonne direction, car elle place les personnes et leurs droits avant les intérêts commerciaux de quelques multinationales de la technologie et limite les possibilités d'utilisation abusive par les gouvernements. Cette législation pourrait être améliorée en ajoutant des protections pour les réfugié·es et en simplifiant les options de dépôt de plainte dans les cas où l'IA a causé des dommages à des personnes.
Basé sur les droits de l'être humain
En raison de l'immensité des opportunités et des risques associés aux SD, et puisqu'il s'agit d'une question mondiale, l'approche adoptée doit également être mondiale. Lorsque l'on examine tous les facteurs et décisions éthiques pertinents liés à la conception et à l'utilisation des SD, il est utile de s'inspirer des droits de l'être humain, qui présentent l'avantage majeur de reposer sur un concept simple et de se concentrer sur l'essentiel : ils définissent les normes minimales qui garantissent aux personnes une vie digne d'être vécue. Ils encouragent également l'innovation en protégeant la liberté de penser, d'exprimer son opinion et d'accéder à l'information, et promeuvent le pluralisme en respectant le droit de chacune et chacun à l'autodétermination.
Il y a deux ans, j'ai proposé que les SD soient toujours développés et exploités dans le respect des droits de l'être humain et que les Nations unies créent une Agence internationale des systèmes de données (IDA), semblable à l'Agence internationale de l'énergie atomique (AIEA).2 L'IDA servirait de plate-forme de collaboration technique dans le domaine des SD afin de promouvoir les droits de l'être humain, la sécurité et l'utilisation non oppressive des SD, ainsi que d'agence mondiale de supervision et d'approbation.
Plébicité par les Sages
Les Sages - un groupe indépendant de dirigeantes et dirigeants mondiaux fondé par Nelson Mandela, qui comprend l'ancien secrétaire général des Nations unies Ban Ki-moon et la première femme présidente de l'Irlande Mary Robinson - ont récemment repris mes recommandations concrètes en faveur de DS fondés sur les droits de l'être humain et d'une agence mondiale chargée de les contrôler, et ont appelé les Nations unies à prendre les mesures qui s'imposent.3 L'actuel secrétaire général des Nations unies António Guterres a également fait référence à des DS fondée sur les droits de l'être humain et à une réponse mondiale coordonnée en vue d'une solution institutionnelle dans sa dernière note d'orientation.4 Cela me réjouit et me donne confiance.
Ce qui rend la création d'une IDA réaliste, c'est que dans le passé, l'humanité a montré que lorsque le bien-être des personnes et de la planète est en jeu, elle peut se concentrer sur ce qui est techniquement faisable plutôt que de poursuivre aveuglément tout ce qui est techniquement possible.
L'humanité a poursuivi la technologie nucléaire, développé la bombe atomique et l'a même déployée plus d'une fois. Mais pour éviter des événements encore plus graves, nous avons ensuite massivement restreint la recherche et le développement de la technologie nucléaire, en dépit d'une opposition écrasante. Si rien de pire ne s'est produit, c'est en grande partie grâce aux lignes directrices internationales, aux mécanismes concrets d'application et à l'AIEA, une agence des Nations unies.
