Vers un avenir plus humain grâce à l'IA
L'éthicien Peter G. Kirchschläger montre comment l'intelligence artificielle peut être réglementée au niveau international - et se réjouit du soutien des décideurs mondiaux.
L'intelligence artificielle serait plus justement qualifiée de systèmes basés sur les données (DS). En effet, leurs performances reposent sur leur capacité à évaluer de grandes quantités de données, et certains domaines de l'intelligence échappent aux DS : l'intelligence sociale et émotionnelle leur reste inaccessible, car il leur manque de véritables sentiments. Ils ne sont pas non plus capables de faire preuve de moralité, car ils n'en ont pas la liberté.
Tant les chances que les risques des DS pour l'humanité sont immenses. En tant que systèmes d'assistance, les DS peuvent par exemple permettre aux personnes souffrant d'un handicap de mener une vie plus autonome. D'un autre côté, de tels systèmes d'assistance et moteurs de recherche peuvent porter atteinte à notre vie privée ainsi qu'à la protection des données et également saper l'autodétermination des personnes : DS peuvent manipuler les gens car, en raison des énormes données qu'ils possèdent sur nous, ils savent exactement quelles touches de piano ils doivent jouer pour que la musique résonne chez nous - c'est-à-dire pour que nous fassions nos achats ou que nous votions politiquement comme ils le souhaitent. Une telle manipulation politique ainsi que les fake news et la désinformation menacent gravement la démocratie.
"Les droits de l'homme se focalisent sur l'essentiel et sont favorables à l'innovation".Peter G. Kirchschläger
Pour pouvoir exploiter durablement les opportunités offertes par la DS et maîtriser ou éviter les risques, il est nécessaire de réglementer la DS au niveau international. Avec son projet de loi sur l'intelligence artificielle, l'UE va à l'encontre des principes de base de la protection des données.1 un pas dans la bonne direction, car elle accorde plus d'importance aux personnes et à leurs droits qu'aux intérêts économiques de quelques multinationales de la tech et limite les abus de l'État. La protection des personnes en fuite et la simplification des possibilités de recours en cas d'atteinte aux personnes par la DS devraient encore être améliorées dans le cadre de cette loi.
Basé sur les droits de l'homme
Étant donné que les possibilités et les dangers de la DS sont énormes et qu'il s'agit d'un thème global, nous devons en outre l'aborder au niveau mondial. Lors des réflexions et des décisions éthiques sur ce qui doit être pris en compte lors de la conception et de l'utilisation de la DS, il vaut la peine de s'appuyer sur les droits de l'homme pour s'orienter. Les droits de l'homme ont le grand avantage de reposer sur un concept simple et de se concentrer sur l'essentiel : Ils définissent des normes minimales qui garantissent aux personnes une vie digne. En même temps, ils sont favorables à l'innovation en protégeant les personnes dans leur liberté de pensée, d'expression et d'accès à l'information, et en encourageant la pluralité par le respect de l'autodétermination de chaque personne.
Il y a deux ans, j'ai proposé que les DS soient toujours développés et exploités sur la base des droits de l'homme et qu'une agence internationale pour les systèmes basés sur les données (International Data-Based Systems Agency) soit créée à l'ONU, page externeIDA), à l'instar de l'Agence internationale de l'énergie atomique (AIEA).2 L'IDA doit servir de plate-forme pour la coopération technique dans le domaine de la DS, qui promeut les droits de l'homme, la sécurité et l'utilisation pacifique de la DS, et faire office d'autorité mondiale de surveillance et d'autorisation.
Repris par The Elders
The Elders - un groupe indépendant de leaders mondiaux fondé par Nelson Mandela, qui comprend notamment l'ancien secrétaire général de l'ONU Ban Ki Moon et la première présidente d'Irlande Mary Robinson - ont récemment repris mes propositions d'action concrètes de DS basées sur les droits de l'homme et d'une agence internationale chargée de les contrôler, et ont demandé aux États membres de l'ONU d'agir en conséquence.3 Le secrétaire général de l'ONU, António Guterres, a lui aussi repris les DS basés sur les droits de l'homme et l'action internationale concertée vers une solution institutionnelle dans sa dernière Policy Brief.4 Cela me réjouit et me rend confiant.
La création d'une IDA est réaliste, car l'humanité a déjà montré par le passé qu'elle était capable de ne pas toujours mettre en œuvre aveuglément tout ce qui est techniquement possible, mais de se limiter à ce qui est techniquement faisable lorsqu'il s'agit du bien-être de l'humanité et de la planète.
Par exemple, l'humanité a fait de la recherche dans le domaine de la technologie nucléaire, a développé des bombes atomiques et les a même lancées à plusieurs reprises. Mais pour éviter le pire, l'homme a ensuite fortement limité la recherche et le développement dans le domaine de la technologie nucléaire, malgré une opposition massive. Cette dernière a largement réussi, notamment grâce à des directives internationales, à des mécanismes d'application concrets et à l'AIEA, une agence de l'ONU.
1 Parlement européen : page externeLoi sur l'IA : première réglementation de l'intelligence artificielle, 8 juin 2023
2 Peter G. Kirchschlaeger : Digital Transformation and Ethics : Ethical Considerations on the Robotization and Automation of Society and the Economy and the Use of Artificial Intelligence, Nomos : Baden-Baden 2021
3 page externeThe Elders urge global cooperation to manage risks and share benefits of AI, mai 2023
4 ONU : page externeNotre lettre politique d'agenda commun. Un Pacte numérique mondial - un avenir numérique ouvert, libre et sécurisé pour tous, juin 2023