Une référence internationale dans ce domaine. La signature de la Convention-cadre est prévue à Vilnius (Lituanie) le 5 septembre lors d'une conférence des ministres de la justice.
Le cadre légal du traité sur l’IA
Le traité, qui est également ouvert aux pays non européens, crée un cadre légal qui s'applique à l'ensemble du cycle de vie des systèmes d'IA, aborde les risques que peuvent représenter ces systèmes et favorise une innovation responsable.
Une approche basée sur les risques est adoptée par celui-ci en ce qui concerne la conception, le développement, l'utilisation et la mise hors service des systèmes d'IA, ce qui nécessite une analyse approfondie de toutes les conséquences négatives potentielles liées à leur utilisation.
Le traité est le résultat de deux ans de travail du CAI, qui a réuni, pour la rédaction du traité, les 46 États membres du Conseil de l'Europe, l'Union européenne et 11 États non-membres (Argentine, Australie, Canada, Costa Rica, États-Unis, Israël, Japon, Mexique, Pérou, Saint-Siège et Uruguay), ainsi que des représentants du secteur privé, de la société civile et du monde universitaire, intervenant en tant qu'observateurs.
Le champ d’application de la Convention-cadre sur l'IA
Les systèmes d'IA utilisés par les pouvoirs publics, y compris les entreprises qui agissent pour leur compte, et par les acteurs privés sont soumis à ce traité.
Dans le cadre de la réglementation du secteur privé, la Convention offre deux moyens aux parties de se conformer à ses principes et à ses obligations :
- Elles peuvent opter pour une soumission directe aux dispositions applicables de la Convention ou, à défaut,
- Prendre d'autres mesures pour se conformer aux dispositions du traité, sans quitter leurs obligations internationales en matière de protection des droits de l'homme, de la démocratie et de l'État de droit.
La nécessité de cette approche découle des différences entre les systèmes juridiques des différents pays.
Inscrivez-vous à la newsletter Livv
et recevez chaque semaine des informations exclusives en droit des affaires. En savoir plus
Les obligations des États signataires
La convention établit des critères de clarté et de contrôle adaptés à des situations et à des risques particuliers, tels que l'identification des contenus créés par les systèmes d'intelligence artificielle.
Il faudra que les parties prennent des mesures pour :
- Identifier, évaluer, prévenir et réduire les risques potentiels, il est nécessaire de prendre des mesures appropriées telles qu'un moratoire, une interdiction ou d'autres mesures concernant l'utilisation de systèmes d'IA lorsque cette utilisation peut présenter des risques incompatibles avec les normes relatives aux droits de l'homme.
- Garantir l'utilisation des systèmes d'IA sans atteinte aux institutions et aux processus démocratiques, en particulier aux principes de séparation des pouvoirs, d'indépendance de la justice et d'accès à la justice.
- Il est important de garantir que les personnes victimes de violations des droits de l'homme lorsqu'elles utilisent des systèmes d'IA aient des moyens de recours et bénéficient de garanties procédurales. Il est important que les individus qui interagissent avec un système d'IA soient particulièrement conscients de leur interaction avec ce système.
- Identifier les rôles et établir la responsabilité de rendre des comptes en cas d'effets néfastes, s'assurer que les systèmes d'IA respectent l'égalité, y compris l'égalité entre les sexes, assurer l'interdiction de la discrimination et la préservation de la vie privée.
Des exemptions aux obligations imposées par la Convention sur l'IA
L'application des dispositions du traité aux activités liées à la protection des intérêts de sécurité nationale ne sera pas obligatoire pour les parties à la convention, mais elles devront s'assurer que ces activités soient menées dans le respect des institutions et des processus démocratiques ainsi que du droit international.
Les questions de défense nationale et les activités de recherche et de développement ne seront pas soumises à la convention, à moins que la mise à l'essai de systèmes d'IA ne constitue une interférence avec les droits de l'homme, la démocratie et l'État de droit.
Pour garantir sa réalisation, la Convention met en place un dispositif de suivi sous la forme d'une conférence des parties.
Finalement, la Convention impose aux parties de mettre en œuvre un système de contrôle autonome afin de vérifier qu'elles respectent les obligations imposées.
Elles doivent également sensibiliser le public, animer et éclairer le débat public et mener des consultations multipartites sur la façon d'utiliser la technologie de l'IA.
