Le mercredi 13 mars 2024, la législation sur l'intelligence artificielle a été adoptée par le Parlement européen, avec pour objectif d’assurer la sécurité et le respect des droits fondamentaux tout en favorisant l'innovation.
La législation, établie à la suite de discussions avec les États membres en décembre 2023 a été validée par les députés avec 523 voix en faveur, 46 voix contre et 49 abstentions. L'objectif de ce règlement est de garantir la protection des droits fondamentaux, de la démocratie, de l'État de droit et de la durabilité environnementale contre les dangers associés à l'intelligence artificielle (IA), tout en favorisant l'innovation et en faisant de l'Europe un acteur majeur dans ce secteur. Les systèmes d'IA doivent respecter des obligations selon le règlement, en se basant sur leurs risques et leur niveau d'impact.
Thierry Breton, le commissaire européen responsable du dossier, a exprimé sa gratitude pour le "soutien massif" du Parlement à ce texte qui établit les
"premières règles contraignantes et complètes au monde pour une IA fiable".
En avril 2021, la Commission européenne avait soumis le projet de loi.
Les propositions des citoyens de la Conférence sur l'avenir de l'Europe ont directement été prises en compte dans la loi sur l’IA :
La proposition 12(10) sur le renforcement de la compétitivité de l'UE dans les secteurs stratégiques ;
La proposition 33 (5) sur une société sûre et digne de confiance, notamment en luttant contre la désinformation et en veillant à ce que les êtres humains gardent le contrôle ;
La proposition 35 sur la promotion de l'innovation numérique, tout en assurant un contrôle humain et une utilisation fiable et responsable de l'IA, en fixant des garde-fous et en assurant la transparence ;
La proposition 37 sur l'utilisation de l'IA et des outils numériques pour améliorer l'accès des citoyens à l'information, y compris les personnes handicapées.
Certains systèmes de catégorisation biométrique utilisant des caractéristiques sensibles et l'extraction non ciblée d'images faciales sur Internet ou par vidéosurveillance pour créer des bases de données de reconnaissance faciale sont interdits par les nouvelles règles. Il sera également interdit de reconnaître les émotions sur le lieu de travail et dans les établissements d'enseignement, d'utiliser la notation sociale, de faire des prédictions basées uniquement sur le profilage d'une personne ou l'évaluation de ses caractéristiques, ainsi que d'utiliser l'IA pour manipuler le comportement humain ou exploiter les vulnérabilités des individus.
Il est généralement interdit aux services répressifs d'utiliser des systèmes d'identification biométrique, à moins de situations clairement énumérées et étroitement définies. La mise en place des systèmes d'identification biométrique "en temps réel" nécessite le respect de garanties rigoureuses.
Par exemple, leur usage est restreint dans le temps et la portée, et nécessite une autorisation judiciaire ou administrative préalable spécifique. Ces systèmes pourront spécifiquement être utilisés pour retrouver une personne disparue ou prévenir une attaque terroriste. Les systèmes d'identification biométrique à distance "a posteriori" sont perçus comme des pratiques à haut risque, qui requièrent une autorisation judiciaire en lien avec une infraction pénale.
Les autres systèmes d'IA à haut risque ont également été soumis à des obligations rigoureuses en raison de leur potentiel préjudice considérable pour la santé, la sécurité, les droits fondamentaux, l'environnement, la démocratie et l'État de droit. Les infrastructures critiques, l'éducation et la formation professionnelle, l'emploi, les services privés et publics essentiels (comme les soins de santé et les banques), certains systèmes de justice, la gestion des migrations et des frontières, la justice et les processus démocratiques (comme lorsque l'IA est utilisée pour influencer les élections) sont parmi les domaines d'utilisation à haut risque de l'IA. Il est important que ces systèmes fassent l’objet d’une évaluation et soient réduits en termes de risques, qu'ils soient accompagnés de registres d'utilisation, qu'ils soient transparents et précis, et qu'ils soient supervisés par des êtres humains. Les citoyens pourront porter plainte contre les systèmes d'IA et obtenir des explications sur les décisions prises en fonction de ces systèmes à haut risque qui impactent leurs droits.
La transparence et la législation européenne sur les droits d'auteurs devront être respectées par les systèmes d'IA à usage général et les modèles sur lesquels ils reposent, ainsi que la publication de résumés détaillés des contenus utilisés pour leur entraînement. Il y aura des exigences supplémentaires pour les systèmes d'IA à usage général plus puissants qui présentent un risque systémique. Par exemple, il faudra réaliser des évaluations de modèles, évaluer et atténuer les risques systémiques, et signaler les incidents.
En outre, il est essentiel de signaler clairement les images et les contenus audio et vidéo artificiels ou manipulés (également connus sous le nom de "deep fakes").
Les autorités nationales devront mettre en œuvre des "bacs à sable réglementaires" et des essais en conditions réelles afin de permettre aux PME et aux start-ups de développer et de tester des IA innovantes avant de les commercialiser.
Il est nécessaire que le Conseil adopte officiellement le règlement.
La législation prendra effet 20 jours après sa publication au Journal officiel et sera totalement applicable 24 mois après son entrée en vigueur, à l'exception de l'interdiction des pratiques interdites qui s'appliquera 6 mois après la date d'entrée en vigueur, des codes de pratique (9 mois après l'entrée en vigueur), des règles générales sur l'IA, telles que la gouvernance (12 mois après l'entrée en vigueur), et des obligations pour les systèmes à haut risque (36 mois).
« Aujourd’hui est un jour historique sur notre long chemin vers la réglementation de l’IA », a déclaré le corapporteur du texte Brando Benifei (sociaux-démocrates). Avec ce texte, « nous avons réussi à trouver un équilibre très fin entre l’intérêt d’innover et l’intérêt de protéger », a ajouté le corapporteur Dragos Tudorache (Renew, centristes et libéraux).
Toutefois, cette législation « n’est que le commencement », a-t-il relevé, rappelant que l’IA continue d’évoluer rapidement.
« Nous devrons être très attentifs à cette évolution de la technologie à l’avenir et être prêts à répondre aux nouveaux défis qui pourraient en découler »
a prévenu M. Tudorache.
L'Observatoire des multinationales (France), Corporate Europe Observatory (Belgique) et LobbyControl (Allemagne) craignent que les lobbys aient un impact négatif sur la mise en place des règles concernant l'intelligence artificielle. Plusieurs aspects de la loi sur l'IA demeurent incertains et nécessitent une clarification (...), tels que les normes, les seuils ou les obligations de transparence. Ils ont averti dans un communiqué commun que la composition du conseil consultatif de la nouvelle agence européenne pour l'IA demeure floue.
Vous souhaitez bénéficier d'une démonstration de la plateforme Livv.eu ?
Dans vos bureaux ou en visio, nos équipes s'adaptent à vos besoins.
Accédez à toute l'intelligence du droit des affaires
Inscrivez-vous gratuitement sur Livv et bénéficiez de notre expertise en droit des affaires.
Inscrivez-vous à la newsletter Livv
et recevez chaque semaine des informations exclusives en droit des affaires
