Le Parlement européen a adopté, jeudi, une réglementation inédite dans le monde, sur l'intelligence artificielle. Parmi les mesures validées : la possibilité de déposer plainte contre les systèmes d'IA (Intelligence Artificielle).
Les équipes de communication du Parlement européen définissent l'événement comme « un pas de plus vers les premières règles sur l'intelligence artificielle », une position presque modeste face à ce qui s'apparente pourtant à une victoire, sans doute par pure conscience d'une route encore longue sur le chemin de la régulation. Les eurodéputés ont en effet adopté, jeudi 11 mai, les premières règles au monde sur l'intelligence artificielle, qui imposeront aux modèles de langage comme ChatGPT de se conformer à certaines exigences.
Face aux IA génératives, l'Union européenne appelle à une totale transparence
Ces règles sont rassemblées sous ce que l'on appelle l'« AI Act », un texte long de 144 pages qui va contribuer à la régulation du secteur au sein de l'Union européenne. Les eurodéputés ont été 84 à voter pour, 7 contre et 12 abstentions sont à noter. Les élus ont insisté, par le biais des amendements, pour garantir que les systèmes d'IA bénéficient d'un contrôle humain. Les valeurs de sûreté, de transparence, de traçabilité, de non-discrimination et de respect de l'environnement sont à l'honneur.
Les eurodéputés ont notamment inséré dans le texte des obligations pour toutes les entreprises qui fournissent des modèles d'IA de référence. Elles devront garantir auprès de l'Union européenne une protection élevée des droits fondamentaux, mais aussi de la santé, de la sécurité, de l'environnement, de la démocratie et de l'État de droit. Elles devront toutes s'enregistrer dans la base de données de l'UE.
Les IA génératives comme GPT, d'Open AI, seront soumises à des exigences de transparence supplémentaires. Par exemple, elles devront, à chaque contenu créé, indiquer que ce dernier a été généré par une intelligence artificielle et fournir la conception du modèle. L'UE veille ici à lutter conte le contenu illégal et à protéger le droit d'auteur.
L'UE, prête à bannir les IA qui seraient néfastes pour la sécurité au sens large des citoyens
Les citoyens européens ne seront pas en reste. Ils pourront en effet porter plainte contre des systèmes d'IA, s'ils estiment leurs droits bafoués. Les utilisateurs pourront aussi « recevoir des explications concernant les décisions fondées sur des systèmes d'IA à haut risque qui ont une incidence significative sur les droits ». D'ailleurs, le Parlement européen a choisi d'interdire l'utilisation d'IA intrusives et discriminatoires pour l'identification biométrique à distance et en temps réel (ou a posteriori) dans les espaces publics (ce qui risque de poser problème à la France), pour les systèmes de police prédictifs (profilage, localisation, comportement criminel antérieur), ou pour récupérer des éléments visuels issus de réseaux sociaux ou de vidéosurveillance destinés à créer des bases de données de reconnaissance faciale.
Concernant l'intelligence artificielle à haut risque justement, les députés ont décidé d'élargir la classification, pour y inclure la sécurité, les atteintes à la santé, les droits fondamentaux et l'environnement, comme nous le disions plus haut. Les eurodéputés ont aussi ajouté à cette liste les IA utilisées pour influencer les électeurs lors de campagnes électorales. À ce titre, les systèmes de recommandations utilisés par les réseaux sociaux seront aussi à classer dans cette catégorie d'IA à haut risque.
Les IA présentant un niveau de risque dit « inacceptable » pour la sécurité des citoyens seront, elles, purement et strictement interdites. L'UE vise ainsi les systèmes qui prônent la manipulation, qui exploitent les vulnérabilités des personnes ou qui sont utilisés pour la notation sociale. En somme, toute IA considérée comme néfaste pourra être bannie du territoire de l'Union européenne.
Précisions qu'après un vote définitif du Parlement (qui aura lieu entre le 12 et le 15 juin), c'est le Conseil qui aura la lourde tâche d'adopter la forme finale et définitive de cette législation. Mais les premières étapes ont été franchies avec succès.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Source : Parlement européen
