Les députés veulent que les chatbots incluent des garanties qui les empêcheront de générer du contenu illégal en vertu du droit de l’UE.
Les députés européens ont voté à une écrasante majorité jeudi matin pour faire avancer un projet de règlement visant à assurer le “développement éthique” de l’intelligence artificielle (IA), une technologie en évolution rapide qui a suscité des inquiétudes concernant la désinformation, la vie privée, la surveillance, la discrimination, le plagiat, l’usurpation d’identité et même l’avenir de la démocratie.
Avec les nouvelles règles à l’échelle de l’UE, les législateurs veulent garantir que les systèmes d’IA sont “supervisés par des personnes, sûrs, transparents, traçables, non discriminatoires et respectueux de l’environnement”, a déclaré un communiqué de presse.
Les députés européens “veulent également avoir une définition uniforme de l’IA conçue pour être technologiquement neutre, afin qu’elle puisse s’appliquer aux systèmes d’IA d’aujourd’hui et de demain”.
Le vote, qui a eu lieu lors d’une session conjointe des commissions du marché intérieur et des libertés civiles, a ajouté de nouvelles dispositions au texte initial proposé par la Commission européenne, notamment de nouvelles obligations sur les modèles de fondation dits génératifs, comme ChatGPT, le chatbot développé par OpenAI qui a révolutionné l’industrie technologique depuis son lancement fin novembre.
Les modèles de base sont ceux formés avec de vastes quantités de données, telles que du texte, des images, de la musique, de la parole et du code, dans le but d’accomplir un ensemble de tâches large et en constante évolution, plutôt que d’avoir un objectif spécifique et non modifiable. Les chatbots comme le GPT d’OpenAI et le BERT de Google sont quelques-uns des premiers exemples de cette technologie, qui devrait encore évoluer dans les années à venir.
Alors que les investisseurs ont sauté sur les chatbots, les critiques ont décrié leur développement incontrôlé, sonner l’alarme sur les préjugés, les discours de haine, les fausses nouvelles, la propagande d’État, les violations de la propriété intellectuelle, les licenciements, les cyberattaques et la frontière de plus en plus floue entre l’humain et l’artificiel.
Conscients des préoccupations croissantes, les législateurs ont ajouté des amendements pour garantir que les chatbots sont transparents, ne produisent pas de contenu illégal en vertu du droit de l’UE, respectent les règles du droit d’auteur et respectent les droits fondamentaux comme la liberté d’expression.
“Les modèles de base génératifs devraient garantir la transparence sur le fait que le contenu est généré par un système d’IA, et non par des humains”, le nouveau texte se lit.
Les députés ont également poussé à élargir la liste des applications d’IA “intrusives et discriminatoires” qui devraient être strictement interdites sur le territoire de l’UE. La liste élargie couvre l’identification biométrique en temps réel dans les espaces publics, les systèmes de police prédictive et la reconnaissance des émotions dans les forces de l’ordre et les lieux de travail.
Les systèmes d’IA qui ont le pouvoir d’influencer les électeurs dans les campagnes politiques ne seront pas interdits mais seront considérés comme à haut risque et donc soumis à un examen plus approfondi, ont déclaré les législateurs.
Le mandat de jeudi a été approuvé avec 84 voix pour, 7 contre et 12 abstentions. Plus de 3 000 amendements ont été déposés avant la session, témoignant de l’intérêt remarquable porté à la technologie.
Le vote est cependant loin d’être définitif : les eurodéputés doivent encore approuver leur mandat de négociation en session plénière, qui sera ensuite utilisé pour les discussions avec les États membres. Ces pourparlers, connus dans le parlement bruxellois sous le nom de “trilogues”, s’annoncent intenses et protégés, compte tenu des enjeux et des attentes.
Ce processus débouchera sur un texte de compromis, qui sera ensuite revoté par les colégislateurs avant d’entrer en vigueur.
La loi sur l’intelligence artificielle a été proposée pour la première fois par la Commission en avril 2021, bien avant l’explosion du marché des chatbots. La loi impose des obligations et des restrictions aux entreprises d’IA en fonction du risque que leurs produits présentent pour la société : risque minimal, risque limité, risque élevé et inacceptable.
Les systèmes à haut risque devront subir une évaluation de conformité, être enregistrés dans une base de données de l’UE et porter le marquage CE avant d’être mis sur le marché. Cela redémarrera à chaque mise à jour.
Les chatbots ne seront pas considérés comme à haut risque, ont déclaré les législateurs, malgré les dispositions renforcées.
En vertu du texte modifié, les entreprises qui enfreignent les règles pourraient encourir des amendes pouvant atteindre 40 millions d’euros ou 7 % de leur chiffre d’affaires annuel mondial, selon le montant le plus élevé.
L’approche centrée sur l’humain et globale du règlement de l’UE est considérée comme une étape pionnière dans l’effort mondial visant à freiner les excès de l’IA, que beaucoup considèrent comme la technologie la plus perturbatrice depuis l’avènement du World Wide Web (WWW).
Cette histoire a été mise à jour pour inclure plus de détails sur le vote.
