Depuis 2021, l'Union Européenne travaille sur l'IA Act, la première loi au monde à classer les systèmes d'IA selon leur niveau de risque.
Les 4 niveaux de risque
- Niveau 1 — Minimal : aucune pré-évaluation (machine à laver IA, filtres anti-spam)
- Niveau 2 — Transparence : informer l'utilisateur (chatbots, deepfakes)
- Niveau 3 — Haut risque : évaluation obligatoire (recrutement, médical, police)
- Niveau 4 — Inacceptable : interdit (notation sociale, biométrie en temps réel)
Les systèmes interdits
- Identification biométrique en temps réel à distance
- Notation sociale (« social scoring »)
- Manipulation cognitivo-comportementale de personnes vulnérables
- Reconnaissance des émotions à l'école et au travail
Obligations pour l'IA générative
Les modèles comme ChatGPT doivent être conçus pour empêcher la génération de contenu illégal. Les utilisateurs doivent être informés qu'un contenu est généré par IA.
Les défis
- Risque de surrégulation
- Complexité de mise en œuvre
- Conformité internationale complexe
Les opportunités
- Confiance des consommateurs renforcée
- Concurrence équitable
- Innovation responsable
- Leadership européen en IA éthique
L'IA Act marque une étape historique : la première fois qu'une grande puissance économique tente d'encadrer juridiquement l'IA avec une approche proportionnée au risque.
Pour en savoir plus : FAQ CNIL · Textes officiels
