Synthèse
En Europe, l’AI Act n’établit pas de tel « coupe-circuit étatique ». Son article 14 impose néanmoins des mesures de contrôle humain sur l’utilisation des systèmes d’IA classés à haut risque. Les fournisseurs concernés ont deux options. Soit intégrer ces mesures avant la mise sur le marché ou la mise en service, soit permettre aux déployeurs de les mettre en œuvre. Dans tous les cas, les personnes chargées du contrôle doivent pouvoir intervenir dans le fonctionnement du système d’IA. Ou l’interro
En Europe, l’AI Act n’établit pas de tel « coupe-circuit étatique ». Son article 14 impose néanmoins des mesures de contrôle humain sur l’utilisation des systèmes d’IA classés à haut risque. Les fournisseurs concernés ont deux options. Soit intégrer ces mesures avant la mise sur le marché ou la mise en service, soit permettre aux déployeurs de les mettre en œuvre. Dans tous les cas, les personnes chargées du contrôle doivent pouvoir intervenir dans le fonctionnement du système d’IA.
Ou l’interrompre « au moyen d’un bouton d’arrêt ou d’une procédure similaire ». Une exigence de contrôle humain accru s’applique pour les systèmes d’identification biométrique à distance. Le déployeur ne doit pas pouvoir prendre de décision sans vérification et confirmation séparée par au moins deux personnes physiques. * Il existerait une exception pour les technologies destinées uniquement à un usage « personnel, académique ou non commercial ».