Vos droits face aux décisions de l'IA : ce que dit l'AI Act et l'Union européenne

L'IA Act européenne ne se limite pas à poser des règles pour ceux qui développent ou déploient des systèmes d'intelligence artificielle : le règlement crée des droits pour les citoyens. Droit à l’information, droit à l’explication, droit à une intervention humaine — ces protections existaient partiellement dans le RGPD, mais l’AI Act les renforce et les étend à des situations inédites. Premier régime juridique mondial en matière d’IA, il fait de la protection des droits fondamentaux une condition non négociable du déploiement des systèmes automatisés (article 13 à 15, AI Act).

Le constat du refus des décisions automatisées qui s'imposent sans explications

À l'heure actuelle de nombreuses décisions prises par des IA peuvent affecter notre vie quotidienne, c'est ce qu'a pu souligner la Défenseure des droits dès 2024 concernant l'algorithmisation des services publics.

Avant l’adoption de l’AI Act, le RGPD (article 22) reconnaissait un droit - relativement limité - à ne pas faire l’objet d’une décision exclusivement automatisée ayant des effets juridiques ou significatifs sur la personne. En pratique, ce droit restait difficilement mobilisable et peu connu des justiciables, notamment dans les procédures complexes. L’IA Act institue désormais des obligations claires, systématiques et applicables dans l’ensemble de l’Union européenne (EUR-Lex – AI Act, articles 13 à 15).

Les droits consacrés par l’AI Act

L'IA Act confère des droits aux citoyens et notamment les suivants.

Le droit à l'information

Conformément à l’article 13, §1 de l'IA Act, chaque citoyen a le droit d’être informé lorsqu’un système d’IA a participé à une décision le concernant, notamment dans les domaines identifiés comme à haut risque.

Par exemple, un citoyen doit recevoir une notification lorsque son CV a été filtré par un logiciel d'IA ou encore, il doit être informé qu'une recommandation médicale a été déduite avec l'aide d'un outil IA.

Cette information doit être claire, intelligible et compréhensible, permettant à l’individu d’appréhender l’influence réelle de l’IA.

Le droit à l'explication intelligible

Conformément à l'article 12, §2 de l'IA Act, chaque citoyen a le droit d'obtenir une explication compréhensible des critères et de la logique qui ont conduit à la décision qui le concerne. Ici, il n'est pas nécessaire d'obtenir des informations techniques sur le code source ou sur le détail des algorithmes mais les motifs principaux et la logique globale qui a été adoptée pour conduire au résultat sur lesquels s'appuie la décision.

Par exemple, si un établissement scolaire a recours à un outil IA pour trier les candidatures des étudiants, l'établissement doit être en mesure de clarifier les éléments qui ont pesé dans le classement final et d'en donner une explication concrète et intelligible (moyennes scolaires, recommandations, etc.).

Ce droit complète les obligations de transparence prévues par le RGPD et favorise la responsabilisation des opérateurs.

Le droit à l'intervention humaine

L'IA Act dispose que toute décision automatisée à haut risque puisse être réexaminée par une personne physique. Ce droit garantit que la décision finale reste sous supervision humaine, limitant les risques d’erreurs ou de discrimination. (Article 14 AI Act).

Par exemple, pour une décision de prise en charge médicale, même si une IA est utilisée pour l'aide au diagnostic, le médecin doit toujours valider cette prise en charge. Il y a donc une validation humaine et une aide de l'IA.

L’intervention humaine doit être effectivement possible et significative, et non purement formelle.

Le droit de contester

Conformément à l’article 15 AI Act, vous avez le droit de contester toute décision prise ou influencée par un système d’IA, et d’accéder à une voie de recours effective. Cette contestation peut être portée :

• auprès de l’opérateur ou du service public concerné ;

• auprès de l’autorité nationale de contrôle compétente (en France, la CNIL et, selon les cas, l’Arcom) ;

• devant les tribunaux en dernier recours.

Ce droit garantit que les décisions automatisées ne privent pas les individus de mécanismes classiques de recours.

Comment exercer ses droits en matière d'IA ?

Il convient de souligner que les droits consacrés par l’AI Act, bien que juridiquement établis, nécessitent d'être mis en œuvre par les citoyens et les administrations. La législation européenne a fixé un cadre clair et contraignant, mais les mécanismes de recours, d’explication et d’intervention humaine sont encore récents et en phase de mise en pratique.

Ce contexte nouveau implique que l’efficacité réelle de ces droits dépendra largement de la mobilisation des personnes concernées. C’est en demandant des explications, en sollicitant des interventions humaines ou en contestant des décisions automatisées que les citoyens donneront corps à ces protections et permettront au texte de produire son effet concret.

Autrement dit, le règlement crée les conditions d’une protection systématique, mais celle-ci ne prendra pleinement sens que lorsque les individus apprendront à identifier les situations concernées et à exercer activement leurs droits. Les autorités de contrôle, telles que la CNIL en France, pourront accompagner ce processus, mais la force réelle du texte repose sur une appropriation citoyenne et proactive.

Cette perspective met en lumière une dimension essentielle : le droit à l’IA n’est pas seulement normatif, il est aussi participatif. L’avenir de la régulation de l’IA dans l’Union européenne dépendra donc autant de la législation que de l’engagement des utilisateurs à faire respecter leurs droits.