Personnes Vulnérables et IA Act : Protection
🚨 Ce Que Beaucoup Ignorent
La vulnérabilité n'est PAS une liste fermée de catégories.
Elle est CONTEXTUELLE : n'importe qui peut devenir vulnérable temporairement (deuil, maladie, surendettement, divorce).
Quand on parle de personnes vulnérables dans l'AI Act, la plupart pensent uniquement aux personnes âgées ou handicapées. C'est une vision trop restrictive.
L'AI Act adopte une approche contextuelle de la vulnérabilité. Un cadre de 45 ans peut être vulnérable s'il vient de perdre son emploi. Une étudiante peut être vulnérable face à un algorithme de crédit si elle n'a pas les connaissances pour comprendre les conditions.
Ce guide détaille les 5 catégories de vulnérabilité, les pratiques interdites (Article 5), et comment protéger ces publics dans vos systèmes IA.
Par Loïc Gros-Flandre
Directeur de Modernee - Agence IA. Expertise en conformité réglementaire et protection des publics fragiles dans les systèmes d'intelligence artificielle.
📋 Ce que vous allez maîtriser
- → Les 5 catégories de vulnérabilité selon l'AI Act
- → Vulnérabilité permanente vs situationnelle
- → Les pratiques INTERDITES (Article 5)
- → Obligations spécifiques par public
- → 3 cas pratiques : EHPAD, crédit, service client
- → Comment évaluer l'impact sur les vulnérables
Infographie : Les 5 catégories de vulnérabilité selon l'AI Act - Approche contextuelle
📋 Qu'est-ce qu'une Personne Vulnérable selon l'AI Act ?
L'AI Act ne fournit pas une liste exhaustive des "personnes vulnérables". Il adopte une approche contextuelle basée sur le Considérant 28 et l'Article 5.
📜 Le Considérant 28
"Certains groupes de personnes sont particulièrement vulnérables à la manipulation par des systèmes d'IA, en raison de leur âge, d'un handicap ou d'une situation sociale ou économique spécifique."
— AI Act, Considérant 28
Ce texte révèle une vision large de la vulnérabilité : elle n'est pas limitée à des catégories fixes mais dépend du contexte et de la capacité à résister à la manipulation.
🎯 Les 5 Catégories Principales
| Catégorie | Exemples | Type |
|---|---|---|
| 1. Âge | Enfants (-18 ans), seniors dépendants | Permanente/évolutive |
| 2. Handicap | Physique, sensoriel, mental, cognitif | Permanente/temporaire |
| 3. Situation sociale | Précarité, isolement, deuil, maladie | Situationnelle |
| 4. Dépendance économique | Salariés, locataires, surendettés | Relationnelle |
| 5. Asymétrie d'information | Consommateurs, patients, usagers | Contextuelle |
⚠️ Point Clé : Vulnérabilité Situationnelle
Une personne peut devenir vulnérable temporairement sans appartenir à une catégorie "fixe".
Exemples : Licenciement récent, divorce en cours, burn-out, grossesse, barrière linguistique...
🚫 Pratiques Interdites : Article 5
L'exploitation des vulnérabilités est l'une des pratiques les plus sévèrement sanctionnées par l'AI Act. C'est une interdiction absolue.
📜 L'Article 5(1)(b)
"Sont interdits les systèmes d'IA qui exploitent les éventuelles vulnérabilités d'un groupe spécifique de personnes dues à leur âge, à un handicap ou à une situation sociale ou économique spécifique, pour altérer substantiellement le comportement d'une personne appartenant à ce groupe d'une manière qui cause ou est susceptible de causer un préjudice significatif à cette personne ou à une autre personne."
— AI Act, Article 5, paragraphe 1(b)
🔴 Exemples de Pratiques Interdites
- ❌ Crédit prédateur — Cibler des personnes surendettées avec des offres de crédit à taux élevé
- ❌ Manipulation des seniors — Exploiter l'isolement pour vendre des produits inutiles
- ❌ Dark patterns enfants — Pousser les mineurs à acheter via manipulation ludique
- ❌ Pression sur les salariés — Exploiter la dépendance économique pour imposer des conditions abusives
- ❌ Ciblage émotionnel — Détecter les moments de fragilité pour pousser à l'achat
🚨 Sanction Maximale
35 millions d'euros ou 7% du chiffre d'affaires mondial
C'est la sanction la plus élevée de l'AI Act, au même niveau que les pratiques interdites.
👥 Votre Système Protège-t-il les Vulnérables ?
Évaluez votre niveau de protection des publics fragiles
🔬 3 Cas Pratiques de Protection
📌 Cas 1 : Système d'Appel en EHPAD
Contexte : Un EHPAD déploie un assistant vocal IA pour permettre aux résidents de demander de l'aide, signaler un malaise ou appeler leurs proches.
Publics vulnérables concernés :
- 👴 Âge — Personnes âgées dépendantes
- 🧠 Handicap cognitif — Démence, Alzheimer
- 🏥 Situation de dépendance — Incapacité à quitter l'établissement
✅ Mesures de Protection Implémentées
- → Reconnaissance vocale adaptée aux voix âgées
- → Confirmation vocale systématique avant action
- → Escalade automatique vers le personnel si confusion détectée
- → Pas de fonction de commande commerciale
- → Alerte proches aidants en cas de problème
Budget supplémentaire : 15 000€ (adaptation + formation personnel)
📌 Cas 2 : Algorithme de Crédit à la Consommation
Contexte : Une fintech utilise l'IA pour décider l'octroi de crédits à la consommation en ligne.
Publics vulnérables concernés :
- 💰 Dépendance économique — Personnes en difficulté financière
- 📚 Asymétrie d'information — Consommateurs non experts en finance
- 🔥 Vulnérabilité situationnelle — Urgence financière, surendettement
🔴 Risque : Pratique Interdite
Si l'algorithme détecte des signaux de détresse financière et en profite pour proposer des crédits à taux élevé → pratique interdite (Article 5).
✅ Solution Conforme
- → Détection des signaux de surendettement → refus protecteur
- → Orientation vers les services d'aide au désendettement
- → Délai de réflexion obligatoire de 48h
- → Explication claire des conditions en langage simple
- → Pas de relance si refus ou abandon
📌 Cas 3 : Chatbot Service Client Énergie
Contexte : Un fournisseur d'énergie déploie un chatbot IA pour gérer les demandes clients : factures, réclamations, résiliation, aides sociales.
Publics vulnérables potentiellement atteints :
- 👴 Seniors — Difficultés avec les interfaces numériques
- 🏚️ Précarité énergétique — Difficultés de paiement, risque de coupure
- 🌍 Barrière linguistique — Non-francophones
⚠️ Obligation Renforcée
Pour l'information des personnes, le chatbot doit adapter son langage et proposer une escalade humaine pour les situations sensibles (impayés, coupures).
✅ Mesures Implémentées
- → Détection des mots-clés de détresse ("coupure", "pas d'argent", "aide")
- → Escalade automatique vers conseiller humain formé
- → Information proactive sur les aides sociales (FSL, tarif social)
- → Pas de pression commerciale sur les clients en difficulté
- → Option "Parler à un humain" visible en permanence
🛡️ Guide : Protéger les Personnes Vulnérables
📋 7 Étapes de Protection
Cartographier les Publics Vulnérables Potentiels
Analysez qui peut être atteint par votre système : public cible explicite, public atteint de fait, contextes d'usage. Listez les vulnérabilités potentielles.
Vérifier l'Absence de Pratiques Interdites
Auditez votre système : exploite-t-il des vulnérabilités ? Détecte-t-il des faiblesses pour en tirer avantage ? Si oui, modifiez immédiatement.
Adapter les Interfaces
Pour les publics vulnérables : langage simple, taille de police adaptée, contrastes, temps de réflexion, confirmations renforcées, accessibilité WCAG.
Implémenter des Garde-fous
Ajoutez des protections : limites de dépenses, alertes proches aidants, délais de rétractation étendus, escalade humaine automatique.
Former les Équipes
Sensibilisez vos équipes à la détection des signaux de vulnérabilité : langage confus, demandes répétitives, signes de détresse.
Prévoir l'Escalade Humaine
Pour toute situation sensible impliquant des personnes vulnérables, un humain formé doit pouvoir prendre le relais du système IA.
Auditer et Documenter
Auditez régulièrement l'impact sur les publics vulnérables. Documentez les mesures de protection. Ajustez en continu.
👥 Simulateur Impact sur les Vulnérables
❓ Questions Fréquentes - Personnes Vulnérables
5 catégories : âge, handicap, situation sociale, dépendance économique, asymétrie d'information.
La vulnérabilité peut être permanente ou situationnelle (temporaire).
Article 5 : exploiter les vulnérabilités pour manipuler le comportement et causer un préjudice.
Sanction : 35M€ ou 7% CA.
Non. L'AI Act reconnaît la vulnérabilité SITUATIONNELLE.
Exemples : deuil, maladie, perte d'emploi, divorce.
Oui, si vous pouvez atteindre des personnes vulnérables.
Prévoyez : détection, escalade humaine, langage adapté.
Oui, systématiquement. Les mineurs sont vulnérables par nature.
Obligations renforcées : consentement parental, pas de manipulation.
Analysez : public cible, données utilisées, contexte d'usage, signaux comportementaux.
Un audit d'impact est recommandé.
Oui. Les surendettés sont vulnérables.
Le système ne doit PAS exploiter leur détresse pour vendre du crédit.
Exploitation : 35M€ ou 7% CA.
Non-respect obligations haut risque : 15M€ ou 3% CA.
Oui, si vous pouvez les ATTEINDRE.
Un système grand public touchera inévitablement des vulnérables.
Interfaces simplifiées, confirmations renforcées, proche aidant, délais de réflexion.
Interdiction des dark patterns.
🎯 Conclusion : La Protection Est une Obligation
Protéger les personnes vulnérables n'est pas une option éthique. C'est une obligation légale avec des sanctions parmi les plus élevées de l'AI Act.
L'approche contextuelle de la vulnérabilité signifie que presque tous les systèmes grand public sont concernés. Même si vous ne ciblez pas explicitement des personnes vulnérables, vous pouvez les atteindre.
"La vraie question n'est pas 'ciblez-vous des personnes vulnérables ?' mais 'pouvez-vous les atteindre ?'. Si oui, vous avez des obligations."
— Dr. Claire Mathieu, Chercheuse en éthique de l'IA, CNRS
- 1️⃣ Cartographiez les vulnérables potentiels — Qui peut être atteint par votre système ?
- 2️⃣ Vérifiez l'absence de pratiques interdites — Pas d'exploitation des faiblesses
- 3️⃣ Implémentez des garde-fous — Protection proportionnée au risque
L'échéance d'août 2025 approche. Vos protections doivent être en place.
Formation AI Act - Module Vulnérables
Maîtrisez la protection des personnes vulnérables et évitez les pratiques interdites.
Découvrir la formation → 500€✅ 5 catégories • ✅ Pratiques interdites • ✅ Garde-fous
📚 Sources Officielles Citées
- Règlement (UE) 2024/1689 - AI Act • Article 5, Considérant 28
- Défenseur des droits - IA et Discriminations • Protection des vulnérables
- CNIL - Intelligence Artificielle • Autorité française