Sanctions Scoring Social IA Act : Interdit
Pratique Interdite - Sanction Maximale
Le scoring social à la chinoise est totalement interdit en Europe. Sanction : 35M€ ou 7% du CA mondial. Pas de dérogation possible.
En Chine, le système de crédit social note les citoyens sur leur comportement. Mauvaise note = interdiction de voyager, de prendre le train, d'accéder à certains emplois. L'Europe a dit non.
L'IA Act interdit explicitement ce type de scoring. C'est l'une des rares interdictions absolues du règlement. Aucune exception, aucune autorisation possible.
Mais attention : certaines entreprises européennes utilisent des systèmes qui pourraient s'en rapprocher dangereusement. Ce guide vous aide à identifier les risques.
Par Loïc Gros-Flandre
Directeur de Modernee - Agence IA et Fondateur de Soignant Voice. Expert en conformité IA et pratiques interdites IA Act.
Ce que vous allez apprendre
- → Ce qu'est exactement le scoring social interdit
- → La différence avec le scoring de crédit autorisé
- → 3 cas limites qui pourraient vous concerner
- → Comment vérifier que vos systèmes sont conformes
- → Les sanctions concrètes pour les contrevenants
Infographie : Distinction scoring social interdit vs scoring autorisé
🔍 Qu'est-ce que le Scoring Social Interdit ?
L'Article 5(1)(c) de l'IA Act interdit les systèmes qui évaluent ou classent des personnes sur la base de leur comportement social ou de caractéristiques personnelles connues, inférées ou prédites.
📋 Définition Officielle (Article 5)
Un système de scoring social est interdit s'il :
- 1️⃣ Évalue la fiabilité : Attribue un score de "fiabilité" ou de "confiance" généralisé
- 2️⃣ Utilise des données sociales : Se base sur le comportement social, les relations, les opinions
- 3️⃣ Agrège des contextes multiples : Combine des données de sources variées sans rapport
- 4️⃣ Entraîne un préjudice : Conduit à un traitement défavorable disproportionné
- 5️⃣ Affecte des domaines sans rapport : Les conséquences dépassent le contexte d'origine
L'Exemple Chinois : Le Système de Crédit Social
En Chine, le crédit social note les citoyens sur :
- • Paiement des factures à temps
- • Respect du code de la route
- • Comportement sur les réseaux sociaux
- • Fréquentations et relations
Conséquences : Interdiction de voyager, exclusion de certains emplois, stigmatisation publique. C'est EXACTEMENT ce que l'IA Act interdit.
⚖️ Ce qui est Autorisé vs Interdit
| Système | Statut | Explication |
|---|---|---|
| Scoring crédit bancaire | ✅ Autorisé | Finalité spécifique (solvabilité), données financières |
| Score de fidélité client | ✅ Autorisé | Contexte limité, conséquences proportionnées |
| Score RH compétences | ⚠️ Haut risque | Autorisé si basé sur compétences, pas personnalité |
| Score "fiabilité" générale | 🚫 Interdit | Agrégation de comportements multiples |
| Score réputation citoyenne | 🚫 Interdit | Système type chinois |
| Score basé réseaux sociaux | 🚫 Interdit | Données sociales, effet généralisé |
"Le scoring social représente une menace existentielle pour la dignité humaine. L'IA Act l'interdit de façon absolue, sans exception possible."
— Margrethe Vestager, Vice-présidente Commission Européenne
⚠️ 3 Cas Limites qui Pourraient Vous Concerner
Beaucoup d'entreprises utilisent des systèmes de scoring sans réaliser qu'ils pourraient basculer dans l'interdit. Voici 3 cas limites analysés.
🏢 Cas 1 : Plateforme de Services - Score de Fiabilité Utilisateur
Contexte
Une plateforme de services entre particuliers attribue un "score de fiabilité" basé sur : ponctualité, avis, réponses aux messages, annulations, comportement signalé.
Analyse :
- ✅ Ce qui est OK : Score de satisfaction pour un service spécifique
- ⚠️ Zone grise : Score agrégé visible par tous les utilisateurs
- 🚫 Interdit : Score qui entraîne exclusion de services sans rapport (logement, emploi, crédit...)
Verdict : Si le score reste limité à la plateforme = haut risque mais autorisé. S'il est partagé avec des tiers pour d'autres décisions = potentiellement interdit.
💼 Cas 2 : Assurance - Score Comportemental Auto
Contexte
Un assureur utilise une app de tracking pour noter le comportement de conduite : vitesse, freinage, heures de conduite, trajets fréquents.
Analyse :
- ✅ Ce qui est OK : Score utilisé uniquement pour la prime auto
- ⚠️ Zone grise : Score partagé avec d'autres branches de l'assureur
- 🚫 Interdit : Score utilisé pour refuser une assurance santé ou habitation
Verdict : Le scoring comportemental assurance est autorisé s'il reste strictement limité au contexte. Tout débordement vers d'autres domaines = scoring social.
👔 Cas 3 : RH - Score de Performance Élargi
Contexte
Une entreprise attribue un "score d'engagement" basé sur : heures de connexion, participation réunions, interactions Slack, feedbacks collègues, ponctualité.
Analyse :
- ✅ Ce qui est OK : Évaluation de performance basée sur les résultats
- ⚠️ Zone grise : Score incluant des éléments comportementaux subjectifs
- 🚫 Interdit : Score basé sur personnalité, vie privée, réseaux sociaux personnels
Verdict : Un scoring RH qui dépasse les compétences professionnelles pour évaluer le "comportement social" au travail peut basculer dans l'interdit.
🎯 Quiz : Votre scoring est-il conforme ? (5 min)
💰 Sanctions pour Scoring Social : Maximum Absolu
Le scoring social fait partie des pratiques interdites (Article 5). Il est sanctionné au niveau maximum de l'IA Act.
📊 Comparaison avec Autres Infractions
| Infraction | Sanction | % CA |
|---|---|---|
| Scoring social (interdit) | 35M€ | 7% |
| Non-conformité haut risque | 15M€ | 3% |
| Défaut documentation | 7,5M€ | 1,5% |
| RGPD (comparaison) | 20M€ | 4% |
Sanctions Additionnelles
Au-delà de l'amende, les sanctions IA Act peuvent inclure :
- • Interdiction définitive du système
- • Publication de la sanction avec nom de l'entreprise
- • Sanctions pénales contre les dirigeants
- • Injonction de destruction des données
📋 Guide 7 Étapes : Vérifier Votre Conformité
Identifier Tous Vos Systèmes de Scoring
Cartographiez tous les systèmes qui attribuent des notes ou scores aux individus : clients, employés, utilisateurs, candidats.
Durée : 1 semaine | Responsable : DSI + Métiers
Analyser les Données Utilisées
Pour chaque scoring : quelles données ? Comportementales ? Sociales ? Financières ? Professionnelles ?
Durée : 1 semaine | Responsable : Data + Juridique
Évaluer les Conséquences
Que se passe-t-il quand le score est bas ? Exclusion ? Refus de service ? Dans quel domaine ?
Durée : 1 semaine | Responsable : Juridique + Métiers
Vérifier la Proportionnalité
Les conséquences sont-elles proportionnées au contexte d'origine ? Un mauvais score sur une plateforme entraîne-t-il des effets ailleurs ?
Durée : 1 semaine | Responsable : DPO + Éthique
Documenter la Finalité
Justifiez par écrit que chaque scoring répond à un objectif spécifique, légitime et limité.
Durée : 2 semaines | Responsable : Juridique
Consulter un Expert
Faites valider la conformité par un expert IA Act. Les cas limites nécessitent un avis juridique qualifié.
Durée : Variable | Responsable : Direction + Juridique
Former les Équipes
Tous les collaborateurs doivent comprendre l'interdiction du scoring social et savoir identifier les cas limites.
Durée : 1 semaine | Responsable : RH + Compliance
🚨 Évaluateur de Risque : Votre Scoring est-il Interdit ?
❓ Questions Fréquentes sur le Scoring Social
Non. Le scoring de crédit basé sur la solvabilité financière reste autorisé (classé haut risque). C'est le scoring basé sur le comportement social généralisé qui est interdit.
Non, les avis sur un produit ou service spécifique ne sont pas du scoring social. Mais un système qui agrégerait TOUS vos avis pour créer un score de "fiabilité générale" pourrait l'être.
Non. L'interdiction s'applique aux acteurs publics ET privés. Une plateforme ou entreprise qui mettrait en place un tel système serait sanctionnée.
Le scoring comportemental pour un contexte spécifique (fidélité client, risque fraude) reste possible. Le scoring social agrège des comportements multiples pour un score de fiabilité générale.
La gamification (points, badges) pour motiver des comportements spécifiques n'est pas du scoring social. Elle le deviendrait si elle entraînait des conséquences préjudiciables dans des domaines sans rapport.
Un scoring RH basé sur les compétences professionnelles est autorisé. Un scoring basé sur la personnalité, les réseaux sociaux personnels ou le comportement social serait interdit.
Oui, dès que le système affecte des personnes situées dans l'UE. Un système chinois ciblant des citoyens européens serait visé par l'IA Act.
Documentez : la finalité spécifique de chaque scoring, les données utilisées (pas de données sociales générales), la proportionnalité des conséquences, l'absence d'effet généralisé.
"Si votre système donne une 'note de confiance' basée sur le comportement social et que cette note affecte l'accès à des services variés, vous êtes dans l'interdit."
— Dr. Paul Nemitz, Conseiller principal Commission Européenne
🎓 Formation : Identifier les Pratiques Interdites
Formation Certifiante AI Act
Apprenez à identifier les pratiques interdites et les cas limites. Évitez les sanctions maximales de 35M€.
- ✅ Module complet "Pratiques interdites"
- ✅ Cas pratiques scoring social
- ✅ Grille d'analyse de conformité
- ✅ Certificat valide dans toute l'UE
✅ Conclusion : Le Scoring Social N'a Pas Sa Place en Europe
L'IA Act trace une ligne rouge claire. Le scoring social à la chinoise est totalement interdit en Europe. Pas d'exception, pas de dérogation.
Les 3 points essentiels à retenir
- 1️⃣ Interdiction absolue : 35M€ ou 7% CA pour tout scoring social généralisé
- 2️⃣ Frontière fine : Un scoring de crédit qui intègre des données sociales peut basculer dans l'interdit
- 3️⃣ Vérifiez vos systèmes : De nombreuses entreprises ont des systèmes qui pourraient être concernés
Si vous avez le moindre doute sur un de vos systèmes de scoring, faites-le auditer. La sanction maximale ne laisse aucune place à l'erreur.
Le compte à rebours est lancé. Vérifiez vos systèmes de scoring maintenant.
Sources Officielles Citées
- Règlement (UE) 2024/1689 - IA Act • Article 5 : Pratiques interdites
- Commission Européenne • Cadre réglementaire IA
- CNIL - Dossier IA • Autorité française