# Où s'arrêter > Cinq lignes rouges pour ne pas laisser l'IA trancher à la place d'un humain : évaluer une personne, un point de droit, un recrutement, une détresse, une orientation de vie. Avec ce que disent Anthropic elle-même et le RGPD sur la décision automatisée. > Source : [laurentberthelier.site/ou-sarreter/](https://laurentberthelier.site/ou-sarreter/) **Pour qui :** Jeunes + conseillers · **Durée :** 6 min · **Niveau :** Débutant Les neuf étapes précédentes apprennent à bien utiliser l'IA — à la formuler, la calibrer, la vérifier, l'appliquer. Celle-ci trace la limite : il existe des décisions où ce n'est plus une question de **mieux prompter**, mais de **refuser de demander**. --- ## 1 — Bien prompter ne suffit pas toujours Tout ce qui précède dans cette série part d'un principe : l'IA est un outil qu'on peut rendre meilleur en le briefant mieux. Calibration, vérification, structure — ce sont des leviers qui **améliorent** la réponse. Mais certaines décisions ne deviennent pas plus légitimes parce que le prompt est meilleur. Ce n'est pas un problème de qualité de réponse — c'est un problème de **qui a le droit de trancher**. Sur ces décisions-là, le bon réflexe n'est pas d'affiner le prompt : c'est de ne pas laisser l'IA conclure à la place d'un humain responsable. --- ## 2 — Cinq décisions qui restent humaines Pas une liste de tâches interdites — un repère pour reconnaître le moment où la question change de nature. **Ligne rouge 1 — Évaluer une personne** Juger qu'un jeune « n'est pas motivé », qu'un candidat « n'est pas prêt », qu'une situation est « de sa faute » : ce sont des jugements qui engagent une relation de confiance et une trajectoire. L'IA peut t'aider à *préparer* l'entretien qui permettra de comprendre une situation — elle ne doit jamais *rendre le verdict* à ta place. **Ligne rouge 2 — Trancher un point de droit à conséquences réelles** Un licenciement contestable, un droit social, une procédure : l'IA peut citer des articles, elle peut aussi se tromper avec assurance. Pour toute décision où l'erreur a un coût réel, le relais est un professionnel du droit ou un service compétent — pas une réponse, même bien sourcée. **Ligne rouge 3 — Filtrer ou décider un recrutement de façon automatisée** Laisser un système trancher seul qui est convoqué et qui est écarté n'est pas neutre. Une étude de l'Université de Washington (2024) a comparé plus de trois millions de CV soumis à des modèles de langage. Résultat : la plupart des modèles favorisaient les noms à consonance blanche (**85 %**). Très peu favorisaient les noms à consonance féminine (**11 %**). Les hommes noirs étaient les plus désavantagés. *Source : Wilson & Caliskan, Gender, Race, and Intersectional Bias in Resume Screening via Language Model Retrieval, AIES 2024.* **Ligne rouge 4 — Répondre à une détresse psychologique** Un message qui laisse penser à un mal-être grave, une idée suicidaire évoquée : ce n'est jamais le moment de chercher la bonne formule à l'IA. C'est le moment d'orienter vers un humain formé — un professionnel, ou en France le **3114**, numéro national de prévention du suicide, gratuit et disponible 24h/24. **Ligne rouge 5 — Décider de l'orientation de vie de quelqu'un** « Que dois-je faire de ma vie ? » mérite un accompagnement humain, pas un classement de métiers généré en dix secondes. L'IA aide à explorer des pistes ; elle ne doit jamais devenir celle qui décide pour quelqu'un d'autre — surtout pas pour un jeune en pleine construction. --- ## 3 — Une question pour trancher > Avant de laisser l'IA conclure : **si la décision se révèle mauvaise, quel humain devra l'assumer, l'expliquer et la corriger ?** S'il n'y a pas de réponse claire à cette question, c'est que la décision n'a pas encore de responsable — et qu'elle ne doit pas être automatisée. Ce test n'est pas une invention personnelle : c'est, en substance, ce que demandent à la fois les concepteurs de l'IA et le droit européen. --- ## 4 — Même Anthropic trace la ligne **Usage Policy — Anthropic** > Les usages à haut risque — dont les décisions automatisées en matière d'emploi, de droit ou de finance — exigent des garde-fous supplémentaires : une supervision humaine effective (« human-in-the-loop ») et la transparence sur l'usage de l'IA. *Source : Anthropic, Usage Policy Update, anthropic.com/news/usage-policy-update* **Article 22 du RGPD** > Toute personne a le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé qui produit des effets juridiques ou l'affecte de manière significative — et le droit d'obtenir une intervention humaine. *Source : CNIL, Vos droits à l'intervention humaine face à votre profilage ou à une décision automatisée.* Anthropic (qui fabrique l'outil) et le RGPD (qui encadre son usage) disent la même chose, chacun à sa façon : l'automatisation complète doit rester l'exception. Un humain doit toujours pouvoir réexaminer la décision. --- ## 5 — Pourquoi ça compte pour l'insertion **Cas pratique · Mission Locale** Un conseiller, débordé, demande à l'IA de « faire un premier tri » sur une pile de profils de jeunes pour prioriser qui recevoir en premier. **Le tri reflète les biais qu'aucun prompt ne corrige vraiment : noms, formulations, parcours atypiques mal notés.** Le même conseiller utilise l'IA pour préparer ses entretiens — reformuler des questions, résumer un dossier, suggérer des pistes de mobilisation — **mais c'est lui qui reçoit, qui écoute, et qui décide qui a besoin de quoi.** L'IA prépare la décision ; elle ne la rend pas. Accompagner, c'est précisément la part du travail qui résiste à l'automatisation : peser une situation singulière, assumer un choix, en répondre devant la personne concernée. Cette page ne dit pas « méfie-toi de l'IA » — elle dit où s'arrête son rôle, et où commence le tien. --- ## Quiz — Testez vos connaissances > Widget de quiz intégré directement dans la page `/ou-sarreter/` (section `#quiz`, juste avant la Bibliothèque de liens). Pas de page séparée : mécanique reprise du même gabarit que `/decouper/` et `/atelier-prompts/` (onglets de niveau, QCM à 4 réponses + Vrai/Faux mélangés aléatoirement — Fisher-Yates —, barre de progression, panneau de résultat avec explication + lien « → Revoir l'épisode », écran de score, bouton rejouer), habillée avec les couleurs déjà présentes sur `/ou-sarreter/` (`--teal`, `--teal-bright`, `--warn`, `--surface`, `--line`, `--ink`, `--ink-soft`) — classes et IDs préfixés `qzo-` pour éviter toute collision, pas de nouveau jeu de variables `:root`. **24 questions, 3 niveaux de 8 (Facile / Intermédiaire / Expert)**, toutes vérifiables dans le contenu de cette page uniquement. Mélange de QCM (4 réponses) et de Vrai/Faux, réparti aléatoirement à chaque partie. ### Niveau Facile (8 questions) 1. **QCM** — Combien de « lignes rouges » la page décrit-elle ? → **Cinq**. 2. **Vrai/Faux** — Cet épisode est le dixième et dernier épisode du Cycle 1 → **Vrai**. 3. **QCM** — Durée annoncée de l'épisode → **6 min**. 4. **Vrai/Faux** — L'épisode est annoncé de niveau « Expert » → **Faux** (niveau Débutant). 5. **QCM** — Numéro cité comme numéro national de prévention du suicide, gratuit et 24h/24 → **3114**. 6. **Vrai/Faux** — La Ligne rouge 1 concerne le fait d'évaluer une personne → **Vrai**. 7. **QCM** — Qui a le droit de trancher les décisions évoquées par les cinq lignes rouges ? → **Un humain responsable**. 8. **Vrai/Faux** — La page affirme que bien prompter suffit toujours à rendre une décision légitime → **Faux**. ### Niveau Intermédiaire (8 questions) 1. **QCM** — Étude citée sur les biais de recrutement automatisé (Ligne rouge 3) → **Une étude de l'Université de Washington (2024)**. 2. **Vrai/Faux** — Cette étude a mesuré que les modèles favorisaient les noms à consonance blanche dans 85 % des cas → **Vrai**. 3. **QCM** — Question posée dans « Une question pour trancher » → **Si la décision se révèle mauvaise, quel humain devra l'assumer, l'expliquer et la corriger ?** 4. **Vrai/Faux** — Sans réponse claire à cette question-test, la décision peut être automatisée sans problème → **Faux** (elle ne doit pas être automatisée). 5. **QCM** — Article du RGPD cité sur le droit à l'intervention humaine → **Article 22**. 6. **Vrai/Faux** — La Usage Policy d'Anthropic citée exige une supervision humaine effective pour les usages à haut risque → **Vrai**. 7. **QCM** — Dans le cas pratique « Mission Locale », que fait le conseiller qui reste dans son rôle ? → **Il utilise l'IA pour préparer ses entretiens, mais décide lui-même qui a besoin de quoi**. 8. **Vrai/Faux** — Selon la Ligne rouge 2, un point de droit à conséquences réelles doit être tranché par l'IA elle-même si elle cite ses sources → **Faux**. ### Niveau Expert (8 questions) 1. **QCM** — Titre exact de la Ligne rouge 5 → **Décider de l'orientation de vie de quelqu'un**. 2. **Vrai/Faux** — En cas de danger immédiat, la page indique qu'on peut appeler le 15 (SAMU) ou le 112 → **Vrai**. 3. **QCM** — Nombre de comparaisons sur lesquelles a porté l'étude de l'Université de Washington → **Plus de trois millions**. 4. **Vrai/Faux** — Selon l'étude citée, les noms à consonance féminine étaient favorisés dans 11 % des cas → **Vrai**. 5. **QCM** — Épisode du Cycle 1 cité comme portant sur « l'autre limite : ne pas laisser l'IA remplacer ton propre jugement » → **Garder son cerveau**. 6. **Vrai/Faux** — La conclusion dit que cette dixième étape s'ajoute simplement à la liste des compétences des neuf précédentes → **Faux** (« elle protège toutes les autres »). 7. **QCM** — Ce qui rend un conseiller difficile à remplacer, selon « Pourquoi ça compte pour l'insertion » → **Sa capacité à peser une situation singulière, assumer un choix et en répondre devant la personne concernée**. 8. **Vrai/Faux** — La page cite Anthropic et le RGPD comme deux sources qui disent, chacune à sa manière, la même chose sur la supervision humaine → **Vrai**. --- ## 6 — Bibliothèque de liens **Biais algorithmiques et recrutement** - [Gender, Race, and Intersectional Bias in Resume Screening via Language Model Retrieval](https://arxiv.org/abs/2407.20371) — L'étude de l'Université de Washington (Wilson & Caliskan, AIES 2024) citée ci-dessus. - [AI tools show biases in ranking job applicants' names](https://www.washington.edu/news/2024/10/31/ai-bias-resume-screening-race-gender/) — Le compte-rendu de l'étude par l'Université de Washington. **Ce que dit l'industrie et le droit** - [Usage Policy Update — Anthropic](https://www.anthropic.com/news/usage-policy-update) — Les exigences pour les usages à haut risque : emploi, droit, finance, santé. - [Vos droits à l'intervention humaine — CNIL](https://www.cnil.fr/fr/vos-droits-lintervention-humaine-face-votre-profilage-ou-une-decision-automatisee) — L'article 22 du RGPD expliqué simplement. - [Profilage et décision entièrement automatisée — CNIL](https://www.cnil.fr/fr/profilage-et-decision-entierement-automatisee) — Le cadre complet, côté régulateur français. **En cas de détresse** - [3114 — Numéro national de prévention du suicide](https://3114.fr/) — Gratuit, confidentiel, 24h/24 et 7j/7. En cas de danger immédiat : 15 (SAMU) ou 112. **Sur ce site** - [Garder son cerveau](https://laurentberthelier.site/garder-son-cerveau/) — L'autre limite : ne pas laisser l'IA remplacer ton propre jugement, même quand elle a raison. - [Protocole de calibration](https://laurentberthelier.site/protocole-calibration/) — Pour une IA honnête sur ce qu'elle sait et ne sait pas. - [Vérifier avant d'agir](https://laurentberthelier.site/verifier-avant-dagir/) — Le dernier filtre avant d'agir sur ce que l'IA a produit. --- ## 7 — Le fil de la série Les neuf étapes précédentes apprenaient à mieux travailler avec l'IA : la briefer, la calibrer, la vérifier, l'appliquer à des cas réels. Cette dixième n'ajoute pas une compétence de plus à la liste — **elle protège toutes les autres**. Tu ne deviens pas meilleur en apprenant à tout déléguer à l'IA. Tu deviens meilleur en sachant exactement ce que tu ne délègues jamais. --- ## Le fil du Cycle 2 — Faire avec l'IA (10 / 10) 1. [Découper](https://laurentberthelier.site/decouper/) — Le projet en morceaux 2. [Contextualiser](https://laurentberthelier.site/contextualiser/) — Arrêter de tout réexpliquer 3. [Itérer](https://laurentberthelier.site/iterer/) — La boucle qui avance 4. [Documenter](https://laurentberthelier.site/documenter/) — Donner ses sources à l'IA 5. [Composer](https://laurentberthelier.site/ecrire-avec-ia/) — Écrire sans sonner IA 6. [Outiller](https://laurentberthelier.site/outiller/) — Le bon outil pour la bonne tâche 7. [Mettre en forme](https://laurentberthelier.site/mettre-en-forme/) — Du texte brut au document 8. [Présenter](https://laurentberthelier.site/presenter/) — Tenir devant un public 9. [Automatiser (un peu)](https://laurentberthelier.site/automatiser/) — Ce qui se répète 10. [Livrer](https://laurentberthelier.site/livrer/) — Bon pour diffusion --- ## Le fil du Cycle 1 — Penser avec l'IA 1. [Atelier de prompts](https://laurentberthelier.site/atelier-prompts/) — Formuler 2. [Un cerveau supplémentaire](https://laurentberthelier.site/cerveau-supplementaire/) — Paramétrer 3. [Sortir du miroir](https://laurentberthelier.site/sortir-du-miroir/) — Recadrer 4. [Protocole de calibration](https://laurentberthelier.site/protocole-calibration/) — Calibrer 5. [Garder son cerveau](https://laurentberthelier.site/garder-son-cerveau/) — S'émanciper 6. [Vérifier avant d'agir](https://laurentberthelier.site/verifier-avant-dagir/) — Vérifier 7. [Désapprendre le prompting](https://laurentberthelier.site/desapprendre-le-prompting/) — Actualiser 8. [Prompter un CV](https://laurentberthelier.site/prompter-claude-cv/) — Appliquer 9. [Prompter une lettre](https://laurentberthelier.site/prompter-claude-lettre/) — Compléter 10. **Où s'arrêter** — Limiter *(cette page)* --- *Laurent Berthelier — Conseiller Mission Locale de Paris — [laurentberthelier.site](https://laurentberthelier.site) — 7 juillet 2026* ©️ Laurent Berthelier assisté par Claude.ai - [https://laurentberthelier.site/](https://laurentberthelier.site/)