Limites · ce qu'on ne délègue pas
Les dix étapes précédentes apprennent à bien utiliser l'IA — à la formuler, la calibrer, la vérifier, l'appliquer. Celle-ci trace la limite : il existe des décisions où ce n'est plus une question de mieux prompter, mais de refuser de demander.
01 — le principe
Tout ce qui précède dans cette série part d'un principe : l'IA est un outil qu'on peut rendre meilleur en le briefant mieux. Calibration, vérification, structure — ce sont des leviers qui améliorent la réponse.
Mais certaines décisions ne deviennent pas plus légitimes parce que le prompt est meilleur. Ce n'est pas un problème de qualité de réponse — c'est un problème de qui a le droit de trancher. Sur ces décisions-là, le bon réflexe n'est pas d'affiner le prompt : c'est de ne pas laisser l'IA conclure à la place d'un humain responsable.
02 — les lignes rouges
Pas une liste de tâches interdites — un repère pour reconnaître le moment où la question change de nature.
Ligne rouge 1
Juger qu'un jeune « n'est pas motivé », qu'un candidat « n'est pas prêt », qu'une situation est « de sa faute » : ce sont des jugements qui engagent une relation de confiance et une trajectoire. L'IA peut t'aider à préparer l'entretien qui permettra de comprendre une situation — elle ne doit jamais rendre le verdict à ta place.
Ligne rouge 2
Un licenciement contestable, un droit social, une procédure : l'IA peut citer des articles, elle peut aussi se tromper avec assurance. Pour toute décision où l'erreur a un coût réel, le relais est un professionnel du droit ou un service compétent — pas une réponse, même bien sourcée.
Ligne rouge 3
Laisser un système trancher seul qui est convoqué et qui est écarté n'est pas neutre. Une étude de l'Université de Washington (2024) a comparé plus de trois millions de CV soumis à des modèles de langage. Résultat : la plupart des modèles favorisaient les noms à consonance blanche (85 %). Très peu favorisaient les noms à consonance féminine (11 %). Les hommes noirs étaient les plus désavantagés.
Source : Wilson & Caliskan, Gender, Race, and Intersectional Bias in Resume Screening via Language Model Retrieval, AIES 2024.Ligne rouge 4
Un message qui laisse penser à un mal-être grave, une idée suicidaire évoquée : ce n'est jamais le moment de chercher la bonne formule à l'IA. C'est le moment d'orienter vers un humain formé — un professionnel, ou en France le 3114, numéro national de prévention du suicide, gratuit et disponible 24h/24.
Ligne rouge 5
« Que dois-je faire de ma vie ? » mérite un accompagnement humain, pas un classement de métiers généré en dix secondes. L'IA aide à explorer des pistes ; elle ne doit jamais devenir celle qui décide pour quelqu'un d'autre — surtout pas pour un jeune en pleine construction.
03 — le test
Avant de laisser l'IA conclure : si la décision se révèle mauvaise, quel humain devra l'assumer, l'expliquer et la corriger ? S'il n'y a pas de réponse claire à cette question, c'est que la décision n'a pas encore de responsable — et qu'elle ne doit pas être automatisée.
Ce test n'est pas une invention personnelle : c'est, en substance, ce que demandent à la fois les concepteurs de l'IA et le droit européen.
04 — ce que dit l'industrie elle-même
Usage Policy — Anthropic
Les usages à haut risque — dont les décisions automatisées en matière d'emploi, de droit ou de finance — exigent des garde-fous supplémentaires : une supervision humaine effective (« human-in-the-loop ») et la transparence sur l'usage de l'IA.
Source : Anthropic, Usage Policy Update, anthropic.com/news/usage-policy-updateArticle 22 du RGPD
Toute personne a le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé qui produit des effets juridiques ou l'affecte de manière significative — et le droit d'obtenir une intervention humaine.
Source : CNIL, Vos droits à l'intervention humaine face à votre profilage ou à une décision automatisée.Anthropic (qui fabrique l'outil) et le RGPD (qui encadre son usage) disent la même chose, chacun à sa façon : l'automatisation complète doit rester l'exception. Un humain doit toujours pouvoir réexaminer la décision.
05 — l'enjeu
Cas pratique · Mission Locale
Un conseiller, débordé, demande à l'IA de « faire un premier tri » sur une pile de profils de jeunes pour prioriser qui recevoir en premier. Le tri reflète les biais qu'aucun prompt ne corrige vraiment : noms, formulations, parcours atypiques mal notés.
Le même conseiller utilise l'IA pour préparer ses entretiens — reformuler des questions, résumer un dossier, suggérer des pistes de mobilisation — mais c'est lui qui reçoit, qui écoute, et qui décide qui a besoin de quoi. L'IA prépare la décision ; elle ne la rend pas.
Accompagner, c'est précisément la part du travail qui résiste à l'automatisation : peser une situation singulière, assumer un choix, en répondre devant la personne concernée. Cette page ne dit pas « méfie-toi de l'IA » — elle dit où s'arrête son rôle, et où commence le tien.
quiz
24 questions sur cet épisode, réparties en 3 niveaux de 8. QCM et Vrai/Faux mélangés — choisis ton niveau.
06 — pour aller plus loin
la boucle
Les dix étapes précédentes apprenaient à mieux travailler avec l'IA : la briefer, la calibrer, la vérifier, l'appliquer à des cas réels. Cette onzième n'ajoute pas une compétence de plus à la liste — elle protège toutes les autres. Tu ne deviens pas meilleur en apprenant à tout déléguer à l'IA. Tu deviens meilleur en sachant exactement ce que tu ne délègues jamais.
Le Règlement Général sur la Protection des Données est une loi européenne qui protège vos informations personnelles depuis mai 2018.
Le RGPD vous donne le contrôle sur vos données personnelles. Toute entreprise qui collecte vos informations (nom, email, téléphone, localisation, historique de navigation…) doit respecter des règles strictes.
1. Droit d'accès — Demander à une entreprise quelles données elle a sur vous 2. Droit de rectification — Corriger des infos fausses ou incomplètes 3. Droit à l'effacement ("droit à l'oubli") — Demander la suppression de vos données 4. Droit à la portabilité — Récupérer vos données dans un format lisible 5. Droit d'opposition — Refuser l'utilisation de vos données pour du marketing 6. Droit à la limitation — Geler temporairement l'utilisation de vos données 7. Droit à l'information — Être informé clairement de ce qu'on fait de vos données 8. Droit de ne pas faire l'objet d'une décision automatisée — Un humain peut intervenir
Quand vous utilisez une IA (ChatGPT, Claude, Gemini…), vos conversations sont envoyées sur des serveurs. C'est pourquoi : • Ne partagez JAMAIS de vrais noms, adresses, numéros de téléphone • Anonymisez vos documents avant de les coller (CV, lettres…) • Les IA européennes (Mistral) stockent vos données en Europe • Les IA américaines (ChatGPT, Claude) transfèrent vos données aux USA