De la peur au cadre : appliquer la co-agencéité humain–IA aux secteurs du monde réel

This post is also available in: English

Le débat public autour de l’intelligence artificielle commence souvent par des préoccupations. Dans l’éducation, beaucoup s’interrogent sur ce que devient la salle de classe lorsque les systèmes d’IA interviennent de plus en plus dans l’apprentissage, l’évaluation et l’accompagnement des élèves.. Dans l’administration publique, les inquiétudes portent souvent sur l’opacité des systèmes et sur la difficulté à identifier clairement la responsabilité lorsque les décisions sont de plus en plus médiatisées par la technologie. Dans le monde du travail, le débat concerne fréquemment le déplacement de certains emplois, la gestion algorithmique, les agents d’IA et l’évolution du rôle du jugement humain. Dans les environnements institutionnels à forts enjeux, les questions deviennent encore plus sensibles : où commence la délégation, où la supervision reste-t-elle réellement significative, et qui demeure responsable ?

Ces préoccupations sont réelles, mais elles sont souvent formulées de manière très générale. L’une des difficultés est qu’elles peuvent rester diffuses si elles ne sont pas reliées à une analyse plus précise de la manière dont l’action, la supervision et la responsabilité sont réellement structurées.

C’est précisément là que le cadre proposé dans ma recherche, From Assistants to Agents: A Relational Framework for Human–AI Co-Agency, peut être utile.

L’article ne cherche pas à prédire l’avenir d’un secteur particulier, ni à résoudre l’ensemble des questions de politique publique ou de gouvernance soulevées par l’adoption de l’IA. Sa contribution est plus spécifique : il propose un cadre relationnel permettant d’analyser les situations dans lesquelles l’action est distribuée entre des acteurs humains, des systèmes d’IA et des structures institutionnelles de délégation, de supervision et de responsabilité.

Les exemples sectoriels présentés ci-dessous constituent des illustrations de l’applicabilité du cadre. Ils ne représentent ni des résultats empiriques supplémentaires ni des affirmations sur l’évolution future de ces secteurs.

Le cadre repose sur quatre dimensions :

Initiative — qui initie l’action et met un processus en mouvement ?
Portée de la décision — quels types de décisions sont délégués, et quelle est leur importance ?
Supervision — qui peut surveiller, réviser, intervenir ou corriger ?
Attribution de la responsabilité — qui demeure responsable lorsque les résultats sont contestés, préjudiciables ou lourds de conséquences ?

Ces dimensions permettent de transformer des préoccupations institutionnelles générales en questions de gouvernance plus précises.

Éducation

Dans l’éducation, la question n’est pas simplement de savoir si l’IA entre dans la salle de classe. La question plus importante est de savoir comment l’autorité pédagogique, le jugement et la responsabilité sont organisés lorsque les systèmes d’IA deviennent partie intégrante de l’environnement d’apprentissage.

Si des systèmes d’IA commencent à influencer le tutorat, le retour pédagogique, l’aide à l’évaluation, les parcours d’apprentissage ou la notation automatisée, le cadre permet de poser des questions plus précises : qui initie l’action ? Quels types de jugements éducatifs sont délégués ? Les enseignants et les institutions conservent-ils une supervision réellement significative ? Qui reste responsable lorsque les résultats soutenus par l’IA affectent les élèves ?

Le cadre ne répond pas à ces questions à la place des éducateurs. Il permet de les rendre plus visibles.

Gouvernement et administration publique

Dans l’administration publique, les préoccupations portent souvent sur l’opacité et la responsabilité.

Lorsque des systèmes d’IA sont intégrés dans le traitement des dossiers, la documentation, la prestation de services ou l’aide à la décision, la question centrale est de savoir si les processus publics restent révisables, contestables et institutionnellement responsables.

L’initiative permet ici de distinguer le moment où le système passe d’un rôle d’assistance à un rôle plus structurant dans l’action administrative. La portée de la décision permet d’évaluer si les fonctions déléguées restent limitées ou deviennent plus importantes. La supervision permet d’examiner si la révision humaine demeure substantielle plutôt que symbolique. L’attribution de la responsabilité permet enfin de maintenir l’obligation de rendre compte au niveau institutionnel, au lieu de la laisser se diluer dans la complexité technique.

Travail et emploi

Dans les environnements professionnels, les préoccupations commencent souvent par la question du déplacement de certains emplois. Mais un autre enjeu est tout aussi important : la redistribution de l’autorité.

Si des systèmes d’IA initient des tâches, classent les performances, attribuent du travail ou structurent les flux opérationnels d’une organisation, l’autorité humaine peut rester formellement présente tout en devenant plus difficile à exercer de manière significative.

Le cadre aide à distinguer la présence humaine visible d’une véritable capacité de supervision, ainsi que la responsabilité formelle d’une responsabilité effectivement exercée.

Santé

La santé reste une illustration particulièrement utile, car les enjeux liés à la délégation, à la supervision et à la responsabilité y sont immédiatement perceptibles.

La question pertinente n’est pas seulement de savoir si l’IA peut soutenir le diagnostic ou les processus liés au traitement. Il faut également examiner si une délégation cliniquement significative reste proportionnée à une supervision humaine réelle, et si la responsabilité demeure identifiable entre les professionnels de santé, les institutions, les responsables du déploiement, les assistants cliniques basés sur l’IA ou les systèmes agentiques, et les concepteurs de ces systèmes.

Institutions à forts enjeux

Dans les environnements institutionnels à forts enjeux, le cadre reste pertinent en tant qu’outil d’analyse.

Il ne s’agit pas de formuler des affirmations opérationnelles, mais de clarifier où se situe l’initiative, jusqu’où s’étend la décision déléguée, où l’intervention reste possible et comment la responsabilité est préservée à travers plusieurs niveaux d’autorité institutionnelle.

À travers ces différents secteurs, un même schéma apparaît.

Les préoccupations s’intensifient lorsque l’initiative n’est pas clairement définie, lorsque la portée des décisions s’élargit sans visibilité suffisante, lorsque la supervision devient faible ou seulement formelle, et lorsque l’attribution de la responsabilité devient difficile à identifier.

C’est pourquoi je considère le cadre non pas comme une réponse à la peur, mais comme une manière de la structurer.

Passer de la peur au cadre ne signifie pas s’éloigner des préoccupations. Cela signifie avancer vers davantage de clarté.

La valeur pratique de la co-agencéité humain–IA réside dans sa capacité à rendre la délégation plus lisible, la supervision plus significative et la responsabilité plus intelligible sur le plan institutionnel, à mesure que les systèmes d’IA assument des rôles de plus en plus agentiques au sein des systèmes sociotechniques.

Le défi n’est pas l’agentivité de la machine prise isolément.

Le véritable défi est de savoir si une supervision humaine significative et une responsabilité institutionnelle peuvent être préservées dans des environnements où l’action devient de plus en plus distribuée.