Mon article de recherche, « From Assistants to Agents: A Relational Framework for Human–AI Co-Agency », est publié dans la revue AI and Ethics (Springer Nature). Il aborde une question centrale de notre époque : à mesure que les systèmes d’intelligence artificielle évoluent d’outils d’assistance vers des systèmes de plus en plus agentiques, comment devons-nous repenser l’agencéité humaine, l’autonomie déléguée, la supervision et la responsabilité ?

Voici la réflexion que j’ai partagée sur Springer Nature Research Communities sur les raisons qui m’ont conduit à l’écrire.

Entre l’outil et l’acteur autonome

Lorsque nous parlons d’intelligence artificielle, une grande partie du débat oscille encore entre deux images familières. D’un côté, l’IA est considérée comme un outil sophistiqué : quelque chose qui soutient l’action humaine tout en restant extérieur à la responsabilité. De l’autre, l’IA est parfois décrite en des termes presque anthropomorphiques, comme si elle devenait un acteur autonome à part entière. Ces deux visions, chacune à sa manière, me semblaient incomplètes.

Ce qui m’intéressait de plus en plus était une question plus difficile : que se passe-t-il lorsque l’IA n’est ni simplement une assistance, ni pleinement autonome, mais opère au sein de systèmes structurés de délégation, de supervision et de responsabilité institutionnelle ? Autrement dit, que se passe-t-il lorsque l’action est distribuée entre des humains, des systèmes artificiels et des structures de gouvernance ?

Penser l’agencéité de manière relationnelle

L’intuition centrale de l’article est simple : l’essor de l’IA agentique nous oblige à repenser l’agencéité de manière relationnelle. Dans de nombreux contextes réels, l’IA n’agit pas isolément. Son initiative apparente est rendue possible, encadrée et interprétée à travers des décisions humaines, des objectifs institutionnels, des choix de conception technique et des mécanismes de gouvernance. La responsabilité ne peut donc pas être comprise en regardant uniquement la machine, ou uniquement l’utilisateur individuel. Elle doit être comprise à travers la structure du système sociotechnique dans son ensemble.

Pour rendre cet argument plus opérationnel, j’ai proposé un cadre à quatre dimensions :

Ces dimensions visent à clarifier où commence la délégation, jusqu’où elle s’étend, comment la supervision est préservée et comment la responsabilité doit rester ancrée, même lorsque les systèmes prennent davantage d’initiative.

Un pont entre la théorie et les institutions

Si cela me semblait important, c’est notamment parce que les discussions sur la gouvernance de l’IA restent souvent soit trop abstraites, soit trop procédurales. Nous parlons en termes généraux d’éthique, de confiance, de régulation et de politiques publiques, mais il nous manque souvent un pont conceptuel concret entre la théorie et la conception institutionnelle. Je voulais que ce travail contribue à cette couche intermédiaire : ne pas seulement demander ce qu’est l’IA, mais comment évaluer les arrangements humain–IA lorsque les décisions, les actions et leurs conséquences sont distribuées.

Je craignais aussi que le vocabulaire de « l’autonomie » obscurcisse parfois plus qu’il n’éclaire. La question n’est pas simplement de savoir si un système paraît autonome. La question plus importante est de savoir si les institutions restent capables de structurer la délégation de manière responsable. Un système peut sembler très performant tout en reposant sur une gouvernance fragile. À l’inverse, la responsabilité humaine peut s’éroder non pas parce que les humains disparaissent, mais parce que les rôles, les limites et les structures de responsabilité deviennent flous.

En ce sens, le défi posé par l’IA agentique n’est pas l’agentivité de la machine prise isolément. C’est l’alignement de l’action déléguée avec une supervision humaine significative et une responsabilité institutionnelle. J’espère que ce travail contribuera à une conversation plus ancrée et plus rigoureuse sur la manière dont les sociétés, les organisations et les systèmes de gouvernance doivent répondre à une IA de plus en plus agentique.

Lire l’article

*Mohamed Salim Ali est chercheur indépendant en éthique de l’IA, philosophie de la technologie et gouvernance, CEO d’Og Innovation et cofondateur de Ranza SARL.*