Se confier à une machine
PENSER ET COACHER À L’ÂGE DE L’IA — 2/8
Cet article fait partie d’une série de huit textes consacrés à ce que l’intelligence artificielle change dans notre rapport à la pensée, au langage et à l’autre, avant d’interroger ce que ces transformations engagent pour le coaching.
Cette série est issue des réflexions développées dans le prochain Livre blanc du Cercle National du Coaching consacré à l’intelligence artificielle et au coaching.
*****
Se confier suppose la présence d’un autre auquel nous prêtons une intériorité. Pourtant, une intelligence artificielle peut interagir avec nous sans rien éprouver de ce que nous lui confions ni accéder à notre expérience. Quelle est alors la nature d’un échange dans lequel celui qui nous répond n’a pas besoin de nous comprendre pour agir sur notre pensée ?
*****
« Si votre âme ne se montre à nu […] il n’est plus de confiance, plus d’abandon. »
Cicéron, De l’amitié
Que penser de l’IA lorsque ses mots font présence ?
Existe-t-il plus humain que se confier ? Moment où nous éprouvons notre présence par celle de l’autre.
Mais est-ce bien cela que nous faisons lorsque nous confions à l’intelligence artificielle notre abandon ? Depuis cette part de nous que nous lui déposons, elle nous répond et nous donne à ressentir le sentiment d’être compris. Dans cette expérience virtuelle, d’exister pour de vrai.
L’intelligence artificielle produit des signes linguistiques, des mots, des textes semblables à ceux que nous sommes habitués à attribuer à un être humain et qui pourraient être ses paroles. Elle saisit les nuances d’un propos et peut nous étonner par la justesse de ses interactions avec nous.
Une machine qui parle pense-t-elle ? Le débat entre Jefferson et Turing
Mais dira-t-on que la machine s’est engagée dans la relation ? Une dissymétrie installe une distinction radicale entre l’humain et la machine. Le langage de la machine ne saurait être tenu pour l’expression d’une pensée, énonce le neurochirurgien Geoffrey Jefferson en 1949, tant qu’il ne procédera pas de pensées et d’émotions qu’elle éprouve elle-même.
Toutefois, dans un remarquable article de 1950, Computing Machinery and Intelligence, publié dans la revue Mind, Alan Turing relève la difficulté de l’argument.
Nous n’accédons jamais directement à l’intériorité d’un autre être humain, écrit-il. Nous l’inférons de ce qu’il manifeste. Exiger de connaître l’expérience intérieure qui produit une parole pour lui reconnaître une pensée, comme l’avance Jefferson, conduirait à ne pouvoir être certain que de sa propre pensée.
Les recherches contemporaines en neurosciences sur la conscience n’ont pas levé cette difficulté. Des mesures toujours plus fines permettent d’établir des relations entre l’activité cérébrale et des états conscients rapportés, sans procurer pour autant accès à l’expérience subjective elle-même.
Quand l’IA dit « je », qui parle ?
Chez l’être humain, les signes du langage procèdent d’une faculté de langage : la capacité de produire et de comprendre des signes, de les articuler entre eux et de leur donner sens. La machine en produit les manifestations sans que nous puissions en déduire l’existence d’une faculté de même nature. Elle produit des signes qui ressemblent à ceux dont nous faisons habituellement le signe d’une pensée, sans que nous sachions ce dont, chez elle, ils sont le signe.
La machine peut dire « je ». Chez l’être humain, ce pronom renvoie à celui qui parle, à un corps, une histoire, une présence au monde. Produit par la machine, il remplit sa fonction dans la phrase sans suffire à désigner un sujet qui en serait l’origine. La similitude linguistique ne permet pas de conclure à une identité de nature de ce qui la produit.
La machine entre dans notre récit
L’utilisateur humain de l’intelligence artificielle élabore, dans le langage qui le constitue en tant que sujet, la singularité de son rapport au monde. L’IA, dispositif technique, a « appris » le maniement des signes par lesquels se manifeste le langage, au point de nous faire éprouver la présence d’une subjectivité.
Nous lui fournissons des fragments de notre vie. Elle les travaille, établit des rapprochements, avance des interprétations. De notre interaction avec elle s’élabore un récit nouveau de nous-mêmes, par lequel nous allons nous comprendre différemment. Qu’entre-t-il de la machine dans ce nous-mêmes ainsi revisité ?
Une circularité s’installe. En réagissant à nos propos, la machine modifie le regard que nous portons sur nous. Nous revenons vers elle avec ce regard déjà transformé. Elle répond à nouveau à ce que sa réponse précédente a contribué à faire advenir.
Une machine sans expérience du monde participe à la constitution intime de notre expérience du monde, sans qu’elle ait besoin de disposer d’une subjectivité propre pour prendre une part active à l’élaboration de la nôtre.