L’IA peut-elle nous connaître?
L’article précédent nous a conduits au constat qu’une intelligence artificielle peut agir sur l’élaboration de notre pensée sans avoir accès à notre intériorité.
Mais alors, que peut-elle connaître de nous ?
Prenons un exemple. Une salariée envisage de quitter son entreprise. Elle ne se reconnaît plus dans les valeurs de sa nouvelle direction. Pour autant, cette perspective l’inquiète.
Elle en parle avec une IA. Elle soupèse le pour et le contre. Elle évoque son attachement à ses collègues, la sécurité de l’emploi, la crainte de regretter sa décision. Elle parle aussi de ce qu’ils ont traversé ensemble, des missions difficiles qu’ils ont menées et de la reconnaissance qu’elle a acquise au fil des années.
L’IA lui répond que ses hésitations pourraient tenir au fait qu’avec ce départ, elle perdrait le respect ou le regard de ses collègues pour le travail accompli avec eux.
Elle n’y avait pas pensé, mais la remarque lui paraît juste. Comment la machine a-t-elle pu fournir cette explication ? Pour le comprendre, il nous faut entrer dans la machine.
Dans la tête de la machine
Celle-ci découpe le texte écrit ou oral qui lui est adressé en unités linguistiques appelées tokens. Toutes n’ont pas un sens. À chacune est associée une représentation numérique sous la forme d’un vecteur, soit une suite de nombres dans un espace comportant un très grand nombre de dimensions. Ces dimensions ne correspondent pas à des significations définies à l’avance. Il n’existe pas, par exemple, un axe de l’inquiétude, un autre de l’attachement, un troisième de l’entreprise.
Au cours de l’apprentissage, le modèle apprend à calculer les tokens susceptibles de suivre une séquence donnée. L’écart entre ces prédictions et les textes sur lesquels il s’entraîne le conduit à modifier les paramètres. Le modèle devient ainsi de plus en plus sensible aux régularités présentes dans les textes. La machine apprend à prédire.
Lorsque la salariée lui raconte son histoire, la machine ne part donc pas à la recherche, parmi les milliards de textes sur lesquels elle a été entraînée, d’une histoire qui ressemblerait à la sienne. Les textes ont certes façonné ses paramètres, mais elle ne les consulte pas. Elle transforme le récit en représentations numériques dont les relations se recomposent selon le contexte. À partir de cette organisation, elle calcule les tokens susceptibles de suivre. De proche en proche, se forme un texte qui fait sens pour nous.
Le réel déborde le texte
La machine ne peut traiter un texte qu’à partir des signes qui y sont actualisés et qu’elle peut faire entrer dans son calcul. Or le réel déborde ce qui peut être exprimé. Ce qui n’a pas été formulé ne serait pas nécessairement obtenu par une question mieux posée. Quelque chose en elle peut être à l’œuvre pour la personne sans exister sous une forme qu’elle sache nommer. Un indicible.
Les limites de la machine se déduisent de sa puissance. Sa capacité à produire des réponses cohérentes repose sur les signes et leurs régularités. Elle peut faire apparaître, à partir de ce que nous lui donnons, des rapprochements que nous n’avions pas faits. Mais lui échappe ce qui ne s’est pas encore constitué en signes disponibles pour son calcul.
La machine peut faire surgir quelque chose que nous ignorions sur nous, sans pour autant nous connaître comme une personne en connaît une autre. Elle ne connaît que ce qui de nous peut prendre forme dans les signes.