Sciences
ChatGPT nous ressemble plus qu'on ne le dit, surtout dans nos faiblesses
Depuis l’arrivée de ChatGPT, le monde paraît suspendu au-dessus de lui-même, comme s’il réfléchissait à ce qu’il allait devenir. Avec l’aventure de l’IA, l’homme, tel Indiana Jones, se sait engagé sur un pont de singe délité surplombant un fleuve rempli de crocodiles. Le traversera-t-il ? Y survivra-t-il ?
Cette tension engendre des articles à tonalité prophétique voire apocalyptique, comme celui du Point intitulé Comment le monde bascule. Elon Musk y apparaît en sauveur de l’humanité interplanétaire, une image générée par Midjourney. Le magazine donne la parole à des noms que le grand public finit par connaître, comme celui d’Éric Sadin – qui prépare un ouvrage sur la Pensée spectrale. Le philosophe donne le vertige en parlant d’« ouragan culturel et civilisationnel » dont on ne mesure pas encore la portée. De fait, jamais l’homme ne s’est retrouvé « face à un autre lui-même ». Pour Sadin, « nous vivons un moment hautement psychiatrique de l'histoire des technologies numériques ». Le risque ? Que des « hommes légumes abandonnent leur pouvoir de créativité à la machine ».
Arrêtons-nous sur l’épithète « psychiatrique ».
D’abord, toute invention est affaire d’accoutumance. Notre plasticité triomphe de bien des peurs, bien des résistances, même formulées rationnellement. Lors de la construction du métro parisien, beaucoup de gens répugnaient à l'idée d'y descendre, craignant qu’on pût y manquer d’air et mourir asphyxié dans les tunnels…
C’est aussi une affaire de génération. L’écrivain de science-fiction, Douglas Adams, observait que « tout ce qui existe (…) à votre naissance est normal et ordinaire [et que] tout ce qui est inventé entre vos 15 et 35 ans est nouveau, excitant et révolutionnaire [mais surtout que] tout ce qui est inventé après vos 35 ans va à l'encontre de l'ordre naturel des choses ». Le temps faisant son œuvre, l’IA va entrer dans la normalité des consciences.
Mais surtout, c’est une affaire de similitude. Car ChatGPT, en fait, nous ressemble plus qu’on ne le dit. Ses faiblesses sont les nôtres et, à force d’en parler comme d’une machine toute-puissante, on ne voit pas que le robot conversationnel est aussi défaillant que nous. Le psychiatre Serge Tisseron, spécialiste de notre rapport aux écrans, compare ainsi la communication humaine et le comportement de l’agent conversationnel. Il part d’une question simple : « Que reproche-t-on à ChatGPT ? »
D’abord, « de n’être qu’une machine à fabriquer du copié-collé ». Sauf que l’intelligence humaine, ajoute Tisseron, ne procède pas autrement : « Le bébé commence à répéter les phrases que sa mère lui énonce, et ses premiers mots sont ceux qui sont le plus fréquemment répétés autour de lui. »
Deuxième reproche fait à ChatGPT : « De ne jamais citer ses sources. » C’est exactement ce que nous faisons. Le psychiatre nous cite dans le texte. Nous disons plus facilement une phrase telle que « Il est scandaleux que telle personnalité politique ait détourné de l’argent public » plutôt qu’une phrase comme « J’ai lu dans tel journal ou entendu à tel bulletin d’information sur telle chaîne qu’une personnalité politique a profité de son poste pour détourner de l’argent public ». De fait, ce que dit l’information prime sur celui qui la dit. Logique mais en partie seulement, tant il est vrai que la qualité d’une nouvelle se rapporte à la fiabilité de la personne qui l’émet. Cela corrobore le point précédent sur le copié-collé. Moralité : l’être humain procède par répétition, aussi bien dans son apprentissage que dans ses usages. La vie n’est qu’une succession d’habitudes.
Troisième point : on reproche à ChatGPT « de ne jamais nous indiquer pourquoi il privilégie certaines informations ». Là, Tisseron s’emporte car « si nous voulons que nos enfants apprennent à fonctionner autrement, il faut refondre l’ensemble des manuels scolaires ! » Pourquoi y consacre-t-on « 44 pages à Paul Claudel et une et demie à Louis-Ferdinand Céline » ? L’arbitraire se niche dans tous les récits. Justifie-t-on la pertinence de ces choix ? « Aucunement », répond Tisseron, lapidaire.
Enfin, ultime reproche, on taxe ChatGPT « de ne pas reconnaître qu’il ne sait pas lorsque c’est le cas », bref de se montrer trop serviable, comme s’il ne voulait pas nous décevoir. Certes, c’est le propre du robot conversationnel de générer du texte, quelles que soient les requêtes qu’on lui soumet. Mais Tisseron s’amuse quand il écrit que « tant de parents bricolent des réponses sur des choses dont ils ne savent rien pour éviter d’avouer à leurs enfants qu’ils ne connaissent pas le sujet ! » Et on s’amuse avec lui (ou on pleure, c’est comme on voudra), quand il ajoute que « les politiques ne font souvent pas autrement avec les citoyens ! »
Cette tension engendre des articles à tonalité prophétique voire apocalyptique, comme celui du Point intitulé Comment le monde bascule. Elon Musk y apparaît en sauveur de l’humanité interplanétaire, une image générée par Midjourney. Le magazine donne la parole à des noms que le grand public finit par connaître, comme celui d’Éric Sadin – qui prépare un ouvrage sur la Pensée spectrale. Le philosophe donne le vertige en parlant d’« ouragan culturel et civilisationnel » dont on ne mesure pas encore la portée. De fait, jamais l’homme ne s’est retrouvé « face à un autre lui-même ». Pour Sadin, « nous vivons un moment hautement psychiatrique de l'histoire des technologies numériques ». Le risque ? Que des « hommes légumes abandonnent leur pouvoir de créativité à la machine ».
Arrêtons-nous sur l’épithète « psychiatrique ».
D’abord, toute invention est affaire d’accoutumance. Notre plasticité triomphe de bien des peurs, bien des résistances, même formulées rationnellement. Lors de la construction du métro parisien, beaucoup de gens répugnaient à l'idée d'y descendre, craignant qu’on pût y manquer d’air et mourir asphyxié dans les tunnels…
C’est aussi une affaire de génération. L’écrivain de science-fiction, Douglas Adams, observait que « tout ce qui existe (…) à votre naissance est normal et ordinaire [et que] tout ce qui est inventé entre vos 15 et 35 ans est nouveau, excitant et révolutionnaire [mais surtout que] tout ce qui est inventé après vos 35 ans va à l'encontre de l'ordre naturel des choses ». Le temps faisant son œuvre, l’IA va entrer dans la normalité des consciences.
Mais surtout, c’est une affaire de similitude. Car ChatGPT, en fait, nous ressemble plus qu’on ne le dit. Ses faiblesses sont les nôtres et, à force d’en parler comme d’une machine toute-puissante, on ne voit pas que le robot conversationnel est aussi défaillant que nous. Le psychiatre Serge Tisseron, spécialiste de notre rapport aux écrans, compare ainsi la communication humaine et le comportement de l’agent conversationnel. Il part d’une question simple : « Que reproche-t-on à ChatGPT ? »
D’abord, « de n’être qu’une machine à fabriquer du copié-collé ». Sauf que l’intelligence humaine, ajoute Tisseron, ne procède pas autrement : « Le bébé commence à répéter les phrases que sa mère lui énonce, et ses premiers mots sont ceux qui sont le plus fréquemment répétés autour de lui. »
Deuxième reproche fait à ChatGPT : « De ne jamais citer ses sources. » C’est exactement ce que nous faisons. Le psychiatre nous cite dans le texte. Nous disons plus facilement une phrase telle que « Il est scandaleux que telle personnalité politique ait détourné de l’argent public » plutôt qu’une phrase comme « J’ai lu dans tel journal ou entendu à tel bulletin d’information sur telle chaîne qu’une personnalité politique a profité de son poste pour détourner de l’argent public ». De fait, ce que dit l’information prime sur celui qui la dit. Logique mais en partie seulement, tant il est vrai que la qualité d’une nouvelle se rapporte à la fiabilité de la personne qui l’émet. Cela corrobore le point précédent sur le copié-collé. Moralité : l’être humain procède par répétition, aussi bien dans son apprentissage que dans ses usages. La vie n’est qu’une succession d’habitudes.
Troisième point : on reproche à ChatGPT « de ne jamais nous indiquer pourquoi il privilégie certaines informations ». Là, Tisseron s’emporte car « si nous voulons que nos enfants apprennent à fonctionner autrement, il faut refondre l’ensemble des manuels scolaires ! » Pourquoi y consacre-t-on « 44 pages à Paul Claudel et une et demie à Louis-Ferdinand Céline » ? L’arbitraire se niche dans tous les récits. Justifie-t-on la pertinence de ces choix ? « Aucunement », répond Tisseron, lapidaire.
Enfin, ultime reproche, on taxe ChatGPT « de ne pas reconnaître qu’il ne sait pas lorsque c’est le cas », bref de se montrer trop serviable, comme s’il ne voulait pas nous décevoir. Certes, c’est le propre du robot conversationnel de générer du texte, quelles que soient les requêtes qu’on lui soumet. Mais Tisseron s’amuse quand il écrit que « tant de parents bricolent des réponses sur des choses dont ils ne savent rien pour éviter d’avouer à leurs enfants qu’ils ne connaissent pas le sujet ! » Et on s’amuse avec lui (ou on pleure, c’est comme on voudra), quand il ajoute que « les politiques ne font souvent pas autrement avec les citoyens ! »
