Louis de Diesbach est éthicien de la technique et consultant au Boston Consulting Group. Ses travaux de recherches se concentrent principalement sur la façon dont notre rapport à la technologie affecte notre rapport à nous-mêmes et à autrui. En souhaitant toujours mêler diverses disciplines et approches – sociologique, philosophique, politique, psychologique, économique ou encore juridique – il a la volonté d’apporter une réflexion holistique aux questions qu’il étudie. Il est auteur de deux ouvrages, Liker sa servitude (FYP, 2023) et « Bonjour ChatGPT » (Mardaga, 2024) dans lesquels il aborde ces problématiques, en plus des chroniques régulières qu’il écrit dans les journaux. Il travaille également comme chroniqueur du podcast Trench Tech dans lequel il vulgarise des articles académiques traitants de philosophie de la technologie.

Louis de Diesbach donne également de nombreuses conférences sur l’éthique et la philosophie de l’IA et de la technique aux entreprises et à des associations, en tentant de toujours garder cette approche holistique qui est, selon lui, la meilleure façon d’amener le débat de façon démocratique.

Vous ouvrez votre ouvrage éponyme, qui vient juste de paraître, par la question de la nature du "Bonjour ChatGPT", mais l'anthropomorphisme n'a-t-il pas toujours existé ?

L'anthropomorphisme est vieux comme le monde, et on en trouve des traces dans des sculptures ou d'autres œuvres d'art qui ont plus de 40 000 ans. Ce que mes recherches m'ont appris c'est que la question de l'anthropomorphisme n'est peut-être pas au cœur de notre relation à la technologie, mais qu'elle est le symptôme, la représentation, d'un réflexe humain empathique. Il y aurait comme une volonté toujours présente de lien social, de rapport à autrui.

Dès lors, ce "Bonjour ChatGPT" n'est pas le signe de notre soumission à la tech mais bien celui de notre humanité qui, malgré tout ce qui peut être fait pour l'étouffer, hurle son besoin de relation. Ce sont donc ces questions-là que j'ai voulu poser. Dans son célèbre article de 1950, "Computing Machinery and Intelligence", Alan Turing commence en expliquant pourquoi la question que tout le monde pense pertinente ne l'est en réalité pas tant que ça - et il opère un glissement de la question "les machines sont-elles capables de penser ?" vers "les machines pourraient-elles nous convaincre qu'elles ne sont pas machines ?" ; je tente une approche similaire en glissant de la question "est-ce que les machines peuvent être des compagnons à qui il faudrait dire bonjour ?" vers "est-il souhaitable qu'elles le soient ?". De façon un peu caricaturale, je tente de passer de la question technologique, celle du "comment ?", à la question philosophique, celle du "pourquoi ?"

Dans votre livre, vous revenez sur la volonté des humains de créer des machines qui leur ressemblent tout en désirant toujours être supérieurs, vous appelez cela "l'exceptionnalisme humain" ; qu'est-ce que cela dit de nous ?

C'est effectivement un phénomène pour le moins cocasse : on s'évertue à créer des machines toujours plus puissantes, à vouloir les rendre toujours plus "humaines" ; mais on se refuse à ce qu'elles le soient vraiment. J'essaye de montrer dans le livre qu'on crée toujours plus de tests pour les évaluer (test de Turing, test de la machine à café, etc.) mais qu'il y a toujours une sorte de nécessité pour l'humain de demeurer supérieur. Dans un article passionnant, le philosophe Luciano Floridi montre que c’est le critère négatif de ces tests qui compte à chaque fois : une réussite du test ne nous dit rien sur la nature et les qualités de la machine, mais quand la machine échoue, on peut dire "ah, elle n'est toujours pas au niveau !" Il me semble que cela en dit long sur notre rapport au monde et à nous-mêmes.

Vous écrivez "à force de nous adresser à des machines comme à des humains, ne risquons-nous pas de nous adresser aux humains comme à des machines", que voulez-vous dire par-là ?

À force d’anthropomorphiser, on peut avoir tendance à se réfugier dans des relations avec la machine – les travaux de Sherry Turkle, notamment, l’ont brillamment montré. Dès lors, on peut se poser la question suivante : pourquoi préférons-nous échanger avec la machine ? Plusieurs éléments de réponse sont possibles, notamment le fait que la machine ne nous brusque jamais : elle est souvent d’accord, jamais malade, toujours disponible, etc. Les relations humaines, nous le savons, sont difficiles et je veux poser la question de leur perpétuation : si nous décidons de nous loger dans le confort de relations sans aspérités, comme celles que nous pourrions entretenir avec un chatbot type Replika, qu’advient-il de notre relation à autrui ? Peut-être allons-nous attendre de ces échanges le même caractère « sans aspérité », « sans embûche », « sans friction ». D’un certain côté, cela me terrifie. 

Vous dites que vous n’êtes pas vraiment inquiets par les prouesses technologiques et par le fait que les machines soient plus fortes que nous ?

En effet car c’est le sens de l’histoire : depuis le premier homme qui, intelligemment, a décidé que le cheval ou le bœuf laboureraient à sa place, la technologie n’a fait qu’évoluer pour être plus forte que nous. Les voitures nous permettent d’aller plus vite et plus loin, les ordinateurs de compter sans erreur, le téléphone et Internet de communiquer à distance, etc. – avec la technologie, l’être humain s’est affranchi de certaines lois de la nature et je ne considère pas que cela soit une mauvaise chose puisque la véritable énigme ne demeure pas là. Les questions autour de la technique ne me semblent pas être d’ordre technologique : les machines seront toujours, et chaque jour davantage, plus fortes que nous mais il me semble qu’il y a toujours ce petit quelque chose, imperceptible, qui leur échappe : ce qui fait, au final, notre humanité.

Au-delà de la question de l'intelligence donc, vous souhaitez vous saisir de celle du sens – par où commencer ?

Albert Camus écrivait que « Si l’on ne croit à rien, si rien n’a de sens et si nous ne pouvons affirmer aucune valeur, tout est possible et rien n’a d’importance.» - c’est là le propre de la machine. Rien n’a d’importance, tout est possible avec une suite infinie de 0 et de 1. Je n’ai pas l’impression d’être révolutionnaire en pointant qu’il y a, dans notre société actuelle, une crise de sens et de récit : c’est de ce combat dont nous devons nous emparer. La technologie, je l’ai souvent dit, est une chose merveilleuse quand elle est utilisée à bon escient – l’essor du technosolutionnisme est un excès de cette vision et vient alors polariser la question entre technophobes et technophiles. Il existe cependant une voie toute aristotélicienne qui viendrait trouver un juste milieu et rappeler que « plus de tech » ne peut être la réponse à tout. Ce qui doit primer, c’est notre quête d’échange avec autrui. Si, après avoir lu mon livre, mes lecteurs peuvent aller prendre un café, les yeux dans les yeux, avec un ami pour partager leur lecture, je serai un auteur satisfait – vous voyez, rien de bien révolutionnaire. Mais je pense que c’est dans ces petits moments que se cache l’essentiel, que se cache notre humanité. On pourrait commencer par là.

Human Technology Foundation, 29 avril 2024

‍

‍

Pour aller plus loin :

·       Floridi (L.) et Chiriatti (M.), GPT-3 : Its Nature, Scope, Limits, and Consequences, Mindsand Machines, n° 30, 1er novembre 2020, p. 681-694. En ligne : https://link.sprin- ger.com/article/10.1007/s11023-020-09548-1

·      Turkle (S.), Alone Together : Why We Expect More from Technology and Less from Each Other, New York, Basic Books, 2011

·       Tisseron (S.), De l’animal numérique au robot de compagnie : quel avenir pour l’intersubjectivité ?, Revue française de psycha- nalyse, vol. 75, n° 1, 2011, p. 149-159. En ligne : https://www.cairn. info/revue-francaise-de-psychanalyse-2011-1-page-149.htm

. Camus (A.), L’homme révolté, Paris,Gallimard, 1951