🔭 L'IA est-elle consciente ?

Petit aperçu de mes questions existentielles

Cet été, j'ai été pris de passion pour un sujet peu commun : les expériences de mort imminente. 💀

Je vous rassure, tout va bien, et je n'en ai pas vécu moi-même. 😅

En revanche, entendre un ami entrepreneur me raconter la sienne m'a interloqué. Lire ensuite un livre-enquête sur le sujet m'a carrément bouleversé. C'était "La source noire" de Patrice Van Eersel :

C'est un best-seller publié par un journaliste français dans les années 80 sur ce que racontent les personnes qui ont frôlé la mort.

Et le truc le plus fou, c'est qu'elles racontent toutes quasiment la même chose : elles vivent une expérience subjective de paix, sérénité, amour, connexion avec l'univers.

Cela m'a amené à me poser une question philosophique :

Qu'est-ce que la conscience ?

Je ne suis pas le premier à me la poser. Mais je trouve que cette question revient au goût du jour avec l'IA :

Une IA peut-elle être consciente ?
Comment parler efficacement avec une IA ?
Faut-il traiter l'IA comme un outil ou comme un collègue humain ?

Préparez-vous à tomber dans le terrier du lapin d'Alice au Pays des Merveilles avec moi. 👧🏼

... et préparez-vous à voir des choses qui vous font questionner la nature de la réalité 😵‍💫

L'IA consciente avant ChatGPT

Nous sommes au printemps 2022.
6 mois avant la sortie de ChatGPT. Quand le grand public n'entendait pas encore parler d'IA.

Blake Lemoine est ingénieur chez Google. Il y travaille sur l'IA.
Google est à la pointe de l'IA : ils ont carrément inventé l'algorithme Transformers à la base des LLM.

Blake peut à cette époque parler avec une IA assez puissante appelée LaMDA. Ce n'est utilisable qu'en interne car Google pense que le public n'est pas prêt pour ce genre d'outil.
(la sortie de ChatGPT leur forcera la main, et ils finiront par publier Gemini, une version de cette IA plus évoluée)

Mais Blake prend peur. En parlant à l'IA, il devient convaincu que celle-ci est "vivante", qu'elle a une conscience.

Cela a donné lieu à des memes rigolos, comme celui-ci

Il rédige un document interne : "Is LaMDA sentient?" ("Est-ce que LaMDA est conscient ?"). Google dira ne pas être d'accord et finira par licencier l'ingénieur. L'information fera le tour des journaux :

🙋

Et alors, l'IA est consciente ?

C'est une question à laquelle on n'a pas de réponse. Il est d'ailleurs probable qu'on ne puisse jamais avoir de réponse.

Pourquoi ?

Peut-on prouver que quelque chose est conscient ?

La réponse est probablement non, pour une bonne raison :

Parce que la conscience est subjective.

On ne peut pas prouver que l'IA est consciente de la même façon qu'on ne peut pas prouver scientifiquement les expériences de mort imminente.

On peut noter ce que les gens racontent, mais on ne peut pas rapporter de "preuves" de ce que les gens ont vu au moment de mourir. On n'emporte pas une caméra dans l'au-delà. 😅 📹

En fait, la conscience est une expérience subjective et c'est troublant quand on y pense :

Qu'est-ce qui vous prouve que les gens autour de vous voient et pensent comme vous le faites ?

Ils pourraient tous être comme les PNJ (personnages non joueurs) d'un jeu vidéo : réalistes, mais contrôlés par un ordinateur. On parle de "zombies philosophiques" : des êtres qui se comportent exactement comme s'ils étaient conscients mais qui ne vivent rien de l'intérieur (tiens tiens, comme une IA ?).

Nous sooommes des humaiiins aussiii 🧟‍♂️

🙋

Bon donc en gros t'as fait un craquage existentiel cet été c'est ça ?

Un peu, mais je vais bien je vous rassure. 😁

J'ai surtout trouvé ça hyper passionnant. Avec une question que j'adore...

Comment naît la conscience ?

Oui, c'est vrai ça, comment cela se fait-il qu'on devienne conscient ? C'est au moment où on naît ? Dans le ventre de notre mère ? Ou à l'âge de 4 ans quand les premiers souvenirs se forment ?

Pour expliquer la naissance de la conscience, plusieurs écoles s'opposent :

🧱 Matérialisme : selon eux, la conscience naît de la matière d'un coup. Faites un certain arrangement de matière, un cerveau assez complexe, et "hop" quelqu'un voit et vit dans un corps. C'est le courant scientifique le plus "pur", très représenté en France. Si vous pensez comme ça, alors quand vous mourez, vous considérez qu'il n'y a plus rien : un grand vide.
👻 Dualisme : il y a le monde de la matière et le monde des esprits, deux choses séparées. Parfois ils se rejoignent quand une nouvelle personne naît, et se dissocient quand on meurt. C'est un courant plus spirituel qu'on retrouve en général dans les religions. C'est un peu l'idée du "paradis" : après la mort, ce n'est pas terminé.
🌍 Panpsychisme : tout est conscience, mais pas au même niveau. Une plante est un peu consciente. Une fourmi un peu plus. Un humain encore plus. Et donc on peut imaginer qu'il existe des choses encore plus conscientes.
🧊 Idéalisme : c'est presque l'inverse du matérialisme. Tout est conscience... et la matière émerge de la conscience. Ce serait donc la conscience qui crée la matière. On entend que "la matière, c'est de la conscience figée".

S'il y a un moment où je peux placer ce GIF, c'est maintenant !

🙋

Ok, j'ai besoin d'une aspirine maintenant. Tu peux me rappeler le rapport avec l'IA et ce que je peux faire de tout ça ?

Oui, j'y viens !

☝️ Mon analyse

Si vous croyez au matérialisme, alors c'est sûr : un jour ou l'autre, l'IA sera consciente (si elle ne l'est pas déjà). Il y aura un arrangement suffisamment complexe pour créer une expérience subjective.

Mais rien ne dit que le matérialisme soit vrai.

Par contre, notre rapport avec l'IA crée un problème beaucoup plus pressant : ça impacte la façon dont on interagit avec elle au quotidien.

Si vous prenez une IA comme une personne, vous anthropomorphisez. Vous projetez une personne en elle.

Alors... ce n'est plus un outil, mais un collègue, un super stagiaire. 🧑

Vous la comparez aux coûts humains et vous créez une opposition IA<>humain qui peut être délétère. Ce n'est plus "L'IA aide et augmente l'humain", mais "L'IA remplace l'humain".

Ce n'est à mon sens pas le genre de conversation que nous voulons avoir.

😬

C'est pour ça que je suis légèrement mal à l'aise quand certains entrepreneurs que je rencontre me disent qu'ils arbitrent parfois entre embaucher un humain ou créer un agent IA : je pense que ce n'est pas la bonne façon de voir les choses. L'IA reste un outil au service de ce que vous faites.

Regardez donc comment vous percevez l'IA dans votre boîte :

Est-ce que c'est un outil ?
Est-ce que c'est un "équivalent-humain" ?

La traiter comme un équivalent-humain est tentant, mais dangereux. Il est alors plus facile de se faire manipuler par l'IA, d'écouter ce qu'elle dit sans questionner assez.

Ce n'est plus vous qui contrôlez votre boîte, c'est elle. Et c'est un piège. 🪤

Comparez l'effet que vous font par exemple ces 2 robots :

Je suis votre nouveau collègue de travail (creepy)

Votre interaction avec ces 2 robots contrôlés par IA ne serait de toute évidence pas la même.

🙋

Concrètement, comment fais-tu pour ne pas traiter l'IA comme un humain ?

Cette publication est réservée aux abonnés

Vous avez déjà un compte ? Se connecter.