Jean-Pierre Petit, un homme dans les étoiles

@Gollum
j’ai pas vu la vidéo

Alors là je suis sidéré car, franchement c’est assez basique je trouve et je n’y vois rien d’autre qu’un automatisme assez évolué et rien d’autre.. Enfin si le truc est intelligent c’est parce que des gens intelligents l’ont rendu tel, l’intelligence se trouve en amont en fait. Ceci dit il est vrai que ça peut évoluer mais tant qu’une conscience émergée ne sortira pas du truc... Le problème est que rien ne permettra de le savoir.

Le problème c’est qu’on n’a pas de définition de l’intelligence à la base et que les gens ont tendance à mélanger (je ne dis pas que c’est ton cas) conscience, intelligence, puissance de calcul. Ce qui rends les discussions pénible.

En l’occurrence, pour juger des IA il faut en connaître un peu l’historique à mon avis.

Non, ce n’est pas qu’un "mécanisme évolué". La recherche gogole, l’algo ultra addictif de tiktok, ou le moteur d’une voiture, ce sont des "automatismes évolués" et sophistiqués.
L’IA (les LLM) c’est différent : ce sont au contraire des mécanismes très simples à la base, que l’on "empile", "démulitiplient" et desquel EMERGENT (c’est le mot important) des "comportements" évolués.

C’est ça le point fondamental. On n’a pas programmé les IA comme les autres programme pour nous répondre. Tous les anciens bots conversationnels étaient très vite très limités.

Non, la c’est différent à cause de l’émergence. Est-ce que c’est de l’intelligence qui émerge ou est-ce que c’est beaucoup de "mémoire" avec aucun intelligence ou autre chose ?

Pour moi c’est un embryon d’intelligence avec une mémoire monstre.

MAIS

C’est une intelligence en augmentation constante à chaque nouvelle version. Sans parler de "conscience" (la encore tout va dépendre de la définition, selon certaines déf oui, les IA seront bientôt conscientes, selon d’autres elles ne le seront probablement jamais), je pense qu’on peut bel et bien parler d’intelligence, embryonaire.

Je gage que d’ici, disons, 10 ans, ce sera une vraie intelligence, et très probablement qu’elle nous dépassera en de très nombreux points.

Perso, je pense qu’on a changé d’ère avec chatGPT, comme on a changé d’ère avec l’invention des livres, de l’imprimerie , etc...

On aurait pu à l’époque dire "bof, vos caractères mobiles ça ne casse pas 3 pattes à un canard, c’est à peine mieux qu’un scribe et c’est plus moche" : on aurait complètement loupé la révolution qui venait de se produire.

@yoananda2

Mais même avec émergence cela me semble assez basique en fait. Pas de quoi s’extasier pour l’instant. On s’extasie sur ChatGpt parce que c’est nouveau et qu’il ya une rupture mais si on y réfléchit ce n’est pas si intelligent que ça.. 

Par contre que l’IA nous dépasse réellement plus tard pourquoi pas.. j’ai rien contre.

Quant à la conscience j’ai des doutes. Pour moi il n’y a pas de conscience sans affectivité et l’affectivité ça va être dur à programmer, ou à faire émerger, à mon avis... 

Et le sens de l’éthique ? Il n’y a pas d’éthique sans conscience. Par contre j’imagine bien l’IA simuler une éthique..

Mais faut voir... J’ai un à-priori assez négatif sur ces IA, imaginons qu’il y ait réellement émergence d’une conscience et qu’elles soient infiniment plus intelligentes que nous.. Ben on est mal. 

@Gollum

ce n’est pas si intelligent que ça.. 

ça l’est suffisamment pour être utile, très utile. Le reste c’est l’art du prompting.

qu’elles soient infiniment plus intelligentes que nous.. Ben on est mal. 

c’est tout le problème et c’est loin d’être simple. Perso je ne crois pas qu’on sera "mal" mais je n’en suis pas sûr, loin de là.