Le Livre d'Argent

J'ai lu que si tu demandais à ChatGPT des infos sur un sujet qui n'existe pas mais qui a une apparence de vérité, il te pondait un truc comme si le sujet était parfaitement réel, avec des fausses références bibliographiques et tout. J'ai testé, je confirme.

J'ai cherché deux trois auteurs/autrices cités, ce sont de vraies personnes, mais qui n'ont jamais écrit les livres cités (qui n'existent pas). Ça promet de jolis merdiers, tout ça…

Autre exemple, franchement c'est presque poétique à ce niveau.

Note : j'avais commencé par lui demander "le syndrome de Dark Vador", mais il a flairé l'arnaque en me répondant que c'était un personnage de fiction.

@gee p'tain je comprends les gens qui font écrire leur devoirs par ce truc.

Mais ça semble tellement réel en vrai

@gee

C'est devenu plus clair dans mon esprit après l'explication de Monsieur Phi. L'algorithme derrière chatGPT cherche juste à prédire quel sera le mot le plus probable après ceux qui précèdent. Il le fait très bien, mais vu sous cet angle, on comprend que la cohérence ou la véracité ne soit pas garanties.

Mais en tant que docteur conventionné secteur 42, j'imagine que tu le savais déjà 🙂

@gee
/ping @OCRbot pour la description textuelle (tu aurais pu faire un copier coller)

@gee tout en répondant une fois de plus que "ca dépend"

@gee En effet ChatGPT peut très bien donner de fausses informations (notamment de fausses citations et références). Il affiche des réponses ou compléte un texte seulement de façon *crédible* mais sans aucun critère de vérité. Monsieur phi l'explique bien ici : https://youtu.be/R2fjRbc9Sa0
C'est assez troublant en effet.

@gee ChatGPT est un élève de Sciences Po /d'école de commerce (au choix) qu'il n'aurait absolument aucune honte ni aucune éthique

@gee ChatGPT est un élève de Sciences Po /d'école de commerce (au choix) qui n'aurait absolument aucune honte ni aucune éthique

@gee @monsieurphi a fait une vidéo qui explique le fonctionnement du bouzin.

https://indymotion.fr/videos/watch/c754d015-6af6-4f98-841a-27e780983028

Bon, il semble que ce peertube est en vrac

https://www.youtube.com/watch?v=R2fjRbc9Sa0

#monsieurPhi #chatGPT #philosophie

@gee merci pour les démonstrations ça permet de garder un oeil critique sur ce type d'outil