Le Livre d'Argent

À partir de lundi, le Planétarium de Bretagne où je bosse passe en mode vacances d'été. Ça veut dire six séances par jour du lundi au vendredi, et trois le samedi et le dimanche :

– La séance de 11h est pour les enfants (celle du mercredi vise les 2-5 ans),
– La séance de 12h est en anglais ou en allemand pour les touristes étrangers,
– La séance de 15h (sauf le dimanche) visite les planètes du système solaire,
– La séance de 16h (sauf le samedi, et elle est à 15h le dimanche) présente le ciel du soir.
– Les autres changent d'un jour sur l'autre, consultez le programme sur le site.

À noter que cette année, on devrait aussi diffuser Dark Side of the Moon de Pink Floyd (avec le film plein dôme qui va bien) à 18h une à deux fois par semaine à partir de celle du 14 juillet.

Si vous passez dans le coin, n'hésitez pas ! (Par contre, je ne bosse pas sept jours sur sept, donc si vous voulez être sûr·e·s que ce soit moi qui cause, faites signe avant ! Sinon mes collègues sont cools aussi mais ils ne sont à ma connaissance pas sur le Fédivers.)

@Zestryon @Looping Tiens, c'est l'occasion de se réécouter les Goguettes :

https://indymotion.fr/w/g48BxmBjaznss8jJfS3ryJ

@davidrevoy (Tiens, soit dit en passant, le planétarium où je bosse passe en mode vacances scolaires à partir de la semaine prochaine, si tu pousses jusqu'à Lannion, je t'offre une séance !)

@codl @Sylvhem Hum, je pense que ce serait intéressant de pouvoir voir quelle proportion de ces climatiseurs sont utilisés pour les domiciles des gens, quelles proportions pour les espaces partagés type bureaux ou musées/cinémas/etc., et quelles proportions pour les datacenters et compagnie. Tel qu'est tourné l'article, ça pourrait ne faire penser qu'au premier de ces usages, mais je pense que le second a aussi probablement un impact loin d'être négligeable. Le troisième n'est potentiellement pas compté dedans parce qu'il serait comptée comme une catégorie à part, mais ce serait bien que ce soit explicite.

11/10 : on me signale par ailleurs que j'avais déjà partagé ce pouet qui a probablement servi d'inspiration inconsciente à cette comparaison :

https://framapiaf.org/@Moutmout/114710733548205446

Donc merci @Moutmout ^^

10/10 Mais donc, il me semble que le fait que dans les deux cas il y ait débat sur la « fiabilité » ne fait pour autant pas que Wikipédia et les SRAS/LLM doivent être mis sur le même plan. Malgré ce sujet commun, le débat est assez nettement différent entre les deux, parce que dans un cas, t'as un outil qui ne peut pas être parfait, qu'on ne peut améliorer que jusqu'à un certain point, mais qui fait quand même le taff, tandis que de l'autre, t'as un outil dont la conception même est une limite que seul le contexte va relativiser.

Si on veut se faire une idée de ce qu'on peut espérer d'un outil, c'est bien d'aller voir comment il fonctionne dans le détail, histoire de pouvoir critiquer (positivement ou négativement) en connaissance de cause.

9/10 Notons au passage que ça n'empêche absolument pas l'« IA » d'être fichtrement convaincante : elle est prévue pour ça. Et donc les gens qui promeuvent son usage sont probablement tout à fait sincères. De la même manière que les médecins qui prescrivent de l'homéopathie le font souvent en étant persuadés que ça soigne effectivement les gens. Sam Altman, Samuel Hahnemann, même combat.

Et donc un résumé à l'emporte-pièce comme je le fais là, avec beaucoup trop de raccourcis, a très peu de chances d'arriver à convaincre qui que ce soit qui parte du point de vue inverse. Mais au moins, écrire ça aura fait progresser un peu ma réflexion sur le sujet, et j'espère que ça pourra aussi vous donner à vous aussi des pistes sur lesquelles réfléchir.

8/10 Et comme pour l'homéopathie, la plupart du temps, le contexte fait que « ça marche ». Les données d'entraînement qu'on utilise jusque là sont de base elles-mêmes suffisamment fiables pour que, quand on génère un texte en prédisant à chaque fois le prochain mot à partir de ça, la plupart du temps le résultat soit globalement pas trop mauvais, relativement proche en terme de sens (encore que ça va fortement se dégrader quand les données d'entraînement seront bourrés de contenus eux-mêmes générés de cette manière, ça a déjà été mesuré, mais c'est une autre question).

Mais parfois, un accident statistique fait que l'outil va sortir une dinguerie, pas forcément facile à détecter, et selon le cas ça peut avoir des conséquences assez problématiques. De la même manière que dès fois, tu vas te chopper une maladie vraiment grave, et si tu soignes ça à l'homéopathie « comme d'habitude », ben t'es mal barré.

7/10 De l'autre côté, les SRAS/LLM, c'est au partage de connaissances ce que l'homéopathie est à la médecine : un truc qui est fait avant tout pour être très convainquant alors qu'il n'y a en pratique strictement rien qui fasse réellement le taff dedans.

Un LLM, c'est un outil statistique pour prédire le prochain mot d'un texte. Une version perfectionnée du mode prédictif dans vos SMS, en gros. Ça met des mots à la suite des autres, mais sans que rien dedans ne se pose la question de la véracité ou de l'intérêt. Ça n'est juste pas conçu pour ça.

Si vous voulez un peu plus de détails sur comment fonctionne ces machins, j'ai déjà écrit sur ça aussi :

https://www.baldursgateworld.fr/viewtopic.php?t=34767

6/10 On peut d'ailleurs aussi pousser la comparaison un cran plus loin et dire que, si les vaccins sont efficaces, ça ne veut pour autant pas dire qu'il faut faire une confiance aveugle à l'industrie pharmaceutique, qui a ses propres intérêts et des pratiques parfois franchement problématiques.

De la même manière, si Wikipédia est un outil formidable, la façon dont il est géré, en ce moment, est parfois franchement problématique aussi, et c'est quelque chose auquel on doit faire attention. M'enfin, j'avais déjà écrit sur le sujet, je ne vais pas m'étendre davantage là-dessus cette fois-ci.

https://fadrienn.irlnc.org/articles/societe/format_wikipedia/

5/10 Je pense que la comparaison avec Wikipédia et les SRAS/LLM devient assez claire dit comme ça, non ?

Wikipédia est un outil conçu pour apporter de la connaissance aux gens, comme les vaccins sont conçus pour les maintenir en bonne santé. On peut même préciser au passage que Wikipédia marche justement mieux comme « vaccin » que comme « traitement » : il est me semble-t-il prouvé qu'apporter des connaissances en amont est plus efficace pour lutter contre la désinformation que de tenter de « débunker » ensuite. Mais bon, ça c'est une autre question.

Par contre, Wikipédia reste un outil humain, donc faillible. Malgré tout le soin qu'on y met, il reste des erreurs dedans, parce que rien n'est jamais parfait, exactement comme les vaccins ont des effets secondaires. Ça se mesure, on peut poser des règles pour restreindre ça, mais on sait aussi qu'il faut faire avec.

4/10 On a donc dans les deux cas « la même » question, celle des effets bénéfiques et néfastes sur la santé. Mais les deux trucs comparés ont un fonctionnement radicalement différent, ce qui fait que les deux débats sur cette question sont fondamentalement différents : dans un cas on a un truc dont on sait qu'il fonctionne, dont on comprend pourquoi, et dont on peut travailler à améliorer l'efficacité et à réduire les effets secondaires.

Dans l'autre, on a quelque chose qui n'est pas conçu pour fonctionner, mais pour vous faire penser qu'il fonctionne. C'est son unique moyen d'action. Moyen qui, de part le contexte, peut parfois être suffisant pour avoir l'effet escompté. Parfois pas, et dans ces cas-là, ça peut facilement devenir très grave.

(Et dans les deux cas, le débat est hélas parasité par des gens très enthousiastes ou au contraire très critiques mais qui, quand on creuse un peu, n'ont pas l'air franchement au fait de ce dont il s'agit et de comment ça marche au juste, ce qui gène un peu.)

3/10 Mais du coup, pourquoi l'homéopathie continue-t-elle d'être prescrite ? À cause de ce qu'on appelle les effets contextuels, ou plus communément « le placébo » :

– D'abord, voir un médecin, se faire prescrire un traitement, ça a déjà un certain effet sur nous qui aide le corps à guérir, même s'il n'y a absolument rien d'efficace dans le traitement en question.

– Ensuite parce que, dans quand même pas mal de cas, notre corps aurait réussi de toute façon à se défendre tout seul. Comme on dit, traité, un rhume dure sept jour, pas traité, il dure une semaine. La plupart du temps, « ça marche », parce que ça aurait marché de toute façon.

Mais évidemment, le souci, c'est que dans certains cas, on se choppe quelque chose de vraiment grave, et là, il devient vital d'avoir un traitement efficace. Et vouloir traiter ces cas-là à l'homéopathie, c'est une très mauvaise idée.

2/10 D'abord, situons un peu ce dont il est question. Les vaccins ont une longue histoire et pas mal de progrès (j'avais d'ailleurs commencé à bosser sur une vidéo pour parler de ça, mais ça devait être une collab' et j'n'ai plus de nouvelles depuis un bail de la personne qui devait la faire avec moi, donc il faudrait que je vois comment j'adapte ça). Pour faire court : on a trouvé moyen d'entraîner le corps à se défendre contre les infections, ce qui lui permet d'être prêt quand ça arrive. Il arrive évidemment qu'il y ait des effets secondaires indésirables, comme pour tout, mais globalement, ça sauve *beaucoup* de vies.

De l'autre côté, l'homéopathie, ça a été inventé il y a deux siècles, et malgré d'immenses progrès scientifiques qui ont rendu le mode d'effet avancé de moins en moins crédible, ça n'a globalement pas bougé depuis. Toutes les études sérieuses menées sur la question sont environ d'accord pour dire qu'aucun effet notable des granules sur la santé n'a pu être mis en évidence jusque là.

Hier, j'ai vu quelqu'un ici qui disait que, sur la fiabilité des SRAS/LLM⁽¹⁾, on avait eu « le même débat » à propos de Wikipédia au début. J'ai répondu que comparer les deux, c'est un peu comme dire qu'on aurait « le même débat » sur les vaccins et sur l'homéopathie à propos des effets sur la santé. J'ai envie de développer un peu la comparaison, donc, dix pouets.

(1) Communément appelées « IA génératives », mais ce terme est lui-même problématique. M'enfin, vous avez déjà vu la conf' de Khrys, non ?

https://khrys.eu.org/conferences/ia-libre-f%C3%A9minisme/
https://videos-libr.es/videos/watch/5f39263e-6b88-457b-83e8-41d7993d6bc1

@sarah_trichet_allaire Joie et enthousiasme, 'faut pas non plus le dire trop vite, hein ^^"

C'est un type, il a un problème.
Alors il se dit « Je sais ! Je vais utiliser une expression rationnelle ! »
Et maintenant, il a deux problèmes.