@StephaneCapo Alors, c'est toujours difficile d'extrapoler évidemment, d'autant que ça dépend aussi de comment on investit les sous (en l'occurrence, le problème dont il est surtout question ici a résisté longtemps parce que le contexte faisait que la plupart des gens qui s'y mettaient cherchaient à prouver une conjecture qui en fait s'est avéré fausse, donc ce qu'il fallait, c'était surtout quelqu'un qui décide de partir dans le sens inverse des autres, je dirais qu'en général ce genre de trucs dépends moins des financements que du nombre de gens qui y réfléchissent sur leur temps libre).
On peut aussi, légitimement, se questionner sur l'intérêt de mettre des sous spécifiquement sur la résolution des problèmes d'Erdös, qui sont des problèmes de maths intéressants mais à ma connaissance sans spécialement d'applications ailleurs, donc les résoudre par ricocher en travaillant sur autre chose paraît plus probable (cas de plusieurs d'entre eux qui avaient été résolus dans d'autres branches des maths sans que le lien ne soit fait).
Par contre, oui, il y a probablement moyen d'arriver à quelque chose qui fasse des maths (ou en tout cas de la recherche de preuves et de contre-exemples) plus efficacement qu'un LLM, vu qu'une preuve en maths c'est me semble-t-il quelque chose de pas mal algorithmique pour lequel la langue naturelle n'est pas forcément l'outil le plus adapté. Mais je laisse des gens avec plus de connaissances du domaine que moi confirmer ou infirmer :-)
On peut aussi, légitimement, se questionner sur l'intérêt de mettre des sous spécifiquement sur la résolution des problèmes d'Erdös, qui sont des problèmes de maths intéressants mais à ma connaissance sans spécialement d'applications ailleurs, donc les résoudre par ricocher en travaillant sur autre chose paraît plus probable (cas de plusieurs d'entre eux qui avaient été résolus dans d'autres branches des maths sans que le lien ne soit fait).
Par contre, oui, il y a probablement moyen d'arriver à quelque chose qui fasse des maths (ou en tout cas de la recherche de preuves et de contre-exemples) plus efficacement qu'un LLM, vu qu'une preuve en maths c'est me semble-t-il quelque chose de pas mal algorithmique pour lequel la langue naturelle n'est pas forcément l'outil le plus adapté. Mais je laisse des gens avec plus de connaissances du domaine que moi confirmer ou infirmer :-)
@Khrys En vrai, j'essaye de garder une critique pertinente des LLM et d'être prêt à changer d'avis si un des points sur lesquels je base mes positions actuelles devenait faux. Et comme je sais qu'il a beaucoup bossé là-dessus (j'ai pas mal découvert le sujet grace à ses premières vidéos avant de m'y pencher professionnellement, et à l'époque ce qu'il disait était très pertinent), je me dis que si quelqu'un a des chances de me pointer une erreur de ma part, ça devrait être lui.
Sauf que plus ça va, plus les positions qu'ils s'est mis à défendre me semblent à côté de la plaque et mal argumentées, donc je vais peut-être réfléchir à aller voir ailleurs. Par contre, ça me semble confirmer un truc : l'adhésion aux LLM n'est souvent pas isolée, ça permet de mettre en lumière d'autres soucis ailleurs, ici dans le regard porté à la recherche scientifique “humaine”.
Sauf que plus ça va, plus les positions qu'ils s'est mis à défendre me semblent à côté de la plaque et mal argumentées, donc je vais peut-être réfléchir à aller voir ailleurs. Par contre, ça me semble confirmer un truc : l'adhésion aux LLM n'est souvent pas isolée, ça permet de mettre en lumière d'autres soucis ailleurs, ici dans le regard porté à la recherche scientifique “humaine”.
D'autre part, je suis le premier à mettre en avant le fait que découvrir et partager de nouvelles choses est quelque chose de très cool, mais comme disait à peu près je ne sais plus qui (ouais, c'est précis), si le seul objectif était l'ivresse de la connaissance, en quoi payer un chercheur pour chercher serait quelque chose de mieux que de payer un ivrogne à boire ?
Si c'est collectivement pertinent de faire des efforts pour avoir un système de recherche qui fonctionne à peu près, c'est d'abord et surtout parce que la recherche permet d'identifier des problèmes que rencontre notre société et d'apporter des éléments de réponse dont la prise en compte permet d'améliorer les choses. La recherche scientifique, comme pas mal d'autres choses, c'est éminemment politique, ce n'est d'ailleurs pas pour rien que les positions antidémocratiques sont souvent associées à un refus de prise en compte de pas mal de réalités.
Dans ce contexte-là, même en supposant un monde où les LLM sont plus efficaces que les humains pour obtenir des résultats fiables, miser sur l'efficacité en faisant l'impasse sur les questions politiques que ça pose, c'est déjà louper totalement le point de la recherche elle-même.
Si c'est collectivement pertinent de faire des efforts pour avoir un système de recherche qui fonctionne à peu près, c'est d'abord et surtout parce que la recherche permet d'identifier des problèmes que rencontre notre société et d'apporter des éléments de réponse dont la prise en compte permet d'améliorer les choses. La recherche scientifique, comme pas mal d'autres choses, c'est éminemment politique, ce n'est d'ailleurs pas pour rien que les positions antidémocratiques sont souvent associées à un refus de prise en compte de pas mal de réalités.
Dans ce contexte-là, même en supposant un monde où les LLM sont plus efficaces que les humains pour obtenir des résultats fiables, miser sur l'efficacité en faisant l'impasse sur les questions politiques que ça pose, c'est déjà louper totalement le point de la recherche elle-même.
Du coup, je vais me permettre de poser là deux points qui, me semble-t-il, devraient être évidents pour tout le monde mais sont encore manifestement loins de l'être.
D'une part, la simple existence de médailles Fields et autres prix Nobel est déjà, en soi, un signe que le modèle de fonctionnement de notre système de recherche n'est pas sain, parce qu'on essaye de forcer un aspect méritocratique à quelque chose qui est un travail collaboratif où le succès dépend surtout des moyens et tombe beaucoup sur les gens de façon aléatoire (sur ce sujet-là, j'ai la flemme de chercher le lien ce soir mais voyez la vidéo d'Hygiène Mentale sur la régression à la moyenne, elle est sur Skeptikon).
Rien qu'associer des résultats à une personne en particulier, ça peut aider à situer le contexte de leur obtention, mais ça contribue beaucoup à perdre de vue la façon dont la science se fait réellement, j'en ai causé dans quelques threads récents.
D'une part, la simple existence de médailles Fields et autres prix Nobel est déjà, en soi, un signe que le modèle de fonctionnement de notre système de recherche n'est pas sain, parce qu'on essaye de forcer un aspect méritocratique à quelque chose qui est un travail collaboratif où le succès dépend surtout des moyens et tombe beaucoup sur les gens de façon aléatoire (sur ce sujet-là, j'ai la flemme de chercher le lien ce soir mais voyez la vidéo d'Hygiène Mentale sur la régression à la moyenne, elle est sur Skeptikon).
Rien qu'associer des résultats à une personne en particulier, ça peut aider à situer le contexte de leur obtention, mais ça contribue beaucoup à perdre de vue la façon dont la science se fait réellement, j'en ai causé dans quelques threads récents.
Et évidemment, il conclue en disant que les maths étaient jusque là un des trucs les plus brillants qu'on pouvait faire avec un cerveau humain et que du coup on se rapproche sans doute du point où l'IA permettra de progresser dans la recherche dans tous les domaines et en particulier en IA… sans vraiment s'interroger sur les finalités du truc et les raisons pour lesquelles on fait de la recherche.
Et encore une fois, sans spécialement mentionner les effets environnementaux et compagnie, il questionne l'intérêt de continuer à faire faire de la recherche par des humains sans s'intéresser au coût de la faire faire autrement, c'est quand même un brin navrant.
Ceci dit, je le rejoins sur une partie de ce qu'il dit : cet exemple peut servir à mettre en lumière le fait qu'on devrait un peu changer de point de vue sur la recherche et sur le statut des gens qui ont trouvé des découvertes majeures, mais vu à quel point il insiste sur le fait que les gens qu'il cite ont eu la médaille Fields, je ne crois pas qu'on interprète ça de la même façon.
Et encore une fois, sans spécialement mentionner les effets environnementaux et compagnie, il questionne l'intérêt de continuer à faire faire de la recherche par des humains sans s'intéresser au coût de la faire faire autrement, c'est quand même un brin navrant.
Ceci dit, je le rejoins sur une partie de ce qu'il dit : cet exemple peut servir à mettre en lumière le fait qu'on devrait un peu changer de point de vue sur la recherche et sur le statut des gens qui ont trouvé des découvertes majeures, mais vu à quel point il insiste sur le fait que les gens qu'il cite ont eu la médaille Fields, je ne crois pas qu'on interprète ça de la même façon.
Ah, il indique que ce que je suis en train d'objecter là lui semble d'une mauvaise foi criante parce que le taux de réussite des mathématiciens humains à prouver ou réfuter des trucs est très bas aussi, que c'est possiblement souvent juste un coup de bol aussi, et que les humains non plus ne communiquent pas beaucoup sur leurs échecs.
Alors, d'un côté je suis d'accord avec ces objections mais j'ai du mal à voir en quoi ça répond vraiment à l'objection, et d'autre part le dernier point me semble quand même un brin contradictoire avec le fait qu'au début, pour essayer de montrer que ce n'étaient pas n'importe quels problèmes qui avaient été résolus, il insistait sur le fait que c'étaient des problèmes sur lesquels énormément de mathématiciens avaient réfléchi en vain… ce qui veut dire qu'on a quand même quelques données sur les échecs, donc, à moins que je n'aie loupé une marche ?
(Et, encore une fois, justement : c'est parce qu'on sait qu'il y a eu énormément de tentatives que le fait qu'on ait fini par trouver n'est pas si surprenant et qu'on peut douter un peu de l'intérêt de glorifier ce qui a eu du bol, que ce soit un LLM ou un être humain, justement.)
Alors, d'un côté je suis d'accord avec ces objections mais j'ai du mal à voir en quoi ça répond vraiment à l'objection, et d'autre part le dernier point me semble quand même un brin contradictoire avec le fait qu'au début, pour essayer de montrer que ce n'étaient pas n'importe quels problèmes qui avaient été résolus, il insistait sur le fait que c'étaient des problèmes sur lesquels énormément de mathématiciens avaient réfléchi en vain… ce qui veut dire qu'on a quand même quelques données sur les échecs, donc, à moins que je n'aie loupé une marche ?
(Et, encore une fois, justement : c'est parce qu'on sait qu'il y a eu énormément de tentatives que le fait qu'on ait fini par trouver n'est pas si surprenant et qu'on peut douter un peu de l'intérêt de glorifier ce qui a eu du bol, que ce soit un LLM ou un être humain, justement.)
Okay, ça nage en plein dans ce que je disais dans le premier pouet, mais là de façon particulièrement flagrante.
Il parle d'une preuve trouvée par les gens d'OpenAI et fait remarquer lui-même que le truc est totalement automatisé et que donc OpenAI a littéralement pu demander des tonnes d'autres exemples et faire de la pub' au seul cas qui a marché (précisant qu'on ne saura pas parce qu'OpenAI n'est pas un modèle de transparence), puis conclue… que ça lui paraîtrait surprenant que ce soit ce qui s'est passé, parce que, quand même, celui qui a marché est plus dur que les autres et qu'on a vu des gens réussir à en trouver d'autres, donc s'ils avaient juste fait ça ils auraient dû avoir d'autres résultats positifs.
En tout cas, moi, ça me conforte dans mon idée que l'enthousiasme vis-à-vis des compétences des LLM est incompatible avec le fait d'avoir quelques notions de base de statistiques.
Il parle d'une preuve trouvée par les gens d'OpenAI et fait remarquer lui-même que le truc est totalement automatisé et que donc OpenAI a littéralement pu demander des tonnes d'autres exemples et faire de la pub' au seul cas qui a marché (précisant qu'on ne saura pas parce qu'OpenAI n'est pas un modèle de transparence), puis conclue… que ça lui paraîtrait surprenant que ce soit ce qui s'est passé, parce que, quand même, celui qui a marché est plus dur que les autres et qu'on a vu des gens réussir à en trouver d'autres, donc s'ils avaient juste fait ça ils auraient dû avoir d'autres résultats positifs.
En tout cas, moi, ça me conforte dans mon idée que l'enthousiasme vis-à-vis des compétences des LLM est incompatible avec le fait d'avoir quelques notions de base de statistiques.
Là j'en suis au moment où il rappelle qu'il y a trois ans les LLM se viandaient sur des problèmes de maths de niveau primaire et que maintenant ça résout des problèmes de niveau recherche, en précisant que (d'après lui) « une telle vitesse de progression est réellement difficile à concevoir ».
Déjà j'ai quand même un peu envie de rappeler que les mêmes LLM continuent de se viander sur des problèmes de maths de niveau primaire dans le même temps ; et puis bon, sur la vitesse de progression, j'peux pas m'empêcher de penser au sujet des deux derniers vulgadredis, hein, trois ans c'est grosso-modo le temps qu'il a fallu entre Sputnik et Gagarine, par exemple. Avec me semble-t-il la même cause dans les deux cas : un sujet à la mode, donc beaucoup de moyens humains et financiers.
Déjà j'ai quand même un peu envie de rappeler que les mêmes LLM continuent de se viander sur des problèmes de maths de niveau primaire dans le même temps ; et puis bon, sur la vitesse de progression, j'peux pas m'empêcher de penser au sujet des deux derniers vulgadredis, hein, trois ans c'est grosso-modo le temps qu'il a fallu entre Sputnik et Gagarine, par exemple. Avec me semble-t-il la même cause dans les deux cas : un sujet à la mode, donc beaucoup de moyens humains et financiers.
Bon, j'ai quand même fini par avoir le courage de lancer la dernière vidéo de monsieur Phi, sur les résolutions de problèmes de maths par IA, c'est assez impressionnant comme il insiste sur les bouts qui devraient conduire à analyser le truc autrement sans pour autant le faire.
Par exemple, il indique qu'il trouve très caractéristique que ce soient surtout des utilisateurs de LLMs qui sont tombés sur des résolutions de problèmes et pas des ingés de boîtes produisant ces LLM, mais ça ne le fait absolument pas s'interroger sur le rôle des statistiques dans tout ça, le fait que les utilisateurs sont quand même plus nombreux que les ingés et que donc ben quand un truc avait juste une probabilité faible de se produire sans rien signifier de particulier, ben c'est normal qu'elle arrive là où il y a le plus grand nombre d'essais.
Par exemple, il indique qu'il trouve très caractéristique que ce soient surtout des utilisateurs de LLMs qui sont tombés sur des résolutions de problèmes et pas des ingés de boîtes produisant ces LLM, mais ça ne le fait absolument pas s'interroger sur le rôle des statistiques dans tout ça, le fait que les utilisateurs sont quand même plus nombreux que les ingés et que donc ben quand un truc avait juste une probabilité faible de se produire sans rien signifier de particulier, ben c'est normal qu'elle arrive là où il y a le plus grand nombre d'essais.
@martin je me permets de répondre premier degré : en plus chaque fois qu'on se moque de fachos car ils sont ridicules, incultes ou bêtes y'a des gens qui ont été ridiculisés, n'ont jamais eu accès à la culture et sont tenus pour bêtes qui se sentent attaqués avec et se disent que clairement ils sont pas les bienvenus dans le camp d'en face 😒
Les fascistes d’il y a un siècle aussi ils étaient ridicules, incultes, souvent bêtes, et c’est pas ça qui les a empêchés de prendre le pouvoir et de commettre des atrocités. Je suis pas certain que c’est ça qu’on devrait leur reprocher en premier.
@Aloteur Cf le thread précédent : les fusées sont basées sur la technologie qui servait, pendant la deuxième guerre mondiale, à fabriquer des missiles.
On a donc hacké (détourné, bidouillé) une technologie faite pour bombarder des gens pour faire à la place quelque chose qui permet d'étudier l'univers qui nous entoure.
On a donc hacké (détourné, bidouillé) une technologie faite pour bombarder des gens pour faire à la place quelque chose qui permet d'étudier l'univers qui nous entoure.
16/16 Mais nous sommes encore loin d'avoir fait le tour de tout notre système solaire, et d'ailleurs plusieurs sondes sont dans l'espace à l'instant où j'écris ceci. On peut mentionner Hera, la mission partie compléter celle de DART, qu'on avait déjà mentionnée, mais également JUICE de l'ESA et Europa Clipper de la NASA, toutes deux en route vers les lunes de Jupiter.
Bref, on aura sans doute encore de quoi alimenter quelques threads dans l'avenir ! La semaine prochaine, je pense faire un thread un soupçon plus technique sur la façon dont on se déplace d'un corps céleste à l'autre, mais j'ai évoqué quelques autres pistes ici, alors n'hésitez pas à me dire ce qui vous tente comme sujets !
Bref, on aura sans doute encore de quoi alimenter quelques threads dans l'avenir ! La semaine prochaine, je pense faire un thread un soupçon plus technique sur la façon dont on se déplace d'un corps céleste à l'autre, mais j'ai évoqué quelques autres pistes ici, alors n'hésitez pas à me dire ce qui vous tente comme sujets !
15/16 Mais on a par contre visité des objets plus petits. Bon, je ne vous remet pas ma vidéo sur Pluton et New Horizons (ainsi que Cérès et Dawn), je vous l'ai déjà assez spammée comme ça, mais les deux dernières décennies ont compté plusieurs missions en direction de la ceinture principale d'astéroïdes.
La première d'entre elles a visité (433) Éros, autour duquel la sonde NEAR Shoemaker s'est mise en orbite… le jour de la saint valentin ! Elle lui a tourné autour pendant presque un an avant de s'y poser, le 12 février 2001, permettant les premières analyses du sol d'un astéroïde, et nous permettant au passage de commencer à découvrir leur complexité bien plus grande que prévu.
Ah, par contre, je vous remets le lien vers le thread sur les comètes, parce que bon, Rosetta : https://fadrienn.irlnc.org/notice/AwyBqt6c4qOUfKUKjQ
La première d'entre elles a visité (433) Éros, autour duquel la sonde NEAR Shoemaker s'est mise en orbite… le jour de la saint valentin ! Elle lui a tourné autour pendant presque un an avant de s'y poser, le 12 février 2001, permettant les premières analyses du sol d'un astéroïde, et nous permettant au passage de commencer à découvrir leur complexité bien plus grande que prévu.
Ah, par contre, je vous remets le lien vers le thread sur les comètes, parce que bon, Rosetta : https://fadrienn.irlnc.org/notice/AwyBqt6c4qOUfKUKjQ
14/16 Notez que Cassini emportait quand même un atterrisseur, Huygens (comme disait André Brahic, « on a collé un catholique sur le dos d'un protestant »), mais pour aller visiter Titan , la plus grosse des lunes de Saturne. On a d'ailleurs déjà vu la vidéo dans un autre thread⁽*⁾.
Ce qui fait donc pour l'instant trois planètes (en comptant la Terre) et deux lunes sur lesquelles on a pu atterrir. On n'est en effet jamais allé se poser sur Mercure, et seules deux sondes (Mariner 10, partie en 1974 et MESSENGER, partie en 2008) lui ont tourné autour à ce jour. Les conditions ne sont pas évidentes aussi près du Soleil.
(∗) Vu qu'on a commencé avec la course à la Lune, c'était le thread publié le jour du retour d'Artémis Ⅱ : https://fadrienn.irlnc.org/notice/B59spsqoXPe8KqBn7Y
Ce qui fait donc pour l'instant trois planètes (en comptant la Terre) et deux lunes sur lesquelles on a pu atterrir. On n'est en effet jamais allé se poser sur Mercure, et seules deux sondes (Mariner 10, partie en 1974 et MESSENGER, partie en 2008) lui ont tourné autour à ce jour. Les conditions ne sont pas évidentes aussi près du Soleil.
(∗) Vu qu'on a commencé avec la course à la Lune, c'était le thread publié le jour du retour d'Artémis Ⅱ : https://fadrienn.irlnc.org/notice/B59spsqoXPe8KqBn7Y
13/16 Bien sûr, l'exploration des autres planètes ne s'est pas arrêtée à Mars et Vénus. En 1977, on en a déjà parlé dans un thread récent, les deux sondes Voyager ont été lancées, la seconde étant pour l'instant la seule à avoir vu de près les deux planètes les plus lointaines, Uranus et Neptune.
Saturne, en revanche, a eu depuis la visite de la sonde Cassini (on en a parlé aussi rapidement dans le même thread), tandis que Jupiter a été visité par Galileo, puis par Juno, qui est encore en train de tourner autour. Mais comme les planètes gazeuses n'ont pas de sol, pas la peine de prévoir un atterrisseur pour elles.
Oh, si vous avez manqué le thread en question : https://fadrienn.irlnc.org/notice/B6KMHnRV7rZ1ip7s3s
Saturne, en revanche, a eu depuis la visite de la sonde Cassini (on en a parlé aussi rapidement dans le même thread), tandis que Jupiter a été visité par Galileo, puis par Juno, qui est encore en train de tourner autour. Mais comme les planètes gazeuses n'ont pas de sol, pas la peine de prévoir un atterrisseur pour elles.
Oh, si vous avez manqué le thread en question : https://fadrienn.irlnc.org/notice/B6KMHnRV7rZ1ip7s3s
12/16 Une deuxième sonde, Viking 2, fut lancée le neuf septembre 1975. De conception très similaire, elle atteignit l'orbite martienne le sept août 1976 et son atterrisseur se posa le trois septembre suivant, soit près d'un an après son lancement. Contrairement à la première dont le sismographe était sans doute défectueux, cette seconde sonde détecta des ondes sismiques à la surface.
Mais le point que l'on retient principalement est le test de recherche d'activité biologique dont le résultat fut assez surprenant. Il semble que des réactions chimiques imprévues aient conduit à un faux positif. Là encore, on pourra détailler ce point dans un thread dédié si vous voulez.
Mais le point que l'on retient principalement est le test de recherche d'activité biologique dont le résultat fut assez surprenant. Il semble que des réactions chimiques imprévues aient conduit à un faux positif. Là encore, on pourra détailler ce point dans un thread dédié si vous voulez.
11/16 Il fallu donc attendre quatre ans de plus pour qu'un nouveau robot, venu cette fois des USA, se pose sur Mars. C'était la mission Viking 1, partie de la Terre le 20 août 1975 et qui, bénéficiant de conditions moins favorables, s'est d'abord mise en orbite autour de Mars le 19 juin 1976.
La mission comportait deux parties, un atterrisseur qui s'est posé le 20 juillet 1976, mais également un orbiteur, qui est donc resté à tourner autour de la planète et a pris un certain nombre de photo… dont une plutôt célèbre dont on reparlera sans doute dans un prochain thread.
La mission comportait deux parties, un atterrisseur qui s'est posé le 20 juillet 1976, mais également un orbiteur, qui est donc resté à tourner autour de la planète et a pris un certain nombre de photo… dont une plutôt célèbre dont on reparlera sans doute dans un prochain thread.
10/16 Presque un an après Venera 7, le deux décembre 1971, et après cette fois six mois de voyage (et l'échec de sa jumelle Mars 2 qui s'est écrasée sur la planète rouge), la sonde soviétique Mars 3 fut la première à se poser sur notre autre voisine.
Hélas, si son atterrissage s'est bien passé, elle est en revanche tombée en panne une vingtaine de secondes après avoir déployé ses instruments, lui permettant à peine de transmettre une première photo incomplète et de mauvaise qualité, ne permettant pas encore d'étudier la planète rouge.
Hélas, si son atterrissage s'est bien passé, elle est en revanche tombée en panne une vingtaine de secondes après avoir déployé ses instruments, lui permettant à peine de transmettre une première photo incomplète et de mauvaise qualité, ne permettant pas encore d'étudier la planète rouge.
9/16 En l'occurrence, après que des missions précédentes aient tourné plusieurs fois autour de Vénus, c'est le 15 décembre 1970, après quatre mois de voyage dans l'espace, que la sonde Venera 7 devint le premier objet terrestre à se poser carrément sur une autre planète.
Les missions Venera 8 à 14, la dernière arrivant sur place le 15 mars 1982, enverront des atterrisseurs de plus en plus perfectionnés, permettant de faire quelques relevés au sol… mais les conditions à la surface de Vénus sont si épouvantables que Venera 13, celle qui aura survécu le plus longtemps, n'aura tenu qu'à peine plus de deux heures.
Les missions Venera 8 à 14, la dernière arrivant sur place le 15 mars 1982, enverront des atterrisseurs de plus en plus perfectionnés, permettant de faire quelques relevés au sol… mais les conditions à la surface de Vénus sont si épouvantables que Venera 13, celle qui aura survécu le plus longtemps, n'aura tenu qu'à peine plus de deux heures.
