• [^] # Re: Les LLM et la médecine

    Posté par . En réponse au lien Debian autorise l'IA dans son code Linux, et une partie de la communauté claque la porte. Évalué à 5 (+3/-0). Dernière modification le 02 septembre 2026 à 21:10.

    Je ne suis pas abonné au Monde et je n'ai donc pas lu l'article linké.

    S'il y a de la demande, je peux faire une petit journal avec une synthèse de l'article.

    Mais je suppose que le cas évident du patient qui va mourir à brève échéance et qui attends de nouveaux traitements est évoqué dans l'article ?

    Pas directement, seulement implicitement ; l'article s'intéresse surtout au barrage par les agences sanitaires et comment résoudre un faible échantillonnage, par exemple cette phrase donne le ton :

    « Dans des populations de petite taille, par exemple pour une maladie rare, on peut faire le meilleur essai du monde, mais ce sera toujours un essai de petite taille, donc avec de l’incertitude », justifie-t-elle. Or, le manque de robustesse d’un résultat, c’est ce dont les agences sanitaires ne veulent pas avant de se prononcer sur l’accès des patients à un traitement. (fin de citation)

    Accélérer la recherche médicale c'est bon pour Big Pharma mais ça peut aussi être bon pour les patients qui espèrent un traitement à une échéance plus rapide que 10 ans.

    Bien sûr, on ne vend que ce qui s'achète, et donc « Big Pharma », comme tu l'appelles, se doit de trouver des solutions à des problèmes existants, ce qui évidemment est bon pour ceux qui sont ciblés : beaucoup de maladies n'ont plus l'issue inéluctable qu'elles avaient.

    Mais dans mon commentaire, j'étais plutôt inquiet au sujet de la merdification de la médecine : le bien-fondé à long terme de toutes les simulations de test par création de nombreux malades virtuels, et également du fait que le médecin risquait de considérer de plus en plus l'IA-gen comme un oracle, du fait qu'elle aurait accès à un immense échantillonnage de patients, qu'elle pourrait créer instantanément un patient virtuel plus ou moins équivalent à la personne en chair et en os en face du médecin (ou de son écran, le nombre des téléconsultations étant en train d'exploser) et pourrait du coup lui faire subir tout un tas de tortures virtuelles (à l'avatar, bien sûr), pouvant le faire mourir plusieurs fois suite à des traitements virtuels erronés. Du coup on en arriverait à une médecine totalement déconnectée des médecins, lesquels, dans cette vision futuriste, n'auraient plus que le rôle équivalent à celui du conducteur dans une voiture autonome : n'être présent que pour le cas de faille du système autonome.

    Alors bien sûr, il y aura probablement plus (dans le sens +) de guérisons, mais en cas de traitements erronés (oui, les fameuses hallucinations), qui saura les détecter ? Et en cas de glissement de qualité des diagnostics, il n'y aura quasiment plus de médecins pour pouvoir alerter sur la dégradation de la médecine, La médecine risque de se déshumaniser, s'éloigner des humains pour tomber dans le même problème que les dev informatiques : la machine sait programmer de mieux en mieux, mais les devs capables de comprendre les masses de code généré seront de plus en plus rares. Et la formation d'un médecin est bien plus longue et complexe que celle d'un dev. Mais surtout, le dev traite avec des machine, mais le médecin avec des humains !!!

    De toute façon, une médecine déshumanisée de cette façon s'éloignerait radicalement de ses fondements, d'ailleurs je vois mal une machine prêter le serment d'Hippocrate, dont voici quelques extraits (les italiques sont de moi) :

    Mon premier souci sera de rétablir, de préserver ou de promouvoir la santé dans tous ses éléments, physiques et mentaux, individuels et sociaux
    [...]
    J'informerai les patients des décisions envisagées, de leurs raisons et de leurs conséquences. Je ne tromperai jamais leur confiance et n'exploiterai pas le pouvoir hérité des circonstances pour forcer les consciences.
    [...]
    Admis dans l'intimité des personnes, je tairai les secrets qui me seront confiés. Reçu à l'intérieur des maisons, je respecterai les secrets des foyers
    [...]
    Que les hommes et mes confrères m'accordent leur estime si je suis fidèle à mes promesses ; que je sois déshonoré et méprisé si j'y manque.

    Edit : Je lis dans ce nourjal une citation de Greg Kroah Hartmann :

    Les LLMs mentent, tous. Même les meilleurs modèles produisent 1/4 à 1/3 de faux positifs, tentant de faire croire à un bug là où il n'y en a pas. Démêler les vrais bugs des faux demande une grande compétence sur le code en question. Ils filtrent ça en demandant un correctif en plus du rapport de bug.