Faya a écrit 3238 commentaires

Mais les probabilités que ça se reproduise ailleurs est élevée.

Ailleurs = une autre boîte US ? Parce que je pense que les chinois se frottent les mains.

Sorry pour le double-post mais j'ai écrit mon msg dans Vim donc j'ai oublié d'y ajouter ce truc que je voulais signaler à la fin :

J'accepte sans soucis tes excuses et j'y apporte les miennes si cette affaire d'antivax a été maladroite. De manière générale j'apprécie tes interventions et je prends tjrs mon temps pour lire tes pavés. J'ai souvenir d'une précédente discussion où je te disais un truc du style "Félicitations si tu parviens à toujours vivre en accord avec tes valeurs" et je crois que c'était mal passé alors que c'était tout à fait sincère. Bref, peut-être que tu as tendance à vouloir attribuer des trucs non-dits à ton contradicteur mais au final il y a une chose dont je suis sûr (enfin sûr... tant qu'on peut se fier aux écrits d'un étranger sur un obscur forum libriste) c'est que tu tiens ta ligne. Je ne vois que trop les contradictions entre ce que je veux, ce que je vis et la façon dont je vis, donc à mes yeux en termes de cohérence et de "vivre en accord avec mes idées" tu es loin devant. Après j'ai aussi souvent eu à faire à des tenants de la "pureté militante" qui font plus de tort à la cause qu'autre chose. Tiens, c'est peut-être même ce qui me pousse à vouloir chercher la faille 👀

Ou alors c'est juste parce qu'on est trolldi...

Décidément cette discussion est surprenante 😅 Après avoir été un soutien de OpenAI j'ai apparemment des arguments que ne renieraient pas un complice d'esclavagiste. En dehors de Linux et du dev, l'une de mes occupations c'est ça parce que nous (mon entourage et moi) sommes victimes au quotidien de ça (très concrètement hein, mais ça va dévier trop loin) du coup c'est assez ironique. Donc je n'ai jamais dit que j'étais d'accord avec toute loi, j'ai même donné un exemple de loi avec lequel je n'étais pas d'accord. J'ai aussi commencé ce fil en disant que ces entreprises étaient des prédateurs. Mais mon avis sur OpenAI et l'utilisation qui en est faite n'est pas le même que sur la technologie des LLM ou sur l'entraînement des modèles. J'évite de rentrer dans ces discussions parce que c'est super clivant et que je sais qu'il y a peu de place pour les nuances sur le sujet. Je ne renie pas la désobéissance civile, la convergence des luttes, les combats pour faire changer la société. Même si j'ai pas mal ralenti sur le militantisme (l'âge je suppose et la santé) j'ai fait ma minime part. Par contre il y a des principes qui me paraissent essentiels, ça me vient sûrement d'ailleurs de mes occupations hors tech, comme "la loi doit être la même pour tout le monde". Bien sûr que les puissants in fine en obtiennent plus que les autres. Le "certains plus égaux que d'autres" c'est mon quotidien ! Mais c'est de ce côté (du côté des autres) que j'ai envie de voir la lutte. Un Linux de l'IA qui fait la nique aux GAFAMS avec un dataset d'entraînement et des sources ouvertes par exemple. Et aussi des auteurs qui font condamner OpenAI pour contrefaçon. Mais comme avec le "libre mais NC", j'ai un voyant qui s'allume quand on parle de passer outre certains trucs (charge de la preuve notamment) parce que c'est très difficile à cadrer quand on emprunte ce chemin. Notons que pour moi sur le sujet de l'article c'est résolu puisqu'on demande des éléments concrets de suspicion. Ce n'est pas du présumé coupable open-bar.

tous ces auteurs qui sont la source de ces technologies (rien n'auraient été possible sans elles et eux) perdent leur boulot, ne vendent plus rien, se font remplacer par des simulacres mal faits

Tiens, ça m'est arrivé pas plus tard qu'aujourd'hui, la vérité vraie. Un cousin qui a une boîte de Fret me dit qu'il a fait des trucs avec Claude mais qu'il ne sait pas comment déployer sur un serveur pour rendre l'appli accessible à ses salariés. Bon comme c'est la famille (encore) je suis tout de même allé voir mais en arrivant il me dit qu'un de ses salariés vient lui même de faire une appli qui couvre certains besoins, il a tout fait avec Claude, de la prise du domaine et du VPS jusqu'au déploiement. Le gars ne sait pas coder. Il ne savait pas quel était le moteur de base de données utilisé, quel langage, rien. Claude lui a dit quoi faire, il a suivi, il a une appli interne à l'entreprise qui marche sur un serveur (Linux mais il ne sait pas quelle distribution). Maintenant on ne me demande plus de faire du dev mais de faire de la relecture du truc de Claude pour vérifier si il y a des problèmes de sécurité. Comme tu peux le voir je suis touché très directement (encore) par le sujet. Mais pour mon avis cf. plus haut.

Oui enfin là, plutôt que de comparer un LLM et un vaccin, surtout tu essaies de faire un parallèle entre moi et un anti-vax.

Non et non, toujours pas. C'est pas le vaccin le sujet, c'est le mode d'argumentation :
"Leave the multi-billion dollar company alone!" = "Tu as des actions chez Pfizer". Comme si parler de la technologie ou de la loi impliquait que je défendais une société. Les antivax en question ce sont des personnes que je respecte éminemment (famille proche mais en même temps sur mon île il y a à peine 40% de vaccinés, les vaccinés sont l'anomalie) et qui ont effectivement été empoisonnées par les pesticides des békés donc je vois bien d'où ils parlent. Et vu le temps que j'ai passé à essayer de déconstruire leur trauma je ne me permettrais pas, je t'assure, de te traiter d'antivax. C'est exactement pour ça que j'ai précisé que je ne comparais pas le LLM au vaccin ! Bon, visiblement mes images sont systématiquement trop éloignées du sujet pour être pertinentes.

Je vais commencer par la fin mais là ça y va fort quand même :

Limite, "c'est votre faute, si vous attaquez pas, c'est bien que vous savez que vous avez tort", qui sous-tend ce type de proposition... C'est juste dégueulasse.

C'est mettre des mots dans ma bouche que je trouve dégueulasse perso... Quand je dis "attaquons" je ne pensais pas au petit dev ou écrivain dans son coin, je pensais plutôt à un mouvement de fond, quelque chose de coordonné, avec potentiellement de grosses boîtes ou maisons d'éditions ou ... qui participent. D'ailleurs ça a fonctionné dans certains cas (je pense notamment au combat des rédactions contre Google News à l'époque).

Ensuite je n'ai pas pour objectif de défendre OpenAI&co (qui n'en ont d'ailleurs pas besoin), je m'intéressais juste aux principes de la loi. Renault apporte l'élément qu'il manquait et que je trouve salutaire (mais c'est de ma faute j'aurais dû aller lire la proposition de loi avant) : « dès lors qu’un indice afférent au développement ou au déploiement de ce système ou au résultat généré par celui-ci rend vraisemblable cette utilisation. » Du coup ça n'est pas de la simple présomption de culpabilité. Il y a des éléments à fournir. Un début de preuve.

Ajoute à cela que ces entreprises font des pieds et des mains pour ne pas avoir à affronter la loi, grâce à leurs gros sous...

Oui, et le résultat c'est que ce n'est pas tranché. Et on a besoin que ça soit tranché. Là encore aucun parti pris, si un jugement abouti à "interdit d'entraîner un LLM sur du code GPL v3" ça me va. On aura une base concrète.

me fait furieusement penser à ce meme célèbre "Leave the multi-billion dollar company alone!" du gars qui veut absolument défendre les pauvres méga-corporations victimes des méchants artistes/développeurs/autres

Et moi ça me rappelle mes débats du temps du COVID ou ma famille me demandait si j'avais des actions Pfizer quand je leur disais qu'il était préférable de se faire vacciner. "Tu défends la médecine des blancs qui ont déjà voulu nous empoisonner." Comparaison n'est pas raison donc je ne fais pas d'équivalence entre un LLM et un vaccin hein (je m'y attends à cette réponse...), juste que je peux discuter du fondement de la loi sans être dans la défense de ceux à qui elle va s'appliquer. De même, je suis pour une liberté d'expression maximale (style USA) pourtant je ne défends pas les racistes qui en usent. De mon point de vue de minorité visible, il est préférable que les racistes puissent tenir des propos racistes, je gagne du temps. Bref je m'égare, tout ça pour dire que ce qui m'intéresse ici c'est la loi pareille pour tous (ou plutôt m'intéressait parce qu'avec ces accusations successives je doute que ça devienne constructif).

C'est pas une "généralité" qui pourrait s'avérer fausse dans des cas particuliers. Non, c'est juste le cas pour toutes.

Et avec une telle loi ça le resterait parce que cette épée de Damoclès empêche un petit de faire son LLM avec des données du domaine public par exemple. Vu qu'il sera présumé coupable. Finalement seuls les prédateurs seraient en mesure de se défendre.

Mon code a toujours une licence qui au minimum est attaché à garder ma paternité, voire il est le plus souvent copyleft (par ex. GPLv3 dans GIMP!)

J'ai une assez bonne idée de ce que tu penses des LLM mais à ma connaissance on a toujours pas tranché de la légalité de les entraîner sur du code libre. On pourrait attaquer les cas ou le LLM recrache du code non-trivial sous licence oui. Mais pour l'entraînement ça reste flou (sauf si il y a eu des décisions, je n'ai pas fouillé récemment, je voudrais bien que ça soit enfin tranché par une décision de justice).

Au final j'en reviens à mon exemple qui me semble parlant, en gros tu dis "ce sont des méchants, la loi doit s'appliquer différemment". Pour moi ça ne suffit pas pour renverser le principe essentiel de la charge de la preuve. OK j'ai pillé des banques mais ça ne veut pas dire qu'on peut venir me demander de prouver mon innocence chaque fois que quelqu'un pense que ses affaires ont disparu.

[EDIT]

C'est un fait, on le sait, elles le disent elle-même

Donc il y a de quoi les attaquer. Elles le disent, il y a des preuves. Attaquons la contrefaçon avec des preuves, pas de la présomption de culpabilité.

Si tu t'es fait piller des données, c'est à toi d'apporter la preuve. C'est l'exact inverse d'une certaine bienséance qui ...

Ouais mais en même temps "Ce texte très attendu souhaitait inverser la charge de la preuve lors d’un probable pillage de données : des entreprises d’IA aurait dû s’en défendre, quand aujourd’hui c’est à l’ayant droit de prouver le vol." Je ne suis pas sûr que la présomption de culpabilité soit souhaitable, même si on parle d'entreprises prédatrices. Le principe de la loi doit reste le même pour tout le monde. Si on transpose ça à l'humain, on pourrait par exemple imposer à une catégorie de la population de prouver qu'elle n'a pas volé tel truc parce qu'un jour elle a volé tel autre. Et après tu passes possiblement ton temps à te défendre parce que 10000 auteurs vont t'attaquer juste au cas-où, juste pour vérifier. Je suis partagé.

Géraldine c'est toi ?

C'est vraiment archaïque un besoin. Les humains sont voués à n'être que des cerveaux flottants dans leur liquide nourrissant pendant que les IA leur génèrent la félicité et la béatitude.

Tu rigoles mais on dirait bien que quelque-chose se trame. Actuellement sur la page d'accueil il y a 12 contenus (dépêches, journaux, liens) à la suite sans rapport avec l'IA. Et pourtant ça parle de sécurité (Tchap), d'hébergement, de santé (Cadmium), de programmation (Rust) et même de robots mais aucun LLM. A Change Is Gonna Come

[EDIT] Je m'apprêtais en plus à faire un petit journal pour parler de l'utilisation des LLM par les auteurs de nos logiciels libres à la suite d'une interview de Jean-Baptiste Kempf (VLC) où il dit qu'il utilise Claude intensivement. Mais du coup je m'abstiens pour ne pas interrompre le passage de l'ange.

"ça me fait penser" ne veut pas dire "c'est équivalent"... Encore une fois je dis juste qu'il y a eu une mode (comme la blockchain, comme plein d'autres trucs) et que ça finira par se tasser.

"de vente" c'est sûrement exagéré mais "de c'est mieux parce que c'est en Rust" oui. Il y a eu divers exemple ici. Je mentionnais Rust pour la mode, pas pour des questions financières.

C'est un peu comme la blockchain, les NFT c'était une arnaque oui mais il en est resté quelques applications réelles et discrètes (diplômes numériques, émission d'obligations numériques,...) en cours d'utilisation aujourd'hui . Ça fait aussi penser à "rewrite it in Rust" comme si c'était un réel argument de vente. Bref chaque techno à sa vague de hype mais ça va passer. Faut attendre que ça se tasse. Que ça décante et que le slop reste au fond du bac pour ne récupérer que les trucs utiles.

Je n'ai pas compris non plus la note registrar à 50. Mais quand tu dis "informations triviales, très faciles à obtenir autrement" ça dépend de qui on parle... dig,whois,curl je pense que tu as perdu pas loin de 75% de la population française (et je suis sûrement généreux). On peut être intéressé par la souveraineté (à définir) sans avoir les connaissances suffisantes ni même l'envie de les acquérir, pour la vérifier soi-même. Il y a des corrections à apporter mais comme TuxMips je dirais que ça défriche le terrain.

J'ai failli moinsser à cause du "et personne n'en parle." C'est un truc que je répète sans cesse dans mon entourage, quand un article ou une vidéo annonce "personne n'en parle" c'est systématiquement du bullshit et ça annonce un contenu de mauvaise qualité. D'ailleurs il y a eu d'autres liens sur le même sujet ici même et quantité de publications dans la presse généraliste et spécialisée donc le titre est vraiment maladroit. Mais je n'ai pas moinssé parce que je m'interdis de noter quelque chose que je n'ai pas consulté. Ensuite il y a "IA" dans le titre et ça semble la flatter ("découverte mathématique majeure") là tu vas perdre un autre quart du lectorat. Avec la vague de slop il y a des personnes qui vont moinsser dès que IA apparaît. Que ça soit intéressant ou pas, technique ou pas. C'est épidermique, c'est con, mais c'est comme ça. Et pour finir c'est un lien Youtube. Comme dit plus haut tu perds quelques points là aussi. Avec ces 3 facteurs combinés je trouve que tu t'en sors bien à -3. Sinon, régulièrement, les notes commencent par descendre (les réactions épidermiques) puis ça remonte quand les moins obtus ont pris le temps de consulter. Donc il ne faut pas trop se formaliser.

J'ai l'impression d'être pris au piège. Je suis dans les (削除) DOM-TOM (削除ここまで) DROM-COM avec une connexion fibre Orange, mais pourtant le lien pour bloquer le traçage ne fonctionne pas pour moi :

La technologie Utiq et l’accès à ce portail ne sont possibles que si vous utilisez une connexion compatible.

Je sens qu'ils font un bête filtrage GeoIP pour accéder à la gestion du consentement mais qu'il n'y aura pas ce filtrage pour le traçage.

Dans le style j'aime bien les World Series du baseball. Le truc concerne UN pays (enfin 2 parce qu'il y a une unique équipe canadienne dans les 30 équipes de la ligue) mais ça se dit "mondial".

Pour le cas du mot/concept connu, tu peux juste avoir des adresses pré-remplies du style https://fr.wikipedia.org/wiki%s ou https://fr.wiktionary.org/%s ou autres associées à un mot clé pour juste taper "w Démocratie" ou "wf mérule". Possible sur Firefox Desktop notamment.

J'en ai, des dizaines, depuis des décennies... wp pour WikipediaFR, wpe pour l'anglais, wn et wne pour Wiktionnaire, etc. Ça ne répond pas du tout au cas du mot connu mais que tu ne parviens pas à retrouver.

Pour le concept, je dirais que le moteur de recherche est généralement suffisant.

Ouais bin non. J'ai un doctorat en recherche Google, je suis la personne vers qui tout le monde se tourne pour chercher/vérifier une info, et expliquer un concept dans la recherche Google n'est pas aussi efficace que les LLM d'aujourd'hui qui me feront plusieurs propositions sans avoir à parcourir divers pages.

C'est plutôt la facilité qui pousse à cet usage : rien à savoir (ce qui existe déjà), rien à retenir (un seul outil pour tout).

C'est exactement pour ça que j'ai cet arrière goût de triche quand je fais ça. J'ai le sentiment d'être un imposteur qui utilise les mots de quelqu'un d'autre. Mais non, ce sont mes mots, de mon vocabulaire, que j'ai su, que j'ai connu, et qui aujourd'hui (enfin ça a commencé pendant le COVID, avant les LLM) m'échappe. Et quand j'en suis réduit à ça je suis déjà passablement frustré de ne pas trouver le mot que je veux exprimer maintenant donc je n'ai pas envie de me lancer dans une fouille approfondie du web.

Meilleure blague autour de cette affaire de ChienGPT. Merci j'en avais bien besoin !

Bon je ne fais aucun des trucs que tu cites (le capybara c'est vraiment le pire... Google sera tellement plus rapide et efficace... bref) SAUF

retrouver un mot qu'ils ont sur le bout de la langue, comme le titre d'un film

Je lis beaucoup, j'ai eu (au passé oui) une très bonne mémoire, jusqu'au diagnostic : sclérose en plaque. Alors je n'ai quasiment pas de trouble moteur, juste pas mal de fatigue et le cerveau qui fuit. Je perds mes mots. Apparemment la SEP diminue la vitesse de traitement, je n'ai pas vraiment ce ressenti avec mon code par exemple mais je passe beaucoup de temps à rechercher le mot que je voulais utiliser. Et c'est très énervant. Décourageant. Alors parfois, de guère las, je demande au LLM. Je me sens comme un tricheur qui feint l'éloquence mais ce sont des mots que je connais et qui ne viennent pas au moment où j'en ai besoin ! Pour certains mots j'ai des moyens mnémotechniques (pour un soucis de mémoire c'est assez ironique oui). Par exemple "élitiste" c'est un mot que je perds souvent. Je ne sais pas pourquoi celui-là. Mais je sais où le trouver, donc quand j'en ai besoin je consulte cette page. L'avantage du LLM sur un dictionnaire (de synonyme ou autre), une encyclopédie, etc. c'est que tu peux lui expliquer le concept que tu cherches. Partir de la définition du mot. Et oui ça m'aide. Sorry not sorry.

Bon par contre je n'en suis pas à faire rédiger mes textes et commentaires par un LLM et j'espère que ce jour ne viendra jamais. J'aime écrire.

Si on m'avait donné (削除) 1 euro (削除ここまで), (削除) 1 NFT (削除ここまで), (削除) 1 dogecoin (削除ここまで), 1 token LLM à chaque fois que j'ai lu que c'était le début de l'explosion de la bulle, je pourrais m'acheter une Nvidia H100

On dit plutôt "marché haussier" (c'est "bull market" qu'il voulait traduire, pas trend). Par contre j'ai appris quelque chose :

L'ours attaque avec sa patte de haut en bas (tendance baissière) alors que le taureau attaque avec ses cornes de bas en haut (tendance haussière).

Moi je me disais que l'ours avait tendance à hiberner et que c'est de là que venait l'image de marché en baisse.

J'ai une amie qui a de grandes difficultés avec les maths. Elle me sollicitait très régulièrement pour calculer des pourcentages ou faire un produit en croix. Je suis plutôt pédagogue j'ai accompagnée plusieurs ados de mon entourage pour leurs révisions du bac (maths simples hein... je ne suis pas mathématicien pour un sou) et pourtant avec elle ça ne rentre pas ! J'explique avec des euros ça fonctionne, demain ce sont des gâteaux et elle ne sait plus faire... Bref ! Depuis ChatGPT (et depuis qu'ils s'est amélioré parce que les maths mêmes simples c'est pas le fort des LLM) elle ne me sollicite plus. Je ne sais pas si je dois en être content, ça ne me dérangeait pas tant que ça, mais en même temps elle est à peu près autonome maintenant (tant qu'il y a internet) et vu qu'elle m'a posé les mêmes questions pendant 20 ans je sais que ça ne serait de toutes les façons jamais rentré dans sa tête.

il y a toujours eu des gens qui préféraient lire sur tablette/smartphone/ordinateur (bref les écrans qui émettent de la lumière...

Je ne préfère pas non. Si on parle uniquement de confort de lecture je préfère lire sur papier. Mais je choisis le numérique pour un autre confort : toute ma bibliothèque à portée de main, qui ne prend pas de place, qui n'a pas de masse (modulo la masse des électrons "stockés" dans les bits mais je crois que c'est négligeable), qui n'amasse pas de poussière et ne crains pas les mites, termites, et autre bibittes.

L'auteur listes les trucs qui pourraient commencer à lui faire envisager la possibilité d'une conscience dans un programme informatique. Et je suis justement tombé sur une expérience qui a l'air de cocher pas mal de ces cases. Je renvoie à mon commentaire précédent dans un autre fil sur la conscience chez les LLM pour éviter de faire du double-post : https://linuxfr.org/users/passant/journaux/publication-de-contenus-augmentes-par-l-ia#comment-2023828 (J'ai hésite à faire un journal sur cette expérience mais bon, la période ne s'y prête pas. L'IA partout saoule les moules.)

Sûrement pas.

Comme je disais plus haut, je ne me sens pas capable de trancher. Oui pour moi nous ne sommes "que" des machines hautement complexe et cette affaire de conscience émerge de notre complexité donc elle pourrait émerger d'autres systèmes complexes mais je ne sais pas ce qu'il faudrait pour reconnaître une conscience.

Bref, l'idée de lier la notion de conscience à celle de la matérialité me semble très, très artificielle.

Un bon exemple qui vient d'apparaître dans ce lien. L'auteur répond à la question "qu'est-ce qu'il vous faudrait pour reconnaître qu'un LLM est conscient" et sa condition n°1 c'est un corps (même virtuel) : « The first requirement is that the computer program has a body (either physical or virtual) and sense organs; there are many reasons for this, but for the purposes of this discussion, the most relevant one is the fact that without a body, a computer program could have no desires or emotions, and I believe desires and emotions are necessary for consciousness. »

Pour la suite de ses conditions, il semble que l'exemple de simulation d' Emergence AI y réponde presqu'entièrement :

• corps virtuel ✔️
• environnement où se déplacer ✔️
• réagir à des situations ✔️
• dynamique sociale ✔️
• communiquer ses désirs ✔️
• Utiliser des outils ✔️

Je crois que ce qu'il manque dans sa liste c'est la fabrication d'outils, mais je n'ai pas lu la totalité des possibilités offertes aux agents IA sur le dépôt Pour ceux que ça intéresse :

• Divers titres de presse ont publié sur le sujet cette semaine. Exemple, Slate.
• Le déroulé en temps réel de l'expérience est ici

Personnellement ça ne m'a pas pour autant donné l'impression de voir de la conscience, pas plus que dans le Jeu de la Vie de Conway ou une partie de 0 A.D. Mais je trouve le sujet passionnant...