Il y a peu j'ai travaillé sur un projet où il fallait utilise un LLM du marché pour créer des objets de configuration automatiquement pour nos clients, car à la main c'était vraiment lourd et pas pratique.
Mais quand est arrivé la partie estimation des coûts, là on a eu un soucis qu'on avait pas vu venir au départ: ok on a le coût actuel, mais vu le gouffre financier et l'équilobre actuel qui ne pourra pas tenir advitam (et je ne m'avancerais pas à définir un timing du truc je ne suis pas économiste ^ ) la question était: on prends quoi comme estimation du prix futur pour définir notre rentabilité sur ce projet?
Et là c'est rude car si on prends le dernier exemple en date que j'ai en tête sur cette estimation, on a Github qui fourni un outil automagique pour te pondre un gros bout de code et une Pull Request à a clé. C'était au départ au "prix" à peu près réel en "requêtes" dont il a eu besoin. Mais quand on a essayé ça mangeait entre 20 et 50 requêtes pour une simple PR sur un quotas au mois qu'on avait de 300, autant dire qu'on a vite arrété de l'utilisé.
J'imagine qu'on a pas été les seuls, car en moins d'une semaine c'est passé à 1 requête pour toute la PR. Or là on voit bien que le prix "réel" n'est pas tenable, et qu'ils sont enocre plus à perte mais veulent vraiment qu'on utilise leur système et pas celui du concurrent, quitte à payer pour ça.
Alors je mets de côté le soucis légal du truc (j'ai jamais compris pourquoi la vente à perte était autorisé dans le numérique et pas ailleurs, on voit bien que c'est foireux comme système, encore plus pour nous pauvres européens sans moyens), mais là je me dit que le jour où on va devoir payer le service au vrai coût, est-ce que ça va valoir le coût?
Alors pour notre projet le problème s'est réglé de lui même: les requêtes étaient bien trop lente et les résultats vraiment pas foufou par rapport à un algo "old school" qu'on testait en parallèle.
Mais je plains ceux qui doivent vraiment baser le cœur de leur offre sur le l'IA, car à aujourd'hui je ne vois pas comment faire pour estimer ses coût futurs et ne pas avoir à manger son chapeau dans 1 ou 2 ns (ah flûte, j'ai dit que je ne donnais pas d'estimation de temps...)
# Vrai soucis pour définir sa propre rentabilité
Posté par Jean Gabes (site web personnel) . En réponse au lien La tech au bord du gouffre financier . Évalué à 10.
Il y a peu j'ai travaillé sur un projet où il fallait utilise un LLM du marché pour créer des objets de configuration automatiquement pour nos clients, car à la main c'était vraiment lourd et pas pratique.
Mais quand est arrivé la partie estimation des coûts, là on a eu un soucis qu'on avait pas vu venir au départ: ok on a le coût actuel, mais vu le gouffre financier et l'équilobre actuel qui ne pourra pas tenir advitam (et je ne m'avancerais pas à définir un timing du truc je ne suis pas économiste ^ ) la question était: on prends quoi comme estimation du prix futur pour définir notre rentabilité sur ce projet?
Et là c'est rude car si on prends le dernier exemple en date que j'ai en tête sur cette estimation, on a Github qui fourni un outil automagique pour te pondre un gros bout de code et une Pull Request à a clé. C'était au départ au "prix" à peu près réel en "requêtes" dont il a eu besoin. Mais quand on a essayé ça mangeait entre 20 et 50 requêtes pour une simple PR sur un quotas au mois qu'on avait de 300, autant dire qu'on a vite arrété de l'utilisé.
J'imagine qu'on a pas été les seuls, car en moins d'une semaine c'est passé à 1 requête pour toute la PR. Or là on voit bien que le prix "réel" n'est pas tenable, et qu'ils sont enocre plus à perte mais veulent vraiment qu'on utilise leur système et pas celui du concurrent, quitte à payer pour ça.
Alors je mets de côté le soucis légal du truc (j'ai jamais compris pourquoi la vente à perte était autorisé dans le numérique et pas ailleurs, on voit bien que c'est foireux comme système, encore plus pour nous pauvres européens sans moyens), mais là je me dit que le jour où on va devoir payer le service au vrai coût, est-ce que ça va valoir le coût?
Alors pour notre projet le problème s'est réglé de lui même: les requêtes étaient bien trop lente et les résultats vraiment pas foufou par rapport à un algo "old school" qu'on testait en parallèle.
Mais je plains ceux qui doivent vraiment baser le cœur de leur offre sur le l'IA, car à aujourd'hui je ne vois pas comment faire pour estimer ses coût futurs et ne pas avoir à manger son chapeau dans 1 ou 2 ns (ah flûte, j'ai dit que je ne donnais pas d'estimation de temps...)