Actuellement je ne suis pas au courant d'une intégration propre à la Github Copilot dans VSCode qui soit dispo facilement en auto-hebergé.
Néanmoins des modèles existent. Je crois que la hype actuelle du modèle de code auto-hebergé c'est starcoder: https://huggingface.co/bigcode/starcoder . En cherchant un peu on trouve des plugins vscode pour starcoder genre https://github.com/Lisoveliy/StarCoderEx mais j'ai aucune idée de son déploiement local. (À vue de nez pour une inférence locale, faut compter 30Go de RAM et ~ 5charactère/seconde (sachant que ça compte l'entrée et la sortie) sur un CPU 8 coeurs. Ça peut théoriquement descendre à 10Go de RAM avec de moins bons résultats, mais je sais pas où on en est de ça. Pour être à une vitesse plus confortable faudra probablement être sur GPU avec 16Go de VRAM. (Note: J'ai pas réussi à faire tourner starcoder lui-même pour le moment, alors que j'ai pas de problèmes pour d'autres, donc je pifométrise un peu)
Je réitère ce qui a été dit dans les autres commentaires, il est suicidaire de leur faire confiance aveuglement, et dans mon expérience l'énergie nécessaire pour comprendre et s'assurer que ce que le modèle a sorti fait bien ce qu'on lui demande est plus élevée que de l'écrire soit-même. (Néanmoins je le trouve utile pour donner des pistes)
# À la hache
Posté par Ph Husson (site web personnel) . En réponse au journal AI générative pour scripter en Python ?. Évalué à 8.
Actuellement je ne suis pas au courant d'une intégration propre à la Github Copilot dans VSCode qui soit dispo facilement en auto-hebergé.
Néanmoins des modèles existent. Je crois que la hype actuelle du modèle de code auto-hebergé c'est starcoder: https://huggingface.co/bigcode/starcoder . En cherchant un peu on trouve des plugins vscode pour starcoder genre https://github.com/Lisoveliy/StarCoderEx mais j'ai aucune idée de son déploiement local. (À vue de nez pour une inférence locale, faut compter 30Go de RAM et ~ 5charactère/seconde (sachant que ça compte l'entrée et la sortie) sur un CPU 8 coeurs. Ça peut théoriquement descendre à 10Go de RAM avec de moins bons résultats, mais je sais pas où on en est de ça. Pour être à une vitesse plus confortable faudra probablement être sur GPU avec 16Go de VRAM. (Note: J'ai pas réussi à faire tourner starcoder lui-même pour le moment, alors que j'ai pas de problèmes pour d'autres, donc je pifométrise un peu)
Je réitère ce qui a été dit dans les autres commentaires, il est suicidaire de leur faire confiance aveuglement, et dans mon expérience l'énergie nécessaire pour comprendre et s'assurer que ce que le modèle a sorti fait bien ce qu'on lui demande est plus élevée que de l'écrire soit-même. (Néanmoins je le trouve utile pour donner des pistes)