Je me faisais la réflexion récemment que, étant données la tendance des LLM à tricher, et la rédaction de commits par ces mêmes LLM, il y avait un biais d'observabilité justement.
On veut contrôler le code généré par les dernières instructions ? On a git bien sûr ! Ah oui mais... Le LLM modifie .git aussi. Oups, conflit d'intérêt. Il pourrait modifier un commit passé.
Si on ajoute qu'il existe déjà des empoisonnements de LLM avec des libs vérolées via un référencement astucieux, je pense qu'il peut être souhaitable de mettre le .git sur la liste noire par défaut.
# Bloquer .git par défaut ?
Posté par damiend . En réponse à la dépêche J'ai mis un proxy entre claude et Internet. Évalué à 2.
Je me faisais la réflexion récemment que, étant données la tendance des LLM à tricher, et la rédaction de commits par ces mêmes LLM, il y avait un biais d'observabilité justement.
On veut contrôler le code généré par les dernières instructions ? On a git bien sûr ! Ah oui mais... Le LLM modifie .git aussi. Oups, conflit d'intérêt. Il pourrait modifier un commit passé.
Si on ajoute qu'il existe déjà des empoisonnements de LLM avec des libs vérolées via un référencement astucieux, je pense qu'il peut être souhaitable de mettre le .git sur la liste noire par défaut.