Au sujet de ChatGPT, il n’est pas capable de faire des maths. Donc je suis choqué que tu penses qu’il sache faire une démonstration.
La vérité, c’est qu’il a volé une démonstration et t’en as caché la source.
Il y aurait beaucoup de choses à dire là-dessus.
D'abord, évacuons deux points non liés à la (non?)-capacité de ChatGPT à faire des math.
Pourquoi je mets des sources ?
Je mets des sources pour bien montrer que ce n'est pas moi qui invente, et pour "remercier" la personne qui a prit la peine de rédiger et publier un résultat.
pourquoi j'ai cité chatGPT ?
J'avais besoin de prouver un résultat. J'ai pas trouvé la démonstration en ligne, j'ai posé la question, sans obtenir de réponses. Du coup j'ai demandé à chatGPT, et j'ai obtenu la démonstration qu'il me fallait.
Qu'aurais-je dû citer ? Rien ? Je ne peux pas faire comme si j'avais inventé la preuve moi-même.
J'ai juste suivi la procédure habituelle : j'ai cité la source dans laquelle j'ai trouvé la preuve.
et maintenant...
Maintenant on en vient aux deux questions plus difficiles.
est-ce que chatGPT sait faire des math ?
est-ce qu'il a volé la preuve ?
est-ce qu'il m'a caché la source ?
Réponses courtes : non, bof (ça dépend ce qu'on entend par «coler»), non.
est-ce que chatGPT sait faire des math ?
Intuitivement, je dirais non. Mais je n'ai pas un argument massue pour le défendre.
En tout cas, il est capable d'adapter des preuves qu'il a déjà vues à des cas un peu différents. Typiquement : s'adapter aux notations que je donne dans l'énoncé, et détailler les points que je demande de détailler.
est-ce qu'il a volé la preuve ?
Clairement, il ne l'a pas inventée. Certes je n'ai pas trouvé la preuve que je cherchais sur internet, mais l'énoncé est certainement quelque chose de connu depuis longtemps. ChatGPT a surement des livres dans la base d’entraînement contenant la preuve de ce que je demandais.
Mais n'est-ce pas le cas de tout le monde ?
C'est d'ailleurs un point dont je me plains ailleurs dans la dépêche : beaucoup de mathématiciens ne citent pas leurs sources.
est-ce qu'il a caché sa source ?
Demande-moi de prouver qu'il existe une infinité de nombres premiers. Je suis capable de te le prouver parce que je "connais" une preuve. Je serais par contre incapable de te citer ma source. J'ai sûrement lu la preuve à plein d'endroits différents.
L'idée de la preuve est dans ma tête, je peux te la rédiger. Mais pas te donner la source sur laquelle je me base.
D'une certaine manière, chatGPT est dans la même situation : l'idée de la preuve est encodée dans son réseau neuronal, et il est capable de la rédiger en l'adaptant aux notations que je lui donne dans la question. Mais il n'y a pas une source en particulier.
Bref, ce sont les autres
Bref, l'accusation de "voler une preuve et cacher la source" est certainement bien fondée contre beaucoup d'humains. Mais pas contre chatGPT.
[^] # Re: Deux critiques ! la définition et ChatGPT.
Posté par LaurentClaessens (site web personnel) . En réponse à la dépêche Y a le Frido 2024 qu'est là. Évalué à 6.
Il y aurait beaucoup de choses à dire là-dessus.
D'abord, évacuons deux points non liés à la (non?)-capacité de ChatGPT à faire des math.
Pourquoi je mets des sources ?
Je mets des sources pour bien montrer que ce n'est pas moi qui invente, et pour "remercier" la personne qui a prit la peine de rédiger et publier un résultat.
pourquoi j'ai cité chatGPT ?
J'avais besoin de prouver un résultat. J'ai pas trouvé la démonstration en ligne, j'ai posé la question, sans obtenir de réponses. Du coup j'ai demandé à chatGPT, et j'ai obtenu la démonstration qu'il me fallait.
Qu'aurais-je dû citer ? Rien ? Je ne peux pas faire comme si j'avais inventé la preuve moi-même.
J'ai juste suivi la procédure habituelle : j'ai cité la source dans laquelle j'ai trouvé la preuve.
et maintenant...
Maintenant on en vient aux deux questions plus difficiles.
Réponses courtes : non, bof (ça dépend ce qu'on entend par «coler»), non.
est-ce que chatGPT sait faire des math ?
Intuitivement, je dirais non. Mais je n'ai pas un argument massue pour le défendre.
En tout cas, il est capable d'adapter des preuves qu'il a déjà vues à des cas un peu différents. Typiquement : s'adapter aux notations que je donne dans l'énoncé, et détailler les points que je demande de détailler.
est-ce qu'il a volé la preuve ?
Clairement, il ne l'a pas inventée. Certes je n'ai pas trouvé la preuve que je cherchais sur internet, mais l'énoncé est certainement quelque chose de connu depuis longtemps. ChatGPT a surement des livres dans la base d’entraînement contenant la preuve de ce que je demandais.
Mais n'est-ce pas le cas de tout le monde ?
C'est d'ailleurs un point dont je me plains ailleurs dans la dépêche : beaucoup de mathématiciens ne citent pas leurs sources.
est-ce qu'il a caché sa source ?
Demande-moi de prouver qu'il existe une infinité de nombres premiers. Je suis capable de te le prouver parce que je "connais" une preuve. Je serais par contre incapable de te citer ma source. J'ai sûrement lu la preuve à plein d'endroits différents.
L'idée de la preuve est dans ma tête, je peux te la rédiger. Mais pas te donner la source sur laquelle je me base.
D'une certaine manière, chatGPT est dans la même situation : l'idée de la preuve est encodée dans son réseau neuronal, et il est capable de la rédiger en l'adaptant aux notations que je lui donne dans la question. Mais il n'y a pas une source en particulier.
Bref, ce sont les autres
Bref, l'accusation de "voler une preuve et cacher la source" est certainement bien fondée contre beaucoup d'humains. Mais pas contre chatGPT.