Mais tellement ça. Ça me rappelle la news récente sur la "backdoor esp32" (au lieu de dire "commande de debug non documenté"), ou l'affaire Jessica Burgess aux USA (ou l'accent a été mis sur Facebook/meta quand la réalité est que les forces de l'ordre sont arrivés avec un mandat disant "on a trouvé des restes de bébé humain brulés"), ou l’éternelle légende de Target et de la teenager enceinte et du coupon de reduc (avec N=1, mais tout le monde se fout de la méthode scientifique)
J'attends de voir une version un peu plus transparente sur ce qui est demandé et comment les infos sont traitées. Parce que là ça sent les biais dans la façon dont les appels sont faits. Je ne prétends pas que l'API est "bien" ou que Google respecte la vie privée et ne fait pas des suppositions à partir de maigres indices (on sait qu'ils n'ont aucune morale), mais ce qui pourrait être un bon outil de sensibilisation n'est en fait qu'un coup marketting créatif.
Je suppose que le fonctionnement, c'est de prendre une image, filer ça a Google Vision AI qui te renvoie un tableau en json avec des annotations:
Chaque annotation va avoir un score de confidence, et j'imagine que le site balance ça à la poubelle et passe le résultat à une IA générative pour faire le texte.
Ça explique pourquoi le site voit des choses que Google ne voit pas (genre le salaire du personnage dans un commentaire plus haut), vu qu'elle va inventer des bouts. Et j'imagine que suivant le prompt mis, l'IA générative peut avoir comme instruction de générer des trucs pour jouer sur les émotions, comme tu le pointes, comme "indique le salaire de la personne et sa religion etc, etc".
[^] # Re: C'est surtout de la pub non ?
Posté par Misc (site web personnel) . En réponse au lien Comment Google interprète vos photos. Évalué à 7.
Mais tellement ça. Ça me rappelle la news récente sur la "backdoor esp32" (au lieu de dire "commande de debug non documenté"), ou l'affaire Jessica Burgess aux USA (ou l'accent a été mis sur Facebook/meta quand la réalité est que les forces de l'ordre sont arrivés avec un mandat disant "on a trouvé des restes de bébé humain brulés"), ou l’éternelle légende de Target et de la teenager enceinte et du coupon de reduc (avec N=1, mais tout le monde se fout de la méthode scientifique)
Je suppose que le fonctionnement, c'est de prendre une image, filer ça a Google Vision AI qui te renvoie un tableau en json avec des annotations:
https://cloud.google.com/vision/docs/reference/rest/v1/AnnotateImageResponse
Chaque annotation va avoir un score de confidence, et j'imagine que le site balance ça à la poubelle et passe le résultat à une IA générative pour faire le texte.
Ça explique pourquoi le site voit des choses que Google ne voit pas (genre le salaire du personnage dans un commentaire plus haut), vu qu'elle va inventer des bouts. Et j'imagine que suivant le prompt mis, l'IA générative peut avoir comme instruction de générer des trucs pour jouer sur les émotions, comme tu le pointes, comme "indique le salaire de la personne et sa religion etc, etc".
C'est 100% un coup marketing.