Bon, alors comme souvent, une étude peut être un peu buzz, des communiqués de presse repris par des journalistes, et paf, ça fait des chocapics.
Déja, l'"IA" dans ce genre de cas, n'existe pas. Il existe de nombreux modèles génératifs capables de produire des images, chaque modèle a ses spécificités, ses paramètres par défaut, sa complexité algorithmique, et les ressources informatiques qui vont derrière. On peut repérer les "tics" d'un certain modèle, mais il faudra de ré-entrainer pour les autres modèles, et pour les versions successives, parce qu'on ne détecte pas l'image générée directement, on détecte des petits signes plus ou moins consciemment. Par exemple, l'algo utilisé ici place les yeux à la même hauteur (probablement parce que les données ont été normalisées comme ça avant d'entrainer le modèle), mais il n'y a aucune raison que ça soit le cas pour tous les modèles.
Ensuite, la plupart des critères listés correspondent à des biais liés aux paramètres par défaut des modèles. Autrement dit, quand le prompt c'est "fabrique un visage", le modèle va souvent sortir un blanc de 35 ans avec un visage symétrique et une sorte de banalité. Mais si on s'entraine à détecter ces biais, alors on sera totalement démuni face à des faux visages générés par un prompt, par exemple "femmes asiatiques chauves" ou "hommes laids".
Enfin, les progrès des modèles sont tels qu'il semble vain de passer du temps à détecter des faux visages par des méthodes qui seront peut-être obsolètes dans 6 mois. Il y a d'ailleurs un algo très simple sur le principe qui permet de rendre ça indétectable: tu entraines à la fois un modèle génératif, et en parallèle un modèle de détection, avec des récompenses opposées (le modèle de détection a un score positif quand il détecte bien, et le modèle génératif a un score positif quand le faux n'est pas détecté). Si l'entrainement se passe bien, il y a fort à parier que les visages générés deviendront très rapidement indétectables par un humain; et probablement également par le modèle de détection (en tout cas, c'est le cas pour le texte; le texte généré par les LLM est très difficile à détecter).
# Pas très rigoureux
Posté par arnaudus . En réponse au journal les visages générés par IA. Évalué à 5 (+4/-2).
Bon, alors comme souvent, une étude peut être un peu buzz, des communiqués de presse repris par des journalistes, et paf, ça fait des chocapics.
Déja, l'"IA" dans ce genre de cas, n'existe pas. Il existe de nombreux modèles génératifs capables de produire des images, chaque modèle a ses spécificités, ses paramètres par défaut, sa complexité algorithmique, et les ressources informatiques qui vont derrière. On peut repérer les "tics" d'un certain modèle, mais il faudra de ré-entrainer pour les autres modèles, et pour les versions successives, parce qu'on ne détecte pas l'image générée directement, on détecte des petits signes plus ou moins consciemment. Par exemple, l'algo utilisé ici place les yeux à la même hauteur (probablement parce que les données ont été normalisées comme ça avant d'entrainer le modèle), mais il n'y a aucune raison que ça soit le cas pour tous les modèles.
Ensuite, la plupart des critères listés correspondent à des biais liés aux paramètres par défaut des modèles. Autrement dit, quand le prompt c'est "fabrique un visage", le modèle va souvent sortir un blanc de 35 ans avec un visage symétrique et une sorte de banalité. Mais si on s'entraine à détecter ces biais, alors on sera totalement démuni face à des faux visages générés par un prompt, par exemple "femmes asiatiques chauves" ou "hommes laids".
Enfin, les progrès des modèles sont tels qu'il semble vain de passer du temps à détecter des faux visages par des méthodes qui seront peut-être obsolètes dans 6 mois. Il y a d'ailleurs un algo très simple sur le principe qui permet de rendre ça indétectable: tu entraines à la fois un modèle génératif, et en parallèle un modèle de détection, avec des récompenses opposées (le modèle de détection a un score positif quand il détecte bien, et le modèle génératif a un score positif quand le faux n'est pas détecté). Si l'entrainement se passe bien, il y a fort à parier que les visages générés deviendront très rapidement indétectables par un humain; et probablement également par le modèle de détection (en tout cas, c'est le cas pour le texte; le texte généré par les LLM est très difficile à détecter).