Il me semble que le débat est essentiellement juridique, donc essayer d'y placer des considérations éthiques ne peut mener qu'à des déceptions (en particulier si les poursuites juridiques s'arrêtent).
Est-ce que l'augmentation de la fréquence des contrôles est discriminatoire? A priori, être contrôlé n'est pas une atteinte aux droits humains. Il me semble que la jurisprudence considère que les contrôles répétés et arbitraires peuvent être discriminatoires (par exemple si on est contrôlés plusieurs fois par jour par la police), mais par exemple pour un contrôle fiscal, on n'est pas forcément au courant de l'existence du contrôle, donc il est difficile d'affirmer qu'on a été victime d'une atteinte à nos droits.
Est-ce que les critères de contrôle déterminés "rationnellement" par un algorithme peuvent être considérés comme arbitraires? Là, j'ai l'impression qu'il n'y a même pas de vraie question, puisque c'est presque le contraire de la définition d'arbitraire.
Est-ce que les gens qui ont mis en place l'algorithme sont potentiellement coupables de discrimination? Bon, là, ils étaient apparemment au courant des critères, donc leur défense est compliquée, mais si on imagine un modèle de machine learning, on peut très bien ne pas connaitre les variables utilisées par l'algorithme; est-ce qu'on est dans ce cas potentiellement coupable de discrimination?
[^] # Re: Choux et carottes
Posté par arnaudus . En réponse au lien Notation des allocataires : face aux faits, la CAF s’enferme dans le déni et la mauvaise foi. Évalué à 5.
Il me semble que le débat est essentiellement juridique, donc essayer d'y placer des considérations éthiques ne peut mener qu'à des déceptions (en particulier si les poursuites juridiques s'arrêtent).