Bien sûr qu'ils sont reprochable, par le simple fait de vendre de tels systèmes pour ce type d'usage. S'ils voulaient être honnêtes, ils ne seraient simplement pas dans ce business.
Le truc, c'est que nous, on le sait que ces machines non seulement ne sont pas parfaites, mais en plus ne le seront probablement jamais. Il suffit de voir d'ailleurs que même des trucs beaucoup plus simples, comme de la simple catégorisation de courriels est loin d'être parfaite encore, après des dizaines d'années à travailler dessus (même les plus gros fournisseurs de mail font constamment des faux positifs et des faux négatifs dans la classification des courriels et du spam). D'ailleurs parfois même pour les humains, c'est déjà dur de faire la différence (que ce soit de la reconnaissance de visage comme de spams)! Combien de fois j'ai eu des gens me montrant un email et me demandant "c'est un vrai email, tu crois?"! Même moi, il m'arrive quelques fois de douter parfois d'ailleurs.
Mais le non-technicien, lui il connaît encore moins et ces entreprises essaient de lui vendre du "rêve" (totalitaire) avec du discours marketing totalement bidon.
Tiens regardons ce que cette entreprise répond après avoir fait presque envoyer un innocent en prison (et lui ayant probablement fait une année de merde et de stress à se défendre et à désespérer, sans compter 2 semaines derrière les barreaux... de quoi gâcher une vie dans certains cas):
Elle a néanmoins précisé que ses équipes travaillaient activement pour "améliorer l’équité des algorithmes d’intelligence artificielle" et rappelle que ses technologies sont "à la première place au test d’équité pour la détection de fausses correspondances", réalisé par l’Institut national américain des normes et de la technologie, le NIST.
Pas même un "oups", encore moins un "pardon", juste "non mais en vrai, on est super fort, regardez ce test bidon le dit".
Donc non, ce type d'entreprises ne méritent absolument aucune pitié. Elles se nourrissent des peurs et désirs autoritaires de ceux au pouvoir qui veulent tout contrôler, notamment la possibilité de suivre leur population à la trace grâce à la "biométrie" vendue comme miraculeuse. Et cela gâche littéralement des vies. Mais cette entreprise s'en balance. Au passage, elle se fait des fortunes et elle passe juste au contrat suivant.
Cet article est d'ailleurs assez édifiant, entre les erreurs et problèmes d'incompétence, les affaires de corruptions connues, les plaintes (annulées, probablement à coup de millions par-ci par-là)... et pourtant cette entreprise semble juste continuer son petit bonhomme de chemin, comme si de rien n'était.
Donc comment? Il ne faudrait pas leur reprocher leurs faux positifs? Bien sûr que si. La seule façon de ne pas le leur reprocher aurait été pour elles de ne pas vendre ces technologies du tout, donc simplement de ne pas faire le business dans lequel elle semble faire son activité principale. Toute entreprise qui vend ce genre de technologies absolument dystopique est reprochable, pour absolument l'entièreté de leur business de surveillance.
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
[^] # Re: Faux positifs
Posté par Jehan (site web personnel, Mastodon) . En réponse au lien Biométrie - Idemia: la face cachée de la société qui fabrique notre carte Vitale . Évalué à 10.
Bien sûr qu'ils sont reprochable, par le simple fait de vendre de tels systèmes pour ce type d'usage. S'ils voulaient être honnêtes, ils ne seraient simplement pas dans ce business.
Le truc, c'est que nous, on le sait que ces machines non seulement ne sont pas parfaites, mais en plus ne le seront probablement jamais. Il suffit de voir d'ailleurs que même des trucs beaucoup plus simples, comme de la simple catégorisation de courriels est loin d'être parfaite encore, après des dizaines d'années à travailler dessus (même les plus gros fournisseurs de mail font constamment des faux positifs et des faux négatifs dans la classification des courriels et du spam). D'ailleurs parfois même pour les humains, c'est déjà dur de faire la différence (que ce soit de la reconnaissance de visage comme de spams)! Combien de fois j'ai eu des gens me montrant un email et me demandant "c'est un vrai email, tu crois?"! Même moi, il m'arrive quelques fois de douter parfois d'ailleurs.
Mais le non-technicien, lui il connaît encore moins et ces entreprises essaient de lui vendre du "rêve" (totalitaire) avec du discours marketing totalement bidon.
Tiens regardons ce que cette entreprise répond après avoir fait presque envoyer un innocent en prison (et lui ayant probablement fait une année de merde et de stress à se défendre et à désespérer, sans compter 2 semaines derrière les barreaux... de quoi gâcher une vie dans certains cas):
Pas même un "oups", encore moins un "pardon", juste "non mais en vrai, on est super fort, regardez ce test bidon le dit".
Donc non, ce type d'entreprises ne méritent absolument aucune pitié. Elles se nourrissent des peurs et désirs autoritaires de ceux au pouvoir qui veulent tout contrôler, notamment la possibilité de suivre leur population à la trace grâce à la "biométrie" vendue comme miraculeuse. Et cela gâche littéralement des vies. Mais cette entreprise s'en balance. Au passage, elle se fait des fortunes et elle passe juste au contrat suivant.
Cet article est d'ailleurs assez édifiant, entre les erreurs et problèmes d'incompétence, les affaires de corruptions connues, les plaintes (annulées, probablement à coup de millions par-ci par-là)... et pourtant cette entreprise semble juste continuer son petit bonhomme de chemin, comme si de rien n'était.
Donc comment? Il ne faudrait pas leur reprocher leurs faux positifs? Bien sûr que si. La seule façon de ne pas le leur reprocher aurait été pour elles de ne pas vendre ces technologies du tout, donc simplement de ne pas faire le business dans lequel elle semble faire son activité principale. Toute entreprise qui vend ce genre de technologies absolument dystopique est reprochable, pour absolument l'entièreté de leur business de surveillance.
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]