Moins de deux semaines avant le lancement du Pixel 4, son nouveau téléphone intelligent, Google a décidé de suspendre un programme controversé, qui avait pour but d’améliorer sa technologie de reconnaissance faciale, à la suite de révélations déconcertantes sur les tactiques utilisées.
Dans le contexte de ce programme, on offrait des chèques-cadeaux de 5 $ à des volontaires dans plusieurs villes américaines, en échange d’un balayage numérique de leur visage. Or, le New York Daily News a publié un reportage qui démontre que les gens engagés par Google auraient été encouragés à viser des personnes noires et des sans-abri, souvent sans annoncer qu’ils travaillaient pour Google et sans spécifier que leur visage serait enregistré.
Un ex-employé a affirmé au New York Daily News qu’un gestionnaire de Google lui aurait donné comme instruction de viser les sans-abri, parce qu’ils et elles sont moins à risque de dire quoi que ce soit aux médias.
Google aurait également trompé des étudiants et étudiantes en cachant ses intentions réelles et en leur disant qu’on testait une nouvelle application, une espèce de jeu d’égoportraits semblable à Snapchat.
Programme suspendu et enquête lancée
Initialement, Google a prétendu que l’idée était de s’assurer que la fonction de déverrouillage du Pixel 4, activée par la reconnaissance faciale, prenne en compte un large éventail de visages, afin d’éviter les biais notamment envers les personnes de couleur.
L’entreprise a finalement affirmé au New York Times et au magazine The Verge qu’elle suspendait le programme sur-le-champ et qu’on ouvrait une enquête à la suite des révélations du New York Daily News. Sans commenter chacune des allégations, Google a affirmé qu’elle avait bel et bien engagé du personnel de Randstad pour ses recherches, et que les détails rapportés par les médias étaient très troublants.
Google se défend de manquer de transparence
Google a assuré à The Verge qu’elle avait pris les mesures nécessaires pour que celles et ceux qui conduisaient l’étude soient transparents dans leurs démarches. L’entreprise pourrait ainsi éluder certaines des accusations lancées contre elle et rejeter le blâme sur le sous-traitant si les allégations devaient s’avérer.
Nous prenons ces allégations au sérieux et nous avons lancé une enquête afin d’en savoir plus. Les allégations concernant la transparence et le consentement sont contraires à nos exigences et à la formation que nous avons fournie, a déclaré Google dans à The Verge.
Google ne suspend toutefois pas définitivement le programme. L’entreprise affirme qu’il est simplement suspendu le temps que la lumière soit faite sur la situation, et qu’elle continuera à payer entre-temps les personnes engagées.
Le géant du web a dû faire face à ses responsabilités après que Nina Hickson, une avocate d’Atlanta, lui a envoyé un courriel incisif à propos de ses tactiques douteuses.
La possibilité qu’on exploite des membres les plus vulnérables de la population pour avancer les intérêts commerciaux de votre compagnie est profondément alarmante, pour de multiples raisons, a-t-elle écrit, selon ce que rapporte le New York Times.
