Clarifai supprime 3 millions de photos fournies par OkCupid pour entraîner une IA de reconnaissance faciale, selon un rapport

La plateforme d’IA Clarifai a supprimé 3 millions de photos qu’elle affirme avoir obtenues auprès d’OkCupid pour entraîner son IA de reconnaissance faciale, selon des informations rapportées. L’entreprise a également supprimé tous les modèles qui avaient été entraînés à l’aide de ces données.

Selon l’enquête de la Federal Trade Commission (FTC), Clarifai a demandé à OkCupid — dont les dirigeants avaient investi dans l’entreprise — de partager des données en 2014. L’application de rencontres a alors fourni des photos téléchargées par les utilisateurs, ainsi que d’autres données démographiques et de localisation. Selon les propres politiques de confidentialité d’OkCupid, ce comportement aurait dû être interdit.

« Nous collectons des données en ce moment et venons de réaliser qu’OKCupid doit avoir une ÉNORME quantité de données formidables pour cela », a écrit le fondateur et PDG de Clarifai, Matthew Zeiler, dans un e-mail adressé au cofondateur d’OkCupid, Maxwell Krohn, selon des documents judiciaires examinés par Reuters.

Enquête et accord avec la FTC

Bien que l’incident de partage de données semble s’être produit il y a environ 12 ans, la FTC n’a ouvert d’enquête qu’en 2019. L’enquête a suivi un article du New York Times indiquant que Clarifai avait utilisé des images provenant d’OkCupid pour créer un outil d’IA capable d’estimer l’âge, le sexe et la race d’une personne à partir de son visage.

Le mois dernier, la FTC et OkCupid, qui appartient à Match Group, ont conclu un accord pour régler le litige. À l’époque, OkCupid et Match Group n’ont pas admis les accusations selon lesquelles ils auraient trompé les utilisateurs en violant leurs propres politiques de confidentialité. Toutefois, la confirmation par Clarifai de la suppression des données indique que l’entreprise a bien eu accès aux photos.

La FTC a également allégué que depuis 2014, Match Group et OkCupid avaient délibérément dissimulé ce partage de données et tenté d’entraver l’enquête de l’agence.

Restrictions imposées par la FTC

Bien que la FTC ne puisse pas infliger d’amende aux entreprises pour ce type d’infraction commise pour la première fois, l’agence a déclaré qu’OkCupid et Match sont « définitivement interdits de déformer ou d’aider d’autres à déformer » la nature de leur collecte et de leur partage de données. En conséquence, OkCupid et Match n’ont pas le droit d’adopter des pratiques qui enfreignent ces exigences.

OkCupid et Clarifai n’ont pas immédiatement répondu aux demandes de commentaires.