Twitter abandonne son outil de recadrage de photos, jugé raciste
L’algorithme de Twitter qui vise à recadrer les photos serait biaisé en faveur des personnes blanches et des femmes. Le réseau social a testé en mars une nouvelle façon d’afficher les images sans les recadrer.
« Les algorithmes ne conviennent pas à tout ce qui est sur Twitter », note le réseau social sur l’un de ses blogs mercredi. « Il vaut mieux que les utilisateurs décident de comment cadrer une image ». La plateforme, qui a lancé des travaux pour rendre ses systèmes d’intelligence artificielle plus éthiques, a enquêté sur les biais perçus par les utilisateurs.
L’algorithme, mis en service en 2018, est conçu pour recadrer les images en fonction de ce qu’il considère comme prépondérant, afin de réduire leur taille et de moins encombrer le fil de tweets. « Des gens sur Twitter ont observé des cas où notre programme a choisi des individus blancs plutôt que noirs », explique Rumman Chowdhury, directrice du logiciel. « Nous avons testé notre système sur une large base de données pour déterminer s’il y avait un problème ».
Les chercheurs du groupe ont trouvé qu’il y avait une différence de 4% en faveur des personnes blanches en général, et de 7% en faveur des femmes blanches par opposition aux femmes noires. La comparaison entre les hommes et les femmes en général a révélé un écart de 8% en faveur des femmes.
