(Photo: 123RF)

Le réseau social Twitter a annoncé vendredi qu’il accorderait des récompenses aux utilisateurs et chercheurs découvrant d’éventuels partis-pris, sexistes ou racistes par exemple, dans les algorithmes fonctionnant sur sa plateforme.

Il s’agit, selon l’entreprise, de la première compétition sur le sujet, avec des prix allant jusqu’à 3 500 dollars américains. 

L’idée est calquée sur les concours proposés par certains sites webs pour déceler des failles de sécurité, expliquent Rumman Chowdhury et Jutta Williams, deux responsables de l’entreprise, dans un message.

« Il est difficile de trouver des préjugés dans les modèles d’apprentissage automatique, et parfois, les entreprises découvrent qu’elles ont involontairement porté atteinte à l’éthique seulement après leur déploiement », expliquent ces responsables. « Nous voulons que cela change ». 

Dans le modèle développé pour déceler les failles de sécurité, les chercheurs tout comme les pirates ont aidé les responsables de la sécurité informatique « à établir de bonnes pratiques pour identifier et gérer les vulnérabilités afin de protéger le public », expliquent Rumman Chowdhury et Jutta Williams.

« Nous voulons développer une communauté similaire » pour déceler les partis-pris des algorithmes. 

Twitter avait présenté en avril ses travaux en cours pour rendre plus éthiques les algorithmes qui sont à l’œuvre dans les coulisses de la plateforme, une façon de répondre aux critiques sur les dangers liés à ces technologies.

Le réseau social avait quelques semaines plus tard renoncé à un algorithme recadrant les photos, ayant découvert qu’il était notamment légèrement biaisé en faveur des personnes blanches.