Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Welcome to the AIIDaaaa
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Entités
  • Taxonomies
  • Compteurs de mots
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Sign Up
Fermer
Découvrir
Envoyer
  • Welcome to the AIIDaaaa
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Entités
  • Taxonomies
  • Compteurs de mots
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Sign Up
Fermer

Journal des citations pour l'incident 59

Description: A Cornell University study in 2016 highlighted Google Translate's pattern of assigning gender to occupations in a way showing an implicit gender bias against women.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Google, a endommagé Women.

Statistiques d'incidents

ID
59
Nombre de rapports
10
Date de l'incident
2017-04-13
Editeurs
Sean McGregor
Applied Taxonomies
CSETv1

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

59

AI Tangible Harm Level Notes

Notes about the AI tangible harm level assessment
 

Although AI was implicated in the adverse outcome, this incident has no tangible harm.

Notes (special interest intangible harm)

Input any notes that may help explain your answers.
 

The study found biases related to gender and age in Google Translate. Additional biases have been found in Natural Language Processing in general.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Rapports d'incidents

Chronologie du rapport

La sémantique dérivée automatiquement des corpus linguistiques contient des biais de type humain+3
Même l'intelligence artificielle peut acquérir des préjugés contre la race et le sexe
+2
Le biais sexiste de Google Translate associe "il" à "travailleur" et "elle" à paresseux, et d'autres exemples
Évaluation des préjugés sexistes dans la traduction automatique – Étude de cas avec Google TraductionGoogle Translate propose désormais des traductions féminines et masculinesLes historiennes et les infirmiers n'existent pas, dit Google Translate à ses utilisateurs européens
La sémantique dérivée automatiquement des corpus linguistiques contient des biais de type humain

La sémantique dérivée automatiquement des corpus linguistiques contient des biais de type humain

arxiv.org

Même l'intelligence artificielle peut acquérir des préjugés contre la race et le sexe

Même l'intelligence artificielle peut acquérir des préjugés contre la race et le sexe

sciencemag.org

Les programmes d'IA présentent des préjugés raciaux et sexistes, révèle une étude

Les programmes d'IA présentent des préjugés raciaux et sexistes, révèle une étude

theguardian.com

Bots biaisés : les systèmes d'intelligence artificielle font écho aux préjugés humains

Bots biaisés : les systèmes d'intelligence artificielle font écho aux préjugés humains

princeton.edu

Le biais sexiste de Google Translate associe "il" à "travailleur" et "elle" à paresseux, et d'autres exemples

Le biais sexiste de Google Translate associe "il" à "travailleur" et "elle" à paresseux, et d'autres exemples

qz.com

Google Traduction pourrait avoir un problème de genre

Google Traduction pourrait avoir un problème de genre

mashable.com

L'algorithme qui a aidé Google Translate à devenir sexiste

L'algorithme qui a aidé Google Translate à devenir sexiste

forbes.com

Évaluation des préjugés sexistes dans la traduction automatique – Étude de cas avec Google Traduction

Évaluation des préjugés sexistes dans la traduction automatique – Étude de cas avec Google Traduction

researchgate.net

Google Translate propose désormais des traductions féminines et masculines

Google Translate propose désormais des traductions féminines et masculines

venturebeat.com

Les historiennes et les infirmiers n'existent pas, dit Google Translate à ses utilisateurs européens

Les historiennes et les infirmiers n'existent pas, dit Google Translate à ses utilisateurs européens

algorithmwatch.org

La sémantique dérivée automatiquement des corpus linguistiques contient des biais de type humain
arxiv.org · 2016
Traduit par IA

L'intelligence artificielle et l'apprentissage automatique connaissent une croissance fulgurante. Cependant, on craint que ces technologies ne soient utilisées, intentionnellement ou non, pour perpétuer les préjugés et l'injustice qui carac…

Même l'intelligence artificielle peut acquérir des préjugés contre la race et le sexe
sciencemag.org · 2017
Traduit par IA

Même l'intelligence artificielle peut acquérir des préjugés contre la race et le sexe

L'une des grandes promesses de l'intelligence artificielle (IA) est un monde exempt de petits préjugés humains. L'embauche par algorithme donnerait aux ho…

Les programmes d'IA présentent des préjugés raciaux et sexistes, révèle une étude
theguardian.com · 2017
Traduit par IA

Les algorithmes d'apprentissage automatique détectent des préjugés raciaux et sexistes profondément enracinés cachés dans les modèles d'utilisation de la langue, selon les scientifiques

Il a été démontré qu'un outil d'intelligence artificie…

Bots biaisés : les systèmes d'intelligence artificielle font écho aux préjugés humains
princeton.edu · 2017
Traduit par IA

Dans les débats sur l'avenir de l'intelligence artificielle, de nombreux experts pensent que ces systèmes basés sur des machines sont froidement logiques et objectivement rationnels. Mais dans une nouvelle étude, des chercheurs de l'Univers…

Le biais sexiste de Google Translate associe "il" à "travailleur" et "elle" à paresseux, et d'autres exemples
qz.com · 2017
Traduit par IA

Dans la langue turque, il existe un pronom, "o", qui couvre tous les types de troisième personne du singulier. Que ce soit un il, une elle ou un ça, c'est un "o". Ce n'est pas le cas en anglais. Ainsi, lorsque Google Translate passe du turc…

Google Traduction pourrait avoir un problème de genre
mashable.com · 2017
Traduit par IA

Une grande partie de notre vie est déterminée par des algorithmes. De ce que vous voyez sur votre fil d'actualité Facebook, aux livres et bibelots recommandés par Amazon, aux vidéos dérangeantes que YouTube montre à vos enfants, notre atten…

L'algorithme qui a aidé Google Translate à devenir sexiste
forbes.com · 2018
Traduit par IA

Image via Twitter

Les parents ne connaissent que trop bien le défi particulier d'élever des enfants : leur apprendre à faire ce que nous disons, pas ce que nous faisons.

Un défi similaire a frappé l'intelligence artificielle.

Alors que de p…

Évaluation des préjugés sexistes dans la traduction automatique – Étude de cas avec Google Traduction
researchgate.net · 2018
Traduit par IA

Récemment, il y a eu une préoccupation croissante concernant les biais de la machine, où les modèles statistiques entraînés se développent pour refléter des asymétries sociétales controversées, telles que les préjugés sexistes ou raciaux. I…

Google Translate propose désormais des traductions féminines et masculines
venturebeat.com · 2018
Traduit par IA

Google s'efforce de réduire les préjugés sexistes perçus dans Google Translate, a-t-il annoncé aujourd'hui. À partir de cette semaine, les utilisateurs qui traduisent des mots et des phrases dans les langues prises en charge obtiendront des…

Les historiennes et les infirmiers n'existent pas, dit Google Translate à ses utilisateurs européens
algorithmwatch.org · 2020
Traduit par IA

Une expérience montre que Google Traduction modifie systématiquement le genre des traductions lorsqu'elles ne correspondent pas aux stéréotypes. C'est à cause de l'anglais, dit Google.

Si vous deviez lire une histoire sur des historiens mas…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

High-Toxicity Assessed on Text Involving Women and Minority Groups

Google’s comment-ranking system will be a hit with the alt-right

Feb 2017 · 9 rapports
AI Beauty Judge Did Not Like Dark Skin

A beauty contest was judged by AI and the robots didn't like dark skin

Sep 2016 · 10 rapports
Biased Sentiment Analysis

Google's sentiment analysis API is just as biased as humans

Oct 2017 · 7 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

High-Toxicity Assessed on Text Involving Women and Minority Groups

Google’s comment-ranking system will be a hit with the alt-right

Feb 2017 · 9 rapports
AI Beauty Judge Did Not Like Dark Skin

A beauty contest was judged by AI and the robots didn't like dark skin

Sep 2016 · 10 rapports
Biased Sentiment Analysis

Google's sentiment analysis API is just as biased as humans

Oct 2017 · 7 rapports

Projet et communauté

  • À propos de
  • 2f412b5