Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Welcome to the AIIDaaaa
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Entités
  • Taxonomies
  • Compteurs de mots
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Sign Up
Fermer
Découvrir
Envoyer
  • Welcome to the AIIDaaaa
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Entités
  • Taxonomies
  • Compteurs de mots
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Sign Up
Fermer

Journal des citations pour l'incident 49

Description: In 2016, after artificial inntelligence software Beauty.AI judged an international beauty contest and declared a majority of winners to be white, researchers found that Beauty.AI was racially biased in determining beauty.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Youth Laboratories, a endommagé People with Dark Skin.

Statistiques d'incidents

ID
49
Nombre de rapports
10
Date de l'incident
2016-09-05
Editeurs
Sean McGregor
Applied Taxonomies
CSETv1

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

49

Notes (special interest intangible harm)

Input any notes that may help explain your answers.
 

Beauty.ai determined mostly white applicants to be most attractive among all contestants.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2016

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

08

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

No

Rapports d'incidents

Chronologie du rapport

+6
Pourquoi un concours de beauté jugé par l'IA a choisi presque tous les gagnants blancs
Le tout premier concours de beauté jugé par l'intelligence artificielleQue se passe-t-il lorsque les algorithmes de votre entreprise tournent mal ?L'intelligence artificielle a un problème de racismeL'intelligence artificielle a un problème de biais, et c'est notre faute
Pourquoi un concours de beauté jugé par l'IA a choisi presque tous les gagnants blancs

Pourquoi un concours de beauté jugé par l'IA a choisi presque tous les gagnants blancs

motherboard.vice.com

Le premier concours de beauté jugé par l'IA nous a appris une chose : les robots sont racistes

Le premier concours de beauté jugé par l'IA nous a appris une chose : les robots sont racistes

thenextweb.com

Un concours de beauté a été jugé par l'IA et les robots n'aimaient pas la peau foncée

Un concours de beauté a été jugé par l'IA et les robots n'aimaient pas la peau foncée

theguardian.com

L'IA est-elle RACISTE ? Un concours de beauté jugé par des robots sélectionne principalement des gagnants blancs sur 6 000 candidats

L'IA est-elle RACISTE ? Un concours de beauté jugé par des robots sélectionne principalement des gagnants blancs sur 6 000 candidats

dailymail.co.uk

Un concours de beauté a été jugé par l'IA et les robots n'aimaient pas la peau foncée

Un concours de beauté a été jugé par l'IA et les robots n'aimaient pas la peau foncée

theguardian.com

Les juges de l'IA du concours de beauté qualifiés de racistes

Les juges de l'IA du concours de beauté qualifiés de racistes

trustedreviews.com

Le tout premier concours de beauté jugé par l'intelligence artificielle

Le tout premier concours de beauté jugé par l'intelligence artificielle

gineersnow.com

Que se passe-t-il lorsque les algorithmes de votre entreprise tournent mal ?

Que se passe-t-il lorsque les algorithmes de votre entreprise tournent mal ?

hbr.org

L'intelligence artificielle a un problème de racisme

L'intelligence artificielle a un problème de racisme

innotechtoday.com

L'intelligence artificielle a un problème de biais, et c'est notre faute

L'intelligence artificielle a un problème de biais, et c'est notre faute

au.pcmag.com

Pourquoi un concours de beauté jugé par l'IA a choisi presque tous les gagnants blancs
motherboard.vice.com · 2016
Traduit par IA

Image : Flickr/Veronica Jauriqui

Les concours de beauté ont toujours été politiques. Après tout, qu'est-ce qui parle plus fortement de la façon dont nous nous voyons que les traits physiques que nous récompensons comme beaux et que nous cod…

Le premier concours de beauté jugé par l'IA nous a appris une chose : les robots sont racistes
thenextweb.com · 2016
Traduit par IA

Avec plus de 6 000 candidats de plus de 100 pays en compétition, le premier concours international de beauté jugé entièrement par l'intelligence artificielle vient de se terminer. Les résultats sont un peu décourageants.

L'équipe de juges, …

Un concours de beauté a été jugé par l'IA et les robots n'aimaient pas la peau foncée
theguardian.com · 2016
Traduit par IA

Le premier concours international de beauté décidé par un algorithme a suscité la controverse après que les résultats ont révélé un facteur flagrant liant les gagnants

Le premier concours international de beauté jugé par des « machines » ét…

L'IA est-elle RACISTE ? Un concours de beauté jugé par des robots sélectionne principalement des gagnants blancs sur 6 000 candidats
dailymail.co.uk · 2016
Traduit par IA

Seuls quelques gagnants étaient asiatiques et un avait la peau foncée, la plupart étaient blancs

Quelques mois seulement après que l'intelligence artificielle Tay de Microsoft a envoyé des messages racistes sur Twitter, une autre IA semble …

Un concours de beauté a été jugé par l'IA et les robots n'aimaient pas la peau foncée
theguardian.com · 2016
Traduit par IA

Le premier concours international de beauté décidé par un algorithme a suscité la controverse après que les résultats ont révélé un facteur flagrant liant les gagnants

Le premier concours international de beauté jugé par des « machines » ét…

Les juges de l'IA du concours de beauté qualifiés de racistes
trustedreviews.com · 2016
Traduit par IA

Ce n'est pas la première fois que l'intelligence artificielle est à l'honneur pour un racisme apparent, mais les récents résultats des concours de Beauty.AI ont suscité la controverse en favorisant clairement les peaux claires.

Le concours,…

Le tout premier concours de beauté jugé par l'intelligence artificielle
gineersnow.com · 2017
Traduit par IA

Si vous participez à des concours de beauté ou si vous les regardez simplement, que penseriez-vous d'un algorithme informatique jugeant les attributs faciaux d'une personne ? Peut-être devrions-nous demander à ceux qui se sont réellement po…

Que se passe-t-il lorsque les algorithmes de votre entreprise tournent mal ?
hbr.org · 2017
Traduit par IA

Une IA conçue pour faire X finira par échouer à faire X. Les filtres anti-spam bloquent les e-mails importants, le GPS fournit des directions erronées, les traductions automatiques corrompent le sens des phrases, la correction automatique r…

L'intelligence artificielle a un problème de racisme
innotechtoday.com · 2017
Traduit par IA

On a longtemps pensé que les robots dotés d'intelligence artificielle seraient le pendant froid et purement objectif de la subjectivité émotionnelle des humains. Malheureusement, il semblerait que beaucoup de nos imperfections se soient ret…

L'intelligence artificielle a un problème de biais, et c'est notre faute
au.pcmag.com · 2018
Traduit par IA

En 2016, des chercheurs de l'Université de Boston et de Microsoft travaillaient sur des algorithmes d'intelligence artificielle lorsqu'ils ont découvert des tendances racistes et sexistes dans la technologie sous-jacente à certains des serv…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Female Applicants Down-Ranked by Amazon Recruiting Tool

2018 in Review: 10 AI Failures

Aug 2016 · 33 rapports
Gender Biases in Google Translate

Semantics derived automatically from language corpora contain human-like biases

Apr 2017 · 10 rapports
TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Female Applicants Down-Ranked by Amazon Recruiting Tool

2018 in Review: 10 AI Failures

Aug 2016 · 33 rapports
Gender Biases in Google Translate

Semantics derived automatically from language corpora contain human-like biases

Apr 2017 · 10 rapports
TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 rapports

Projet et communauté

  • À propos de
  • 2f412b5