Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Welcome to the AIIDaaaa
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Entités
  • Taxonomies
  • Compteurs de mots
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Sign Up
Fermer
Découvrir
Envoyer
  • Welcome to the AIIDaaaa
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Entités
  • Taxonomies
  • Compteurs de mots
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Sign Up
Fermer

Journal des citations pour l'incident 16

Description: Google Photos image processing software mistakenly labelled a black couple as "gorillas."

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Google, a endommagé Black people.

Statistiques d'incidents

ID
16
Nombre de rapports
24
Date de l'incident
2015-06-03
Editeurs
Sean McGregor
Applied Taxonomies
CSETv1

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

16

Notes (special interest intangible harm)

Input any notes that may help explain your answers.
 

The google image tagging feature of the Google Photos app mislabeled black people as gorillas.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2015

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

06

Date of Incident Day

The day on which the incident occurred. If a precise date is unavailable, leave blank. Enter in the format of DD
 

29

Rapports d'incidents

Chronologie du rapport

+16
Google s'excuse pour le marquage automatique raciste dans l'application photo
Pourquoi Google "pensait" que cette femme noire était un gorille+5
Google Photos a toujours un problème avec les gorilles
L'application photo de Google ne trouve toujours pas les gorilles. Et Apple non plus.
Google s'excuse pour le marquage automatique raciste dans l'application photo

Google s'excuse pour le marquage automatique raciste dans l'application photo

theguardian.com

Google Photos a identifié deux Noirs comme des "gorilles"

Google Photos a identifié deux Noirs comme des "gorilles"

mashable.com

Google Photos qualifie les Noirs de "gorilles"

Google Photos qualifie les Noirs de "gorilles"

telegraph.co.uk

Google s'excuse pour la bévue raciste de l'application Photos

Google s'excuse pour la bévue raciste de l'application Photos

bbc.com

Google Photos a identifié les Noirs comme des "gorilles", mais les logiciels racistes ne sont pas nouveaux

Google Photos a identifié les Noirs comme des "gorilles", mais les logiciels racistes ne sont pas nouveaux

splinternews.com

Google Photos identifie les Noirs comme des « gorilles » et place les photos dans un dossier spécial

Google Photos identifie les Noirs comme des « gorilles » et place les photos dans un dossier spécial

independent.co.uk

L'application Google Photos identifie Jacky Alcine noir et son ami comme des GORILLES

L'application Google Photos identifie Jacky Alcine noir et son ami comme des GORILLES

dailymail.co.uk

Google Photos qualifie les Noirs de "gorilles"

Google Photos qualifie les Noirs de "gorilles"

usatoday.com

Google Photos qualifie par erreur les Noirs de « gorilles »

Google Photos qualifie par erreur les Noirs de « gorilles »

bits.blogs.nytimes.com

Étiquettes d'application Google Photo Couple noir 'Gorilles'

Étiquettes d'application Google Photo Couple noir 'Gorilles'

news.sky.com

Google s'excuse d'avoir mal étiqueté des photos d'Afro-Américains

Google s'excuse d'avoir mal étiqueté des photos d'Afro-Américains

cbsnews.com

Google se précipite pour réparer un logiciel qui a servi d'insulte raciale

Google se précipite pour réparer un logiciel qui a servi d'insulte raciale

edition.cnn.com

Google identifie par erreur les Noirs comme des «gorilles», montrant les limites des algorithmes

Google identifie par erreur les Noirs comme des «gorilles», montrant les limites des algorithmes

blogs.wsj.com

Google s'excuse après que l'application ait qualifié par erreur les Noirs de "gorilles"

Google s'excuse après que l'application ait qualifié par erreur les Noirs de "gorilles"

cbc.ca

Google Photos identifie deux Afro-Américains comme des gorilles grâce à un logiciel de reconnaissance faciale

Google Photos identifie deux Afro-Américains comme des gorilles grâce à un logiciel de reconnaissance faciale

forbes.com

Google s'excuse d'avoir identifié des photos de personnes noires comme des "gorilles"

Google s'excuse d'avoir identifié des photos de personnes noires comme des "gorilles"

huffingtonpost.com

Pourquoi Google "pensait" que cette femme noire était un gorille

Pourquoi Google "pensait" que cette femme noire était un gorille

wnycstudios.org

Google Photos a toujours un problème avec les gorilles

Google Photos a toujours un problème avec les gorilles

technologyreview.com

Quand il s'agit de gorilles, Google Photos reste aveugle

Quand il s'agit de gorilles, Google Photos reste aveugle

wired.com

Deux ans plus tard, Google résout le problème de "l'algorithme raciste" en supprimant l'étiquette "gorille" du classificateur d'images

Deux ans plus tard, Google résout le problème de "l'algorithme raciste" en supprimant l'étiquette "gorille" du classificateur d'images

boingboing.net

Google a supprimé les gorilles de la recherche pour corriger l'algorithme raciste

Google a supprimé les gorilles de la recherche pour corriger l'algorithme raciste

nymag.com

La solution de Google au racisme algorithmique accidentel : bannir les gorilles

La solution de Google au racisme algorithmique accidentel : bannir les gorilles

theguardian.com

Google a « corrigé » son algorithme qui classait les gens dans la catégorie des « gorilles » avec une solution pas si élégante

Google a « corrigé » son algorithme qui classait les gens dans la catégorie des « gorilles » avec une solution pas si élégante

firstpost.com

L'application photo de Google ne trouve toujours pas les gorilles. Et Apple non plus.

L'application photo de Google ne trouve toujours pas les gorilles. Et Apple non plus.

nytimes.com

Google s'excuse pour le marquage automatique raciste dans l'application photo
theguardian.com · 2015
Traduit par IA

Google s'est excusé après que sa nouvelle application photo ait qualifié deux Noirs de "gorilles".

Le service photo, lancé en mai, marque automatiquement les photos téléchargées à l'aide de son propre logiciel d'intelligence artificielle.

"…

Google Photos a identifié deux Noirs comme des "gorilles"
mashable.com · 2015
Traduit par IA

Google Photos utilise un logiciel sophistiqué de reconnaissance faciale pour identifier non seulement les individus, mais également des catégories spécifiques d'objets et de types de photos, comme la nourriture, les chats et les horizons.

C…

Google Photos qualifie les Noirs de "gorilles"
telegraph.co.uk · 2015
Traduit par IA

Google a supprimé la balise "gorille" de sa nouvelle application Photos, après qu'un utilisateur a remarqué qu'elle avait déposé un certain nombre de photos de lui et de son ami noir dans un album généré automatiquement nommé "gorilles".

L'…

Google s'excuse pour la bévue raciste de l'application Photos
bbc.com · 2015
Traduit par IA

M. Alcine a tweeté Google sur le fait que son application avait mal classé sa photo

Google se dit "consterné" que sa nouvelle application Photos ait qualifié à tort un couple noir de "gorilles".

Son produit marque automatiquement les images…

Google Photos a identifié les Noirs comme des "gorilles", mais les logiciels racistes ne sont pas nouveaux
splinternews.com · 2015
Traduit par IA

Google a récemment été critiqué pour un "pépin" objectivement raciste trouvé dans sa nouvelle application Photos pour iOS et Android qui identifie les Noirs comme des "gorilles".

En théorie, Photos est censé agir comme un assistant numériqu…

Google Photos identifie les Noirs comme des « gorilles » et place les photos dans un dossier spécial
independent.co.uk · 2015
Traduit par IA

L'algorithme de reconnaissance d'images de Google étiquette les photos de personnes noires comme des gorilles et les place dans un album spécial.

Le logiciel de reconnaissance automatique est destiné à repérer les caractéristiques des photo…

L'application Google Photos identifie Jacky Alcine noir et son ami comme des GORILLES
dailymail.co.uk · 2015
Traduit par IA

Google a été contraint de s'excuser après que son logiciel de reconnaissance d'images ait mal étiqueté des photographies de personnes noires comme des gorilles.

La nouvelle application Google Photos du géant de l'Internet utilise une foncti…

Google Photos qualifie les Noirs de "gorilles"
usatoday.com · 2015
Traduit par IA

Google a lancé son application Photos lors de Google I/O en mai. Ici, les membres du personnel attendent pour enregistrer les participants à la conférence au Moscone Center de San Francisco. (Photo : Jeff Chiu, Associated Press)

SAN FRANCIS…

Google Photos qualifie par erreur les Noirs de « gorilles �»
bits.blogs.nytimes.com · 2015
Traduit par IA

Google a continué de s'excuser mercredi pour une faille dans Google Photos, qui a été publiée en grande pompe en mai, qui a conduit la nouvelle application à étiqueter par erreur des photos de personnes noires comme "gorilles".

La société a…

Étiquettes d'application Google Photo Couple noir 'Gorilles'
news.sky.com · 2015
Traduit par IA

Google s'est dit "vraiment désolé" après que son logiciel de reconnaissance d'images ait qualifié les photographies d'un couple noir de "gorilles".

L'application Google Photos, lancée en mai, utilise un outil de marquage automatique pour ai…

Google s'excuse d'avoir mal étiqueté des photos d'Afro-Américains
cbsnews.com · 2015
Traduit par IA

Google n'a pas tardé à répondre au cours du week-end à un utilisateur après avoir tweeté que la nouvelle application Google Photos avait mal classé une photo de lui et de son ami de manière malheureuse et offensante.

Jacky Alciné, un progra…

Google se précipite pour réparer un logiciel qui a servi d'insulte raciale
edition.cnn.com · 2015
Traduit par IA

Faits saillants de l'histoire Google Photos a marqué les photos d'un homme afro-américain de lui et d'un ami comme "Gorilles"

Il a souligné le problème sur Twitter, attirant l'attention d'un ingénieur de Google

(CNN) Lorsque Jacky Alcine a …

Google identifie par erreur les Noirs comme des «gorilles», montrant les limites des algorithmes
blogs.wsj.com · 2015
Traduit par IA

Google est un leader de l'intelligence artificielle et de l'apprentissage automatique. Mais les ordinateurs de l'entreprise ont encore beaucoup à apprendre, à en juger par une erreur majeure de son application Photos cette semaine.

L'applic…

Google s'excuse après que l'application ait qualifié par erreur les Noirs de "gorilles"
cbc.ca · 2015
Traduit par IA

Google a été critiqué après que la fonction de reconnaissance d'images de son application Photos ait identifié par erreur les personnes à la peau foncée comme des "gorilles".

Jacky Alciné de New York a tweeté dimanche une photo de lui et d'…

Google Photos identifie deux Afro-Américains comme des gorilles grâce à un logiciel de reconnaissance faciale
forbes.com · 2015
Traduit par IA

Lorsque Jacky Alcine, originaire de Brooklyn, s'est connecté à Google Photos dimanche soir, il a été choqué de trouver un album intitulé "Gorilles", dans lequel le logiciel de reconnaissance faciale le catégorisait, lui et son ami, comme de…

Google s'excuse d'avoir identifié des photos de personnes noires comme des "gorilles"
huffingtonpost.com · 2015
Traduit par IA

Lorsque Jacky Alciné a vérifié son application Google Photos plus tôt cette semaine, il a remarqué qu'elle étiquetait des photos de lui et d'un ami, tous deux noirs, comme des "gorilles".

Le programmeur de Brooklyn a posté ses captures d'éc…

Pourquoi Google "pensait" que cette femme noire était un gorille
wnycstudios.org · 2015
Traduit par IA

Partagez ceci sur Twitter (Ouvre dans une nouvelle fenêtre)

Partagez ceci sur Facebook (Ouvre dans une nouvelle fenêtre)

Partagez ceci sur Twitter (Ouvre dans une nouvelle fenêtre)

Partagez ceci sur Facebook (Ouvre dans une nouvelle fenêtre…

Google Photos a toujours un problème avec les gorilles
technologyreview.com · 2018
Traduit par IA

En 2015, Google a suscité des critiques lorsque son système de reconnaissance d'images Photos a qualifié à tort une femme noire de gorille, mais deux ans plus tard, le problème n'est toujours pas correctement résolu. Au lieu de cela, Google…

Quand il s'agit de gorilles, Google Photos reste aveugle
wired.com · 2018
Traduit par IA

En 2015, un développeur de logiciels noir a embarrassé Google en tweetant que le service Photos de l'entreprise avait qualifié les photos de lui avec un ami noir de "gorilles". Google s'est déclaré "consterné et sincèrement désolé". Un ingé…

Deux ans plus tard, Google résout le problème de "l'algorithme raciste" en supprimant l'étiquette "gorille" du classificateur d'images
boingboing.net · 2018
Traduit par IA

Deux ans plus tard, Google résout le problème de "l'algorithme raciste" en supprimant l'étiquette "gorille" du classificateur d'images

En 2015, un développeur de logiciels noir nommé Jacky Alciné a révélé que le classificateur d'images util…

Google a supprimé les gorilles de la recherche pour corriger l'algorithme raciste
nymag.com · 2018
Traduit par IA

Cela fait plus de deux ans que l'ingénieur Jacky Alciné a appelé Google Photos pour marquer automatiquement les Noirs sur ses photos en tant que "gorilles". Après avoir été appelé, Google s'est rapidement et abondamment excusé, promettant d…

La solution de Google au racisme algorithmique accidentel : bannir les gorilles
theguardian.com · 2018
Traduit par IA

L'"action immédiate" de Google sur l'étiquetage par l'IA des Noirs en tant que gorilles consistait simplement à bloquer le mot, ainsi que le chimpanzé et le singe, selon des rapports

Cet article date de plus d'un an

Cet article date de plus…

Google a « corrigé » son algorithme qui classait les gens dans la catégorie des « gorilles » avec une solution pas si élégante
firstpost.com · 2018
Traduit par IA

tech2 Nouvelles Personnel

Vous souvenez-vous du moment où l'algorithme de reconnaissance d'images de Google a créé une controverse majeure après avoir classé un couple noir dans la catégorie "Gorilles" ?

Si vous ne le faites pas, nous ne vo…

L'application photo de Google ne trouve toujours pas les gorilles. Et Apple non plus.
nytimes.com · 2023
Traduit par IA

Huit ans après une controverse sur les Noirs étiquetés à tort comme des gorilles par un logiciel d'analyse d'images – et malgré de grandes avancées dans la vision par ordinateur – les géants de la technologie craignent toujours de répéter l…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 rapports
FaceApp Racial Filters

FaceApp deletes new black, white and Asian filters after racism storm

Apr 2017 · 23 rapports
Security Robot Drowns Itself in a Fountain

DC security robot quits job by drowning itself in a fountain

Jul 2017 · 30 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 rapports
FaceApp Racial Filters

FaceApp deletes new black, white and Asian filters after racism storm

Apr 2017 · 23 rapports
Security Robot Drowns Itself in a Fountain

DC security robot quits job by drowning itself in a fountain

Jul 2017 · 30 rapports

Projet et communauté

  • À propos de
  • 2f412b5