Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Welcome to the AIIDaaaa
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Entidades
  • Taxonomías
  • Contadores de palabras
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Sign Up
Colapsar
Descubrir
Enviar
  • Welcome to the AIIDaaaa
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Entidades
  • Taxonomías
  • Contadores de palabras
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Sign Up
Colapsar

Registro de citas para el Incidente 43

Description: From 1982 to 1986, St George's Hospital Medical School used a program to automate a portion of their admissions process that resulted in discrimination against women and members of ethnic minorities.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Dr. Geoffrey Franglen developed an AI system deployed by St George's Hospital Medical School, which harmed Women y Minority Groups.

Estadísticas de incidentes

ID
43
Cantidad de informes
4
Fecha del Incidente
1998-03-05
Editores
Sean McGregor
Applied Taxonomies
CSETv1

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

43

Notes (special interest intangible harm)

Input any notes that may help explain your answers.
 

The Commission for Racial Equality found St. George's Hospital Medical School guilty of discrimination against women and members of ethnic minorities.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

1979

Informes del Incidente

Cronología de Informes

+1
Una mancha en la profesión
Computadoras que magnifican nuestros prejuicios+1
El comportamiento racista de la IA no es un problema nuevo
Una mancha en la profesión

Una mancha en la profesión

europepmc.org

Computadoras que magnifican nuestros prejuicios

Computadoras que magnifican nuestros prejuicios

marginalrevolution.com

El comportamiento racista de la IA no es un problema nuevo

El comportamiento racista de la IA no es un problema nuevo

natbuckley.co.uk

racista en la máquina

racista en la máquina

read.dukeupress.edu

Una mancha en la profesión
europepmc.org · 1998
Traducido por IA

Una mancha en la profesión

Durante mucho tiempo se sospechó de la discriminación en la medicina contra las mujeres y los miembros de minorías étnicas, pero ahora se ha demostrado. La Escuela de Medicina del Hospital St George's ha sido decl…

Computadoras que magnifican nuestros prejuicios
marginalrevolution.com · 2013
Traducido por IA

A medida que la IA se propague, este se convertirá en un tema cada vez más importante y controvertido:

Para una universidad británica, lo que comenzó como un ejercicio de ahorro de tiempo terminó en desgracia cuando un modelo de computadora…

El comportamiento racista de la IA no es un problema nuevo
natbuckley.co.uk · 2016
Traducido por IA

La profesora Margaret Boden, investigadora de inteligencia artificial y ciencias cognitivas, se tomó el tiempo para hablarme en 2010 sobre computadoras, inteligencia artificial, moralidad y el futuro. Una de las historias que me contó vuelv…

racista en la máquina
read.dukeupress.edu · 2016
Traducido por IA

Las empresas y los gobiernos deben prestar atención a los sesgos inconscientes e institucionales que se filtran en sus algoritmos, argumenta la experta en ciberseguridad Megan García. Los datos distorsionados pueden sesgar los resultados en…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Female Applicants Down-Ranked by Amazon Recruiting Tool

2018 in Review: 10 AI Failures

Aug 2016 · 33 informes
AI Beauty Judge Did Not Like Dark Skin

A beauty contest was judged by AI and the robots didn't like dark skin

Sep 2016 · 10 informes
Sexist and Racist Google Adsense Advertisements

Discrimination in Online Ad Delivery

Jan 2013 · 27 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Female Applicants Down-Ranked by Amazon Recruiting Tool

2018 in Review: 10 AI Failures

Aug 2016 · 33 informes
AI Beauty Judge Did Not Like Dark Skin

A beauty contest was judged by AI and the robots didn't like dark skin

Sep 2016 · 10 informes
Sexist and Racist Google Adsense Advertisements

Discrimination in Online Ad Delivery

Jan 2013 · 27 informes

Proyecto y Comunidad

  • Acerca de
  • 2f412b5