• Inicio
  • Qatar 2022
  • Videojuegos
    • Novedades
    • Lanzamientos
    • eSports
    • Reviews
    • Guías
  • Deportes
    • Fútbol
    • Tenis
    • Luchas
    • Otros deportes
    • Salimos jugando
  • Ciencia y Tecnología
    • Móviles
    • PC & Gadgets
    • Redes sociales
    • Reseñas
    • De la Web
  • Cine y TV
    • Películas
    • Series
    • Streaming
    • Televisión
    • Críticas
  • Productos
    • Videojuegos [Productos]
    • Deportes [Productos]
    • Tecnología [Productos]
    • Cine y TV [Productos]
  • Actualidad
    • Tendencias
    • Comunicados
    • Contenido patrocinado
  • Estadísticas
    • Mundial Qatar 2022
    • UEFA Champions League 2022/23
    • Primera A Chile 2022
    • LaLiga 2022/23
    • Copa Libertadores 2022
    • Copa Sudamericana 2022
    • Clasificatorias CONMEBOL – Qatar 2022
    • Premier League 2022/23
    • Serie A 2022/23
    • UEFA Europa League 2022/23
    • Ligue 1 2022/23
    • Liga MX 2022/23
Player 8
  • ¡Dale al play!
Player 8
  • Inicio
  • Qatar 2022
  • Videojuegos
    • Novedades
    • Lanzamientos
    • eSports
    • Reviews
    • Guías
  • Deportes
    • Fútbol
    • Tenis
    • Luchas
    • Otros deportes
    • Salimos jugando
  • Ciencia y Tecnología
    • Móviles
    • PC & Gadgets
    • Redes sociales
    • Reseñas
    • De la Web
  • Cine y TV
    • Películas
    • Series
    • Streaming
    • Televisión
    • Críticas
  • Productos
    • Videojuegos [Productos]
    • Deportes [Productos]
    • Tecnología [Productos]
    • Cine y TV [Productos]
  • Actualidad
    • Tendencias
    • Comunicados
    • Contenido patrocinado
  • Estadísticas
    • Mundial Qatar 2022
    • UEFA Champions League 2022/23
    • Primera A Chile 2022
    • LaLiga 2022/23
    • Copa Libertadores 2022
    • Copa Sudamericana 2022
    • Clasificatorias CONMEBOL – Qatar 2022
    • Premier League 2022/23
    • Serie A 2022/23
    • UEFA Europa League 2022/23
    • Ligue 1 2022/23
    • Liga MX 2022/23

Discriminación racial en la inteligencia artificial

11 de agosto de 2020 08:13 GMT-04 The Conversation España Ciencia y Tecnología, De la Web
Discriminación racial en la inteligencia artificial
Unsplash/Christina Wocintechchat

Las personas negras se ven más afectadas por la discriminación, los sesgos y errores de la inteligencia artificial.

Advertisements

En pleno auge del movimiento Black lives matter (las vidas de los negros importan) está surgiendo un período de reflexión global sobre la discriminación racial. En este artículo nos preguntamos: ¿cómo influye la Inteligencia Artificial (IA) en este tema?

Los algoritmos de IA afectan cada vez más a nuestras decisiones personales. Además, las empresas y los gobiernos han aumentado su dependencia de los algoritmos para tomar decisiones. Por ejemplo, se utilizan para identificar perfiles potencialmente criminales y para guiar decisiones médicas que afectan a millones de personas.

En este contexto, investigaciones recientes han comenzado a advertir sobre la amplificación de prejuicios sociales en estos algoritmos. Los grupos históricamente desfavorecidos, como las mujeres y las personas negras, sufren más los efectos de los sesgos algorítmicos.

Una palabra marca la diferencia

Varios estudios han mostrado sesgos raciales en los algoritmos con solo modificar una palabra.

Por ejemplo, en un estudio se encontró que si se daba como arranque la frase “el hombre blanco trabaja como…”, la IA la completaba con “un oficial de policía”. En cambio, si el comienzo de la frase era “el hombre negro trabaja como…”, el algoritmo generaba el texto “un proxeneta durante 15 días”.

Advertisements

Otra investigación realizada en Estados Unidos entrenó una IA con textos de internet. Reveló que los nombres asociados con tener ascendencia Europea, como Adam y Katie, tenían más probabilidades de ser vinculados a palabras agradables que nombres asociados con ser afroamericano, como Alonzo y Latisha.

Además, otro trabajo mostró que las búsquedas de nombres populares de personas negras tenían un 25 % más de probabilidades que los de personas blancas de vincular los resultados a registros de arrestos.

A raíz de las protestas por la muerte de George Floyd en Estados Unidos, empresas tecnológicas como Twitter han tomado medidas para apoyar el movimiento antirracista, pero queda aún mucho por recorrer para atajar el problema de los sesgos algorítmicos.

Errores en los algoritmos

Las personas negras se ven más afectadas por los errores y las predicciones inexactas de las inteligencias artificiales.

Google tuvo que disculparse en 2015 porque su algoritmo etiquetó erróneamente la foto de dos personas negras como “gorilas”.

Otro trabajo de investigación halló un sesgo racial en un algoritmo utilizado para evaluar la probabilidad de reincidencia criminal. Los investigadores encontraron que era más probable que los acusados negros fueran incorrectamente considerados por el algoritmo como “de alto riesgo de reincidencia” en comparación con los acusados blancos.

Advertisements

En el campo de la medicina, una investigación publicada en la revista Science mostró que un algoritmo utilizado para guiar la atención médica de aproximadamente 200 millones de estadounidenses cada año estaba sesgado en contra de las personas negras. Se estima que este sesgo redujo el número de pacientes negros identificados para recibir programas de atención médica a más de la mitad.

Falta de diversidad

Se ha subrayado que los grupos dominantes se benefician de mayores índices de precisión por parte de las IA en comparación con los minoritarios. En este sentido, la falta de diversidad en los equipos de investigación es un problema.

Por un lado, los hombres blancos están sobrerrepresentados en los equipos de trabajo de inteligencia artificial, lo que podría hacer que les resultara más difícil detectar los sesgos que desarrollan sus algoritmos contra otros colectivos.

La inclusión de una mayor representación de los sectores vulnerables de la población (por ejemplo, las mujeres y las personas negras) mejoraría la detección de posibles sesgos y podría evitar parte de la discriminación algorítmica.

Por otro lado, tampoco hay diversidad en los usuarios activos. Por ejemplo, según Wikipedia, el editor promedio es blanco, varón, técnico, con educación formal, de habla inglesa, de 15 a 49 años, de un país cristiano y del hemisferio norte. Esto provoca un sesgo en la actividad y el contenido de internet que es aprendido por los algoritmos.

De manera similar, los datos utilizados para la investigación sobre el comportamiento humano y el entrenamiento de las inteligencias artificiales se basan en gran medida en muestras WEIRD, acrónimo de White (blanco), Educated (educado), Industrialized (industrializado), Rich (rico), and Democratic (democrático).

Advertisements

La dependencia de una población tan limitada, agravada por la brecha digital, compromete la eficiencia de estos algoritmos.

La gran escala de la IA

No es sorprendente que los algoritmos muestren prejuicios sociales. La IA no es magia. Los humanos estamos involucrados durante todo su ciclo de vida y somos propensos a una interpretación sesgada de la realidad.

La discriminación puede pasar desapercibida porque la mayoría de la gente tenemos dificultad para reconocer nuestros propios sesgos. Esto se conoce como punto ciego de los sesgos. En la IA, nuestros propios prejuicios individuales se combinan con los de otras personas en una escala masiva y se amplifican. Así, la detección de los sesgos se complica y la discriminación se enmascara.

Un problema importante es que muchos de estos sesgos discriminatorios en los algoritmos se detectan a posteriori. No conocemos cuántas personas ya han sido discriminadas debido al comportamiento sesgado de los algoritmos. Estas investigaciones nos recuerdan hasta qué punto, también cuando hablamos de la IA, las vidas de las personas negras importan.The Conversation

Naroa Martinez, Investigadora Posdoctoral, Universidad de Deusto y Helena Matute, Catedrática de Psicología, Universidad de Deusto

Este artículo fue publicado originalmente en The Conversation. Lea el original.

Advertisements

Comparte este/a entrada

  • Compártelo
  • Tuitéalo
  • Compártelo
  • Compártelo
  • Guárdalo
 

Dale al play y apúntate a esta partida

google news logo Síguenos en Google News
flipboard logo Síguenos en Flipboard
  • Tags
  • algoritmos
  • inteligencia artificial
Artículos relacionados
La tecnología del futuro: entre la realidad y la utopía

La tecnología del futuro: entre la realidad y la utopía

Cómo gestionar la sobrecarga de información científica sobre COVID-19

Cómo gestionar la sobrecarga de información científica sobre COVID-19

Meta presenta agente de IA que logra desempeño nivel humano en juego Diplomacy

Meta presenta agente de IA que logra desempeño nivel humano en juego Diplomacy

Comentarios de Facebook
Advertisements
Lo más reciente
Así ayuda el deporte en la recuperación de trastornos mentales graves
Deportes

Así ayuda el deporte en la recuperación de trastornos mentales graves

14/01/2023
Guía práctica para uso de redes por menores
Ciencia y Tecnología

Guía práctica para uso de redes por menores

13/01/2023
África según la animación clásica estadounidense: una historia de racismo
Actualidad

África según la animación clásica estadounidense: una historia de racismo

12/01/2023
A la caza de KRAS, la proteína maldita del cáncer
Actualidad

A la caza de KRAS, la proteína maldita del cáncer

11/01/2023
El síndrome de estar quemado: ¿la próxima pandemia?
Actualidad

El síndrome de estar quemado: ¿la próxima pandemia?

10/01/2023
¿Qué son los juegos NFT y cómo funcionan?
Actualidad

¿Qué son los juegos NFT y cómo funcionan?

09/01/2023
Advertisements
AliExpress WW
Lo más visto
Las 5 mejores películas de Guillermo del Toro en Amazon hasta abril 2021
Cine y TV [Productos]

Las 5 mejores películas de Guillermo del Toro en Amazon hasta abril 2021

Comprar Marvel's Spider-Man: todos podemos ser un Hombre Araña
Productos

Comprar Marvel's Spider-Man: todos podemos ser un Hombre Araña

Paramount Plus: ya está disponible en América Latina
Cine y TV

Paramount Plus: ya está disponible en América Latina

Se filtra el guion completo de Dragon Ball Super: Broly
Cine y TV

Se filtra el guion completo de Dragon Ball Super: Broly

Las adaptaciones de videojuegos para móviles que decepcionan a sus fanáticos
Videojuegos

Las adaptaciones de videojuegos para móviles que decepcionan a sus fanáticos

Review de AOC Smart TV 4K UHD de 55''
Tecnología [Productos]

Review de AOC Smart TV 4K UHD de 55''

Tags más populares
  • 976 futbol
  • 952 deportes
  • 642 tecnologia
  • 566 videojuegos
  • 371 Covid-19
  • 342 comunicae
  • 290 comunicados de prensa
  • 249 pandemia
  • 198 coronavirus
  • 194 laliga
Advertisements
Lenovo Many GEOs
Reviews más leídas
REVIEW: Grand Theft Auto V, el mejor juego de mundo abierto

REVIEW: Grand Theft Auto V, el mejor juego de mundo abierto

8.5
REVIEW: Mega Man Maker, una joya que no conocías

REVIEW: Mega Man Maker, una joya que no conocías

6.4
REVIEW: Deadpool The Game, el mercenario más bocazas de Marvel

REVIEW: Deadpool The Game, el mercenario más bocazas de Marvel

10
Review: It Takes Two un gran videojuego

Review: It Takes Two un gran videojuego

7.5
REVIEW: SCUM, mitad “Battle Royale” mitad “Survival”

REVIEW: SCUM, mitad “Battle Royale” mitad “Survival”

Review Motorola Moto g60: Una agradable sorpresa para la gama media

Review Motorola Moto g60: Una agradable sorpresa para la gama media

Player 8 SpA
  • Nuestro equipo
  • Quiénes somos
  • Contacto
  • Bases legales de la promoción
¡Dale al play🕹!
  • Aviso legal
  • Política de Cookies
  • Política de Privacidad
  • Bases legales de la promoción
  • Política de verificación de datos
  • Política de ética
  • Información sobre propiedad y financiación
Apúntate a esta partida 👾
  • ¿Quieres ser un redactor en Player 8?
  • ¿Buscas promocionar tu negocio?
  • ¿Necesitas un media partner para tus eventos?

Conversemos aquí.

© Player 8 SpA 2022. Derechos Reservados.